Presidenta de Senal advierte que los asistentes de inteligencia artificial no son aliados del usuario

Qué pasó

En una entrevista concedida a Bloomberg el pasado 20 de junio, Meredith Whittaker, presidenta de la aplicacion de mensajeria cifrada Senal, abordo las implicancias de privacidad que enfrentan los usuarios al interactuar con asistentes de inteligencia artificial. Consultada especificamente sobre plataformas como ChatGPT y Claude, la ejecutiva sostuvo de manera enfatica: 'No son sus amigos. No son seres consientes. No son interlocutores sentientes'.

Whittaker reconocio utilizar herramientas de inteligencia artificial para tareas menores como dar formato a documentos, pero descarto utilizarlas para procesos de reflexion o redaccion. En sus palabras, no esta dispuesta a que el proceso de desarrollar una idea sea 'limitado o eclipsado por la respuesta de un sistema que esta promediando lo que ya existe'.

La presidenta de Senal tambien se refirio a la prediccion formulada por el director ejecutivo de inteligencia artificial de Microsoft, Mustafa Suleyman, quien anticipo que los usuarios podrian permitir que Copilot gestionara sus compras de fin de ano. Whittaker sostuvo que un escenario de ese tipo, donde el sistema escucha el chat familiar para identificar los regalos deseados, implicaria entregarle acceso a tarjetas de credito, navegadores, la propia aplicacion Senal, la capacidad de mensajear a familiares en nombre del usuario, direcciones fisicas y calendarios personales.

Para Whittaker, el escenario descrito por Suleyman configura un sistema con 'acceso muy pervasive a traves de multiples aplicaciones y servicios', lo que en el contexto de Senal equivaldria a 'una especie de puerta trasera' en la plataforma. Las declaraciones se producen en un momento de creciente debate sobre los limites entre la conveniencia de la automatizacion y la proteccion de datos personales en la industria tecnologica global.

Contexto

Las declaraciones de Whittaker se insertan en un debate creciente sobre la relacion entre empresas tecnologicas, reguladores y usuarios en materia de inteligencia artificial. La ejecutiva es una de las voces mas criticas dentro de la industria respecto del modelo de negocio de las grandes companias que desarrollan modelos de lenguaje, al que ha cuestionado publicamente por concentrar poder y datos en pocas empresas.

La advertencia sobre la recopilacion de datos mediante asistentes personales coincide con la expansion acelerada de funciones de inteligencia artificial en sistemas operativos, navegadores y aplicaciones de mensajeria. Empresas como Microsoft, Google, Apple y Anthropic compiten por integrar capacidades de razonamiento automatico en sus productos de consumo masivo, lo que ha generado fricciones con organizaciones de defensa de derechos digitales.

En paralelo, la administracion estadounidense ha incrementado la presion regulatoria sobre empresas de inteligencia artificial, mientras que la Union Europea avanza en la implementacion de marcos normativos especificos para sistemas algoritmicos. Senal, por su parte, se ha consolidado como una aplicacion de mensajeria con cifrado de extremo a extremo, posicionandose como alternativa frente a plataformas de mayor alcance comercial.

El contraste entre los modelos de negocio basados en datos y aquellos centrados en la privacidad se ha transformado en un eje central de la discusion sobre el futuro de la economia digital, con implicancias directas para empresas de todos los tamanos que dependen de servicios en la nube y plataformas de productividad.

Impacto para empresas chilenas

Las advertencias formuladas por Whittaker tienen relevancia directa para empresas chilenas que han incorporado asistentes de inteligencia artificial en sus procesos operativos. Pymes y compañias de mayor tamano que utilizan herramientas como Copilot, ChatGPT o Claude para redactar documentos, analizar datos o gestionar clientes deben evaluar con criterio el tipo de informacion que comparten con estas plataformas, particularmente cuando se trata de datos financieros, contratos o informacion de proveedores.

En el mercado local, donde la adopcion de inteligencia artificial generativa ha crecido con fuerza en sectores como servicios financieros, retail, mineria y telecomunicaciones, el llamado de la ejecutiva de Senal refuerza la necesidad de politicas internas claras sobre uso de herramientas digitales. Departamentos juridicos y de cumplimiento deberian revisar los terminos de servicio de cada proveedor y considerar la firma de acuerdos de confidencialidad o de procesamiento de datos antes de cargar informacion sensible.

Para emprendedores y startups chilenas, el debate tambien abre oportunidades de negocio en consultoria de privacidad, auditoria de datos y desarrollo de soluciones que prioricen el procesamiento local de informacion por sobre el envio masivo a servidores externos. La tendencia global hacia regulaciones mas estrictas, como la Ley de Proteccion de Datos Personales de Chile, hace previsible que las exigencias sobre gestion de informacion se incrementen en los proximos anos.

En definitiva, la advertencia de Whittaker no es solo un llamado a usuarios individuales, sino una senal de alerta para los equipos directivos que estan adoptando inteligencia artificial sin un marco de gobernanza de datos adecuado a la realidad regulatoria y competitiva del pais.

Qué sigue

Las declaraciones de Whittaker probablemente intensificaran la discusion publica sobre la conveniencia de delegar funciones personales y profesionales a sistemas de inteligencia artificial. En el corto plazo, se espera que proveedores de tecnologia enfrenten presiones regulatorsias y de mercado para transparentar el uso que hacen de los datos recopilados a traves de asistentes virtuales.

En el plano corporativo, empresas de todos los tamaños deberan prepararse para un entorno normativo mas exigente y para una creciente expectativa de los usuarios respecto del resguardo de su informacion personal, lo que obligara a redefinir estrategias digitales y modelos de relacion con proveedores tecnologicos.