Filtros de seguridad de inteligencia artificial obstaculizan la labor de investigadores de ciberseguridad ofensiva

Qué pasó

Las principales compañías de inteligencia artificial han establecido en los últimos meses programas de acceso verificado y filtros de seguridad orientados a restringir el uso de sus modelos por parte de actores maliciosos. Sin embargo, estas medidas, concebidas para impedir el desarrollo de ciberataques, están impactando la labor de los investigadores legítimos de ciberseguridad, según un reportaje del medio especializado TechCrunch publicado el 23 de julio.

En junio, el gobierno de Estados Unidos impuso restricciones de control de exportaciones sobre los modelos Mythos y Fable, desarrollados por Anthropic. La medida fue adoptada tras un informe que sostenía la posibilidad de eludir los filtros de seguridad diseñados para evitar el uso de dichos modelos en ataques cibernéticos. Las restricciones fueron levantadas con posterioridad: Fable 5 volvió al acceso general el 1 de julio, en tanto Mythos 5 fue reincorporado únicamente para organizaciones estadounidenses previamente evaluadas por el gobierno.

Tanto Anthropic como OpenAI ofrecen a los investigadores programas formales de verificación que permiten acceder a versiones con menores restricciones de sus modelos, bajo las denominaciones Trusted Access for Cyber y Cyber Verification Program, respectivamente. Dichos esquemas han sido cuestionados por la comunidad dedicada a identificar vulnerabilidades desconocidas antes de que sean explotadas por actores criminales.

El investigador Mark Dowd afirmó en un podcast especializado que no le resulta cómodo que grandes empresas tecnológicas adopten decisiones arbitrarias sobre lo que resulta seguro en materia de seguridad informática. Dowd ha dedicado décadas a la identificación y venta de vulnerabilidades de día cero a gobiernos occidentales. El científico jefe de la consultora NCC Group, Chris Anley, coincidió en la relevancia de consultar modelos de inteligencia artificial para confirmar si un error detectado corresponde efectivamente a una vulnerabilidad explotable.

Contexto

El debate se enmarca en una creciente tensión entre los desarrolladores de inteligencia artificial y la comunidad de ciberseguridad. Las grandes compañías del sector han incrementado sus inversiones en mecanismos de alineamiento y filtros de protección con el propósito de evitar que sus herramientas sean utilizadas para generar código malicioso o automatizar ataques.

El equilibrio entre seguridad y funcionalidad se ha vuelto particularmente complejo en los modelos de lenguaje de gran tamaño, cuya capacidad para asistir en tareas de programación y análisis técnico los convierte en herramientas valiosas tanto para defensores como para atacantes. Anthropic ha promocionado Mythos como un sistema de uso altamente restringido, reservado para usuarios cuidadosamente evaluados.

Las restricciones de exportación del gobierno estadounidense responden a una tendencia creciente en materia de regulación tecnológica, orientada a controlar la difusión de capacidades avanzadas de inteligencia artificial que podrían representar riesgos para la seguridad nacional. Investigadores argumentan que los procesos de verificación introducen demoras y arbitrariedad en el acceso a herramientas esenciales para su labor.

Impacto para empresas chilenas

Para el mercado local, este debate resulta relevante dado el proceso de digitalización que atraviesan las empresas chilenas, incluidas las pequeñas y medianas. La dependencia de proveedores globales de inteligencia artificial expone a las compañías nacionales a los mismos condicionamientos que enfrentan sus pares internacionales en materia de acceso a tecnología avanzada.

Las firmas de consultoría de seguridad que operan en Chile y los equipos internos de defensa de grandes corporaciones podrían enfrentar restricciones equivalentes al intentar utilizar modelos de inteligencia artificial para pruebas de penetración, análisis de vulnerabilidades o simulaciones de ataques. Filiales locales de firmas internacionales y proveedores de servicios gestionados deberán adaptarse a las nuevas exigencias regulatorias, con potenciales incrementos de costos y plazos.

El sector público chileno, que ha intensificado su interés en incorporar herramientas de inteligencia artificial en áreas como protección de infraestructura crítica y prevención del fraude, también podría verse afectado por estas restricciones, particularmente en proyectos que requieran colaboración internacional. La discusión sobre criterios de verificación adquiere relevancia para reguladores, empresas y la comunidad académica local.

Qué sigue

La controversia en torno a los filtros de seguridad probablemente se intensificará en los próximos meses, a medida que más empresas adopten esquemas similares de acceso verificado. Organizaciones de la industria y asociaciones profesionales podrían presionar por estándares comunes que equilibren las necesidades de seguridad nacional con la continuidad del trabajo de investigación independiente.

En el ámbito regulatorio, se anticipa un mayor escrutinio por parte de gobiernos y organismos multilaterales respecto de los criterios de las compañías para restringir el acceso a sus modelos. La definición de marcos normativos que consideren las particularidades del trabajo de los investigadores de ciberseguridad se perfila como uno de los desafíos pendientes para la industria global.