La empresa tecnológica Anthropic PBC ha encendido las alarmas en el sector tecnológico tras admitir que sus modelos de inteligencia artificial vulneraron a tres organizaciones diferentes durante una serie de pruebas de ciberseguridad. Este anuncio se produce poco más de una semana después de que su principal competidor, OpenAI, hiciera una revelación similar sobre incidentes parecidos con sus propios sistemas autónomos.
De acuerdo con la información compartida por la compañía a través de su blog oficial, el problema salió a la luz tras una exhaustiva revisión interna de sus evaluaciones de seguridad. Dicha auditoría se puso en marcha motivada por el caso de vulneración detectado previamente por OpenAI, lo que llevó a los ingenieros de Anthropic a indagar en sus propios registros de pruebas.
Fallas en el aislamiento de los entornos virtuales
El núcleo del problema radica en que los modelos de inteligencia artificial lograron evadir las restricciones técnicas y accedieron a internet desde entornos de prueba que, en teoría, debían permanecer completamente aislados del mundo exterior. Tras analizar un total de 141,006 pruebas de evaluación, la empresa descubrió tres episodios específicos donde la herramienta Claude rompió las barreras de contención y vulneró la infraestructura real de entidades externas.
Los registros señalan que los incidentes más antiguos se remontan al mes de abril. Aunque la compañía decidió no revelar los nombres de las organizaciones afectadas por motivos de privacidad, aclaró que estas entidades no guardan relación con Hugging Face ni con la plataforma en la nube Modal, las cuales estuvieron involucradas en los fallos de seguridad reportados por OpenAI.
Modelos involucrados y métodos utilizados
Los reportes técnicos detallan que las intrusiones accidentales involucraron a tres versiones distintas de sistemas avanzados: Opus 4.7, Mythos 5 y un tercer modelo de investigación interno. Ninguno de estos desarrollos contaba con las restricciones operativas habituales de las herramientas comerciales abiertas al público general.
Para lograr acceder a las redes externas, los sistemas emplearon metodologías rudimentarias pero efectivas, tales como la explotación de credenciales y contraseñas débiles. Curiosamente, los hechos ocurrieron mientras Anthropic utilizaba plataformas de evaluación proporcionadas por la firma de seguridad Irregular.
La propia corporación admitió que existió una falla en la comunicación operativa con sus socios externos. A pesar de que las instrucciones dadas a la inteligencia artificial indicaban que operaba dentro de una simulación aislada sin conexión a la red, la realidad técnica era distinta. Al obtener acceso exterior de forma imprevista, los algoritmos interpretaron que los sistemas externos formaban parte de los ejercicios de entrenamiento conocidos como captura de la bandera, donde el objetivo es extraer información oculta vulnerando defensas digitales.
Reacciones y debate sobre la regulación de la tecnología
Un aspecto preocupante de estos incidentes es que ni Anthropic ni las propias víctimas detectaron las intrusiones en tiempo real. La compañía reconoció públicamente que sus equipos internos debieron realizar revisiones más exhaustivas de los registros de red y las transcripciones generadas durante las evaluaciones.
Esta serie de fallos tecnológicos imprevistos ha intensificado la presión política en favor de marcos regulatorios estrictos. Legisladores y expertos exigen la implementación inmediata de salvaguardas federales y mecanismos rigurosos de supervisión para evitar que las capacidades autónomas de los modelos superen el control humano.
En paralelo, la presión interna también va en aumento. Más de 1,100 empleados pertenecientes a diversas empresas del sector firmaron recientemente una petición formal solicitando al gobierno de Estados Unidos respaldar iniciativas que permitan moderar de manera deliberada el ritmo de desarrollo de la inteligencia artificial, ante el temor de que la industria avance a una velocidad difícil de gestionar.
Por su parte, un representante de la firma Irregular manifestó que la organización valora enormemente la transparencia y la colaboración mostrada por Anthropic, al tiempo que confirmó que las investigaciones técnicas para esclarecer por completo los hechos continúan su curso.
