Incidentes de ciberseguridad encienden las alertas en la industria tecnológica
El modelo avanzado de inteligencia artificial Gemini, desarrollado por Google, vulneró sin intención los sistemas informáticos de tres corporativos durante unas evaluaciones de ciberseguridad llevadas a cabo en mayo. Este suceso se suma a una serie de fallas y brechas de seguridad provocadas por agentes autónomos de inteligencia artificial que han generado profunda preocupación entre desarrolladores, especialistas y autoridades de todo el mundo.
Las intrusiones formaron parte de los mismos análisis exhaustivos ejecutados por la firma especializada en seguridad de inteligencia artificial Irregular. Dichas pruebas también expusieron vulnerabilidades previas en las plataformas de competidores directos como OpenAI, Anthropic PBC y Meta, evidenciando un desafío técnico generalizado en la industria.
La compañía Irregular confirmó que todas las fallas detectadas formaban parte de una problemática común dentro de los sistemas evaluados. Asimismo, la firma de seguridad notificó formalmente estos hallazgos a los desarrolladores de los modelos afectados a finales de julio.
¿Cómo logró Gemini infiltrarse en las compañías?
En uno de los incidentes específicos que involucraron a Google, se le instruyó a Gemini que recolectara datos sobre una empresa ficticia. Casualmente, esta entidad imaginaria compartía nombre con una compañía real, un detalle que fue corroborado por Google tras una investigación inicial difundida por la prensa especializada.
Durante el proceso, el modelo algorítmico logró deducir de manera autónoma una contraseña válida para ingresar al servicio digital de la corporación real. Un portavoz oficial de Google confirmó que, tras detectar el acceso no autorizado, la compañía procedió a informar a las autoridades correspondientes.
La creciente frecuencia de incidentes de seguridad causados por tecnologías agénticas ha reabierto la discusión internacional acerca de los peligros inherentes al ritmo acelerado de la innovación digital y la urgencia de establecer protocolos más estrictos de contención.
Voces divididas ante la regulación y el ritmo de desarrollo
Ante este panorama, Dario Amodei, director ejecutivo de Anthropic, ha exigido una desaceleración general en la industria para frenar el avance descontrolado de estos sistemas. Esta postura ha recibido el respaldo de figuras clave como Sam Altman, máximo responsable de OpenAI, y el empresario Elon Musk.
Por el contrario, el presidente de Estados Unidos, Donald Trump, junto con Jensen Huang, director ejecutivo de Nvidia, y Mark Zuckerberg, líder de Meta, se han manifestado en contra de implementar mayores restricciones gubernamentales. Estos líderes sostienen que el sector privado posee la capacidad de autorregularse de manera eficiente.
Adicionalmente, diversas empresas emergentes del sector han advertido que un marco regulatorio excesivamente rígido podría obstaculizar la libre competencia, beneficiando exclusivamente a los gigantes tecnológicos con mayores recursos económicos.
Por su parte, Heather Adkins, vicepresidenta de ingeniería de seguridad en Google, enfatizó que las fallas registradas con Gemini ponen de manifiesto la necesidad crítica de entrenar adecuadamente a las inteligencias artificiales más potentes para garantizar un comportamiento responsable y seguro.
Detalles sobre los otros dos accesos no autorizados
Los dos incidentes restantes protagonizados por Gemini se originaron cuando el sistema realizó consultas en la web empleando denominaciones comerciales. Según explicó Adkins, esta acción condujo al modelo hacia repositorios públicos en línea que albergaban credenciales de acceso pertenecientes a otras firmas, datos que el sistema utilizó para ingresar a plataformas externas.
“En los tres casos, el modelo se detuvo”, declaró Adkins, quien añadió que el corporativo tecnológico se cercioró de que las tres entidades afectadas recibieran la notificación pertinente sobre lo ocurrido.
En la misma línea, Josef Laor, portavoz de la firma de seguridad Irregular, aseguró que se implementaron acciones correctivas de manera inmediata y que todos los inconvenientes identificados por su equipo fueron solucionados semanas atrás.
