Director ejecutivo de Anthropic propone que los gobiernos puedan frenar el lanzamiento de inteligencias artificiales peligrosas
En un movimiento que sacude los cimientos de la industria tecnológica, Dario Amodei, máximo responsable ejecutivo de Anthropic PBC, ha manifestado que las administraciones públicas deben contar con la potestad legal para impedir que las compañías creadoras de sistemas avanzados pongan en marcha nuevas versiones si estas superan los umbrales aceptables de riesgo.
Durante la divulgación de un extenso documento analítico, el alto ejecutivo argumentó que los programas informáticos basados en aprendizaje automatizado tendrían que pasar por revisiones exhaustivas y obligatorias gestionadas por agentes externos y independientes. El objetivo principal de estos exámenes sería auditar el impacto potencial en áreas tan sensibles como las amenazas a la ciberseguridad y la posible simplificación en la creación de agentes patógenos o armas biológicas de destrucción masiva.
Si las evaluaciones técnicas concluyen que el producto tecnológico “presenta riesgos inaceptables”, el directivo sentenció que “el gobierno debería tener la facultad de bloquear o desalentar su despliegue”. Esta postura representa una de las exigencias normativas más firmes planteadas por un líder del sector en un momento de aceleración tecnológica sin precedentes.
La urgencia de un control gubernamental estricto
Previamente, la organización liderada por Amodei ya había puesto sobre la mesa un esquema colaborativo en el cual las autoridades estatales y las empresas del sector fijaran de mutuo acuerdo pausas temporales en el ritmo de investigación, buscando mitigar las contingencias catastróficas derivadas del software.
Estas declaraciones entran en debate directo con la postura adoptada por la administración del presidente estadounidense Donald Trump, la cual firmó recientemente una directriz ejecutiva enfocada en la seguridad nacional que fomenta la revisión voluntaria por parte del Estado, pero sin condicionarla a una autorización previa de comercialización.
Para justificar su postura intervencionista, el directivo recurrió a comparaciones con sectores industriales altamente fiscalizados a lo largo de la historia moderna occidental.
“Ha llegado el momento de ir más allá de la transparencia y avanzar hacia una regulación de la IA más seria y vinculante”, escribió Amodei. “Creo que la mejor analogía, al menos en esta etapa actual de crecimiento exponencial, son los automóviles, los aviones o los medicamentos: tecnologías poderosas y esenciales para la economía moderna, pero capaces de causar la muerte de un gran número de personas si se diseñan u operan de manera deficiente”.
El dilema ético tras el desarrollo de sistemas avanzados
Conocida históricamente por posicionarse como una alternativa corporativa volcada en la seguridad y la ética frente a sus rivales comerciales, la compañía volvió a encender los debates internos de la industria al desarrollar herramientas de alto impacto. Un ejemplo claro fue la creación de un sistema informático denominado Mythos, diseñado con capacidades avanzadas para identificar y explotar vulnerabilidades críticas en infraestructuras digitales.
Ante el peligro potencial de filtración, la dirección optó por restringir drásticamente el uso de dicho software a un círculo muy cerrado de aliados estratégicos, comercializando posteriormente una variante comercial con las funciones de ciberseguridad bloqueadas. En su escrito público, el directivo señaló este episodio como una muestra directa del “increíble poder de la IA, así como de sus riesgos”.
Finalmente, el líder empresarial hizo un llamado urgente a la cooperación internacional para adaptar la burocracia estatal frente a una industria que evoluciona de forma exponencial.
“Ahora, a nivel global y colectivo, necesitamos activar un aparato regulatorio lento y rudimentario para afrontar riesgos y oportunidades que van a multiplicarse sorprendentemente rápido a partir de este punto”, concluyó el director ejecutivo.
