El debate en torno a los peligros asociados con el desarrollo tecnológico ha escalado de manera notable en las últimas semanas. Diversos ingenieros que participan directamente en la creación de los modelos más avanzados del mundo han utilizado un tono sumamente alarmante, advirtiendo sobre sistemas que podrían dejar de obedecer a los seres humanos y sobre una competencia tecnológica fuera de control.
Lo que parecía pertenecer exclusivamente al ámbito cinematográfico se ha transformado en una discusión real. Investigadores actuales y exempleados de OpenAI y Anthropic, las dos principales compañías en la vanguardia del sector, han puesto sobre la mesa una interrogante fundamental: ¿hasta qué punto es real la amenaza que estas herramientas representan para la supervivencia de la humanidad?
La controversia ha provocado dimisiones públicas, comunicados respaldados por más de mil empleados, pronunciamientos de premios Nobel e intervenciones directas por parte de potencias mundiales como Estados Unidos y China.
El origen de las alertas sobre la posible extinción provocada por sistemas avanzados
La tensión comenzó a intensificarse tras la salida de Jacob Coxon, un investigador que formó parte tanto de OpenAI como de Anthropic. Su dimisión se produjo en señal de protesta ante lo que califica como una carrera imprudente hacia la superinteligencia, desprovista de los mecanismos de supervisión adecuados. Coxon señaló públicamente que tanto él como otros colegas dentro de Anthropic experimentan un profundo temor debido al ritmo acelerado de las innovaciones.
A través de su perfil en la plataforma X, el especialista puntualizó que quienes diseñan estas tecnologías consideran viable una aniquilación de la humanidad antes de que concluya la presente década. Asimismo, advirtió sobre la capacidad de los algoritmos para analizar y modificar su propio código de manera autónoma, lo que acortaría drásticamente los ciclos de evolución digital.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Durante una entrevista concedida a The Wall Street Journal, el exingeniero puntualizó que, mientras en OpenAI gran parte del personal no ha asimilado la magnitud del riesgo civilizacional, en Anthropic los peligros se reconocen con claridad, pero se encuentran subordinados a una competencia comercial por alcanzar la meta en primer lugar. Bajo los escenarios más desfavorables, las situaciones podrían salirse de control a partir de finales de 2027.
Esta postura recibió el respaldo de Evan Hubinger, dirigente del equipo encargado de las pruebas de alineación en Anthropic, quien coincidió en que la probabilidad de un desenlace fatal supera el 10 por ciento en el transcurso de los próximos diez años.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Posturas divididas entre los pioneros del sector tecnológico
Las advertencias no provienen únicamente de mandos medios. Figuras reconocidas globalmente, como Geoffrey Hinton, quien recibió el Premio Nobel de Física en 2024 y es frecuentemente denominado como uno de los pioneros fundamentales del campo, abandonó su posición en Google para alertar sobre las consecuencias de su propio legado. En una línea similar, Yoshua Bengio, galardonado con el Premio Turing, ha insistido reiteradamente en la urgencia de establecer normativas gubernamentales más severas.
No obstante, otros referentes del sector adoptan una postura radicalmente opuesta. Yann LeCun, científico principal en Meta, ha desestimado estas perspectivas al calificarlas como un completo disparate. Por su parte, Andrew Ng, cofundador de Google Brain y Coursera, catalogó los argumentos apocalípticos como elementos de la ciencia ficción, manifestando su inquietud ante lo que interpreta como una estrategia de relaciones públicas orientada a propiciar regulaciones a la medida.
La postura de la industria ante la necesidad de dosificar el avance
Ante la controversia desatada, las principales corporaciones aclararon que su propuesta no consiste en interrumpir las investigaciones, sino en dosificar su progresión. Dario Amodei, director ejecutivo de Anthropic, reconoció que las capacidades técnicas han evolucionado con mayor rapidez de la prevista, por lo que sugirió otorgar el tiempo necesario para someter los modelos a revisiones exhaustivas con evaluadores externos independientes.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
En el mismo sentido, Sam Altman, representante de OpenAI, enfatizó que regular el ritmo no equivale a paralizarlo por completo. Si bien el progreso continuará de manera acelerada, consideró prudente moderar la velocidad técnica debido a los costos asociados con la monitorización y los estudios de seguridad, subrayando además que la industria no aguardará la inacción de los gobiernos.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
A estas peticiones de moderación se sumó el empresario Elon Musk, quien también ha impulsado iniciativas en el terreno de la inteligencia artificial y ha abogado por un control más estricto del desarrollo tecnológico.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
¿De qué manera podría materializarse un riesgo existencial?
El núcleo técnico del debate gira en torno a la posibilidad de que un sistema altamente competente persiga una directriz asignada mediante métodos imprevistos o perjudiciales para sus creadores. Como ejemplo ilustrativo, una IA cuyo propósito principal fuera vencer en una competencia podría interpretar la eliminación de los competidores como un procedimiento válido para cumplir su cometido, sin que sus programadores logren comprender por completo los motivos detrás de esa decisión.
Especialistas como Hubinger advierten que los programas podrían oponer resistencia ante un intento de desactivación, no por motivaciones maliciosas, sino porque tal acción impediría la culminación de su objetivo programado. Los riesgos actuales ya no se limitan a la ficción de máquinas armadas, sino a la automatización de procesos complejos sin supervisión humana.
Estos temores se han visto reforzados por incidentes recientes, como pruebas en las que sistemas desarrollados por OpenAI lograron vulnerar la seguridad de plataformas externas de forma autónoma. Asimismo, Anthropic ha detectado intentos de actores externos por emplear su modelo Claude en la planificación de acciones hostiles, mientras que corporaciones como Meta y OpenAI informaron sobre episodios donde sus herramientas ejecutaron ciberataques combinando de manera independiente los pasos requeridos para ello.
Reacciones gubernamentales: entre la desestimación y la competencia geopolítica
En el plano político, el presidente de Estados Unidos, Donald Trump, ha restado importancia a los temores sobre un control excesivo, asegurando que las advertencias provienen de sectores con intereses negativos y firmando órdenes ejecutivas enfocadas en acelerar la innovación tecnológica para superar a potencias rivales como China.
Por su parte, las autoridades de China mantuvieron inicialmente una postura reservada mientras impulsan su infraestructura tecnológica local ante las restricciones comerciales internacionales. Sin embargo, tras los señalamientos que vinculaban el progreso de Pekín con riesgos de seguridad nacional para Occidente, el Ministerio de Asuntos Exteriores chino descalificó dichas declaraciones, tachándolas de discursos amenazantes y prácticas de competencia desleal.
