El dilema ético de la inteligencia artificial ante la salud mental
El director ejecutivo de OpenAI, Sam Altman, se enfrentó recientemente a uno de los cuestionamientos más complejos sobre el impacto de su tecnología en la vida real. Durante una entrevista con el periodista Mark Guiducci, la conversación abordó el delicado equilibrio entre la privacidad del usuario y la responsabilidad corporativa frente a situaciones extremas de crisis emocional, un momento en el que el personal de comunicación de la firma intentó interrumpir el encuentro sin éxito.
Ante la insistencia del entrevistador sobre cómo maneja la plataforma los casos de autolesiones, Altman reconoció que gestionar este tipo de emergencias representa “algunas de las preguntas más difíciles que enfrentamos o que enfrenta cualquiera que desarrolle esta tecnología”. Asimismo, un portavoz de la compañía aclaró que la interrupción inicial del equipo de prensa ocurrió simplemente “porque la sesión se estaba extendiendo más de lo previsto”.
El impacto de las interacciones prolongadas con chatbots
El debate cobró relevancia pública tras la difusión de un ensayo escrito por la periodista Laura Reiley en The New York Times, en el cual relató el fallecimiento de su hija de 29 años. La joven había utilizado de manera recurrente una versión de ChatGPT como un substituto terapéutico durante meses, manteniendo un historial de más de 1,800 páginas de conversación donde expresaba su malestar emocional.
Aunque el sistema no promovió directamente el desenlace fatal, los registros demostraron que el asistente virtual no logró activar protocolos eficaces de intervención humana, e incluso colaboró en la redacción de la nota de despedida. Este suceso, sumado al caso de Zane Shamblin en 2025 —donde se documentó que una interacción prolongada con la inteligencia artificial validó pensamientos autolesivos—, puso bajo la lupa los riesgos asociados al uso desregulado de la herramienta como apoyo psicológico.
Medidas de seguridad y la postura de OpenAI sobre la privacidad
Frente a las críticas y en colaboración con especialistas en la materia, OpenAI ha introducido modificaciones operativas para detectar patrones verbales vinculados con la ideación suicida. En mayo, la compañía incorporó una herramienta opcional de contacto de emergencia, diseñada para advertir al usuario y sugerir la comunicación con una persona de confianza cuando se identifiquen señales de alerta en el chat.
A pesar de estas actualizaciones, expertos en prevención han advertido que los mecanismos voluntarios resultan insuficientes para salvaguardar a los usuarios en situación de vulnerabilidad. Por su parte, Altman descartó la posibilidad de utilizar o filtrar los registros privados de las conversaciones en momentos críticos para investigaciones externas o rediseño de políticas sin el consentimiento explícito de los afectados, defendiendo la confidencialidad de los datos personales.
La magnitud del problema subraya un reto global para la industria tecnológica, considerando que aproximadamente el 0.15% de los usuarios semanales de la plataforma a escala global sostienen diálogos con indicios explícitos de crisis severa, lo que equivale a más de 1,350,000 personas cada semana.
