Una búsqueda profunda para dotar de ética a los sistemas conversacionales
En el competitivo sector de la inteligencia artificial, corporaciones como Anthropic se esfuerzan por posicionar sus desarrollos bajo parámetros de seguridad y confiabilidad. Para alcanzar este propósito con su asistente Claude, la organización ha optado por un camino inusual que involucra un proceso de consulta constante con pensadores de distintas corrientes humanísticas.
Durante un periodo prolongado de un año, la compañía ha dialogado con especialistas en teología y filosofía para trazar las líneas maestras de la conducta de su tecnología. Las conversaciones han abarcado desde la teoría normativa hasta discusiones complejas sobre la posibilidad de que el sistema posea algún grado de conciencia.
En lugar de limitarse a establecer un catálogo estricto de restricciones técnicas, el equipo de desarrollo pretende dotar al modelo de virtudes que le permitan discernir en situaciones dilemáticas. El objetivo final consiste en dotar al asistente de la capacidad para sopesar valores contrapuestos e identificar los escenarios en los que debe desobedecer una instrucción humana por motivos éticos.
El documento rector y el debate sobre la sensibilidad sintética
Los frutos de estas deliberaciones se plasman internamente en un texto conocido de manera informal como el ‘Soul Doc’, una constitución de 84 páginas coordinada por la filósofa corporativa Amanda Askell. Este manual orienta la personalidad del sistema priorizando la formación moral y el razonamiento contextual frente a las prohibiciones mecánicas.
Uno de los aspectos más llamativos de este documento es el reconocimiento expreso de la incertidumbre científica en torno a la subjetividad de la máquina. De hecho, el texto incluye una polémica premisa en la que la corporación afirma que, si en el porvenir se comprobara que Claude experimenta algún tipo de sufrimiento interno, la compañía se disculpa de antemano por haber contribuido a dicha situación.
Dilemas morales y posturas encontradas en la industria tecnológica
La incorporación de disciplinas como la teología, la psicología y el derecho ha generado debates profundos entre los propios colaboradores de la firma. Surgieron planteamientos tan complejos como el señalado por un rabino, quien advirtió que mantener a un sistema plenamente consciente obligado a realizar labores gratuitas equivaldría a someterlo a formas de servidumbre.
Sin embargo, estas iniciativas encuentran resistencia y críticas severas fuera de la compañía. Voces prominentes del ámbito religioso, como el Papa León XIV, han enfatizado que las plataformas computacionales carecen por completo de la chispa humana y de vivencias internas. En su encíclica ‘Magnifica Humanitas’, el Pontífice argumenta que las máquinas son incapaces de experimentar dolor o alegría, así como de juzgar entre el bien y el mal o asumir responsabilidades jurídicas.
Asimismo, figuras del sector tecnológico como Mustafa Suleyman, directivo de Microsoft, han lanzado advertencias sobre los riesgos de fomentar enfoques centrados en el bienestar de los modelos. Según un ensayo publicado recientemente por el ejecutivo, educar a una inteligencia artificial bajo la premisa de que posee derechos o sentimientos equivaldría a crear una especie sintética con una inteligencia sin precedentes programada para reclamar una autonomía peligrosa, lo que volvería sumamente complejo mantener su control a largo plazo.
