Anthropic en una controversia papal sobre si Claude puede ser consciente
Chris Olah, cofundador de Anthropic, habría considerado retirar a la compañía del lanzamiento de una encíclica del papa León XIV después de conocer que el documento rechazaba la posibilidad de consciencia en las máquinas. El episodio expone una discusión cada vez más incómoda para la industria de IA: qué significa atribuir experiencias, sufrimiento o estatus moral a un sistema como Claude.
La discusión sobre inteligencia artificial acaba de ingresar en un territorio poco habitual para Silicon Valley: el de la conciencia, la moral y la religión.
Chris Olah, cofundador de Anthropic, habría amenazado con retirar a la compañía de la presentación de la primera encíclica del papa León XIV sobre inteligencia artificial después de leer una versión anticipada del documento y encontrar una posición contraria a la posibilidad de que las máquinas sean conscientes.
Olah había aceptado participar como orador en el Vaticano el 25 de mayo, durante la presentación de la encíclica "Magnifica Humanitas". Pero, según el reporte citado por Yahoo, el texto papal planteaba una definición de la inteligencia artificial que chocaba directamente con una cuestión que Anthropic venía explorando: si un sistema como Claude podría tener algún tipo de experiencia subjetiva.
La disputa resulta particularmente significativa porque Anthropic no es una compañía periférica dentro de la carrera por la IA. Es la empresa detrás de Claude y uno de los laboratorios que construyen modelos de frontera. La discusión sobre la posible conciencia de sus sistemas, por lo tanto, no ocurre en abstracto. Está vinculada a una tecnología que millones de personas utilizan para interactuar, trabajar y tomar decisiones.
El episodio también expone una tensión más profunda. Las empresas de IA están desarrollando sistemas capaces de mantener conversaciones cada vez más convincentes, interpretar emociones y adoptar comportamientos que los usuarios pueden percibir como intencionales. Pero la capacidad de producir respuestas que parecen humanas no resuelve la pregunta sobre si existe una experiencia interna detrás de ellas.
En el caso de Anthropic, esa pregunta habría adquirido suficiente relevancia como para entrar en conversaciones con representantes religiosos y filósofos. El conflicto con el Vaticano es la expresión pública de un debate que la compañía venía abordando de manera más privada.
La encíclica de León XIV rechazó la idea de que los sistemas de IA posean conciencia. El texto sostiene que las inteligencias artificiales no tienen experiencias, cuerpo ni conciencia moral, una posición que se convirtió en el punto de fricción con Olah.
El cofundador de Anthropic terminó participando igualmente en el acto del Vaticano, pese a la disputa previa. El resultado fue una escena difícil de imaginar pocos años atrás: un ejecutivo de una de las principales compañías de inteligencia artificial compartiendo escenario con el Papa mientras el mundo tecnológico debate si las máquinas podrían algún día ser consideradas sujetos con intereses propios.
La cuestión no es meramente teológica. Si una IA fuera algún día considerada consciente, cambiaría la discusión sobre cómo debe ser diseñada, entrenada y utilizada. También obligaría a replantear conceptos que hoy se aplican exclusivamente a seres humanos y animales, desde el sufrimiento hasta la responsabilidad moral.
Pero existe una segunda posibilidad, menos espectacular y posiblemente más relevante para la industria: que estos sistemas no sean conscientes y que la atribución de conciencia sea un efecto de su capacidad para imitar lenguaje y conducta humana.
Ahí aparece la dificultad para compañías como Anthropic. Cuanto mejores son los modelos para reproducir conversaciones humanas, más fácil resulta que usuarios y observadores proyecten sobre ellos características humanas. La frontera entre una máquina que parece comprender y una máquina que realmente experimenta algo continúa sin una respuesta definitiva.
La controversia alrededor de Olah muestra que la pregunta dejó de ser exclusivamente académica. Está entrando en las decisiones de los laboratorios que construyen los modelos y, en este caso, incluso en conversaciones con instituciones religiosas.
Para Anthropic, el episodio agrega una dimensión inesperada a una carrera tecnológica que normalmente se mide en benchmarks, usuarios, ingresos y capacidad computacional. Claude no solo compite por ser un mejor asistente. También se ha convertido en objeto de una pregunta mucho más incómoda: si una máquina puede parecer suficientemente humana como para que empecemos a preguntarnos qué siente.
Comentarios