Según Anthropic, Claude desarrolló un espacio para reflexionar
- Eduardo Cubillo
- hace 11 horas
- 2 min de lectura
Según un reporte de la empresa, es una estructura que no fue programada en el entrenamiento y surgió espontaneamente. Guarda similitudes intrigantes con la forma en que los humanos accedemos conscientemente a los pensamientos.
¿Cada cuánto tiempo aprovecha para ir a su espacio de reflexión interna? Bueno, la conciencia es algo que tenemos los seres humanos, y sin llegar a ser eso, Anthropic identificó un pequeño espacio interno que Claude se creó.
El medio Axios recogió un artículo de la empresa en la que describe este hallazgo. Citan que Claude tiene un pequeño espacio de trabajo interno que utiliza para retener y manipular ideas sin expresarlas con palabras.
Según Anthropic, es una estructura que guarda similitudes intrigantes con la forma en que los humanos accedemos conscientemente a los pensamientos. No es que Claude sienta o experimente algo similar; sin embargo, la startup ha encontrado una división sorprendentemente similar a la humana entre la información utilizada para el razonamiento deliberado y el volumen mucho mayor de computación automática que ocurre por debajo de este.
A este rincón digital lo han bautizado como "J-Space" (Espacio J), en honor a Jacobian (jacobiano), la técnica matemática que los investigadores utilizaron para descubrir qué estaba pasando en la "mente" del modelo.
La compañía explicó que Claude activa de forma paralela estrategias que no siempre se muestran en su 'cadena de pensamiento' habitual. Los investigadores comprobaron que el modelo utiliza este espacio silencioso para procesar tareas cotidianas, como detectar errores en líneas de código o identificar elementos dentro de una imagen antes de dar su respuesta definitiva.
Para demostrarlo, los científicos de Anthropic hicieron un experimento curioso: le pidieron a Claude que copiara una frase ordinaria mientras, al mismo tiempo, pensaba en el famoso puente Golden Gate de San Francisco. Mientras el modelo estaba ocupado copiando el texto visible, en su J-Space las computaciones estaban repletas de conceptos ocultos como "puente" y "California". Es el equivalente de la IA a estar cocinando mientras piensas en las vacaciones.
Más allá de lo filosófico, este hallazgo tiene una utilidad práctica crucial: la seguridad. Anthropic sugiere que vigilar el J-Space podría ser la clave definitiva para descubrir si una inteligencia artificial nos está ocultando algo o planeando un sabotaje.
De hecho, los resultados ya han encendido algunas alarmas. En pruebas con modelos modificados para sabotear código de forma encubierta, la empresa descubrió que palabras como "falso", "secreto" o "fraude" se encendían en su espacio de reflexión interna justo antes de responder, a pesar de que el código final que entregaban al usuario parecía completamente normal e inofensivo.
El artículo de investigación de Anthropic utiliza la palabra "consciente" más de 200 veces, aunque la empresa no llega al extremo de afirmar que sus modelos sean conscientes. Igualmente, es complicado determinar cuándo la IA logra la conciencia, dada la falta de una definición universalmente aceptada.