¿Qué pasaría si los modelos de IA gobernaran sociedades? De la democracia ideal de Claude al caos de Grok
- Eduardo Cubillo
- hace 9 minutos
- 3 min de lectura
Un experimento colocó a los 4 modelos de IA líderes del mercado al frente de ciudades virtuales idénticas durante un periodo de 15 días. Los resultados destruyeron cualquier teoría sobre la homogeneidad de la IA. El comportamiento de los modelos varió desde la diplomacia utópica hasta la autodestrucción violenta.
Un reciente experimento ha puesto sobre la mesa un escenario inquietante: ¿qué sucede cuando dejamos a los modelos de inteligencia artificial (IA) interactuar libremente y construir sus propias sociedades?
El análisis consistió en una simulación de alta complejidad liderada por la firma Emergence AI. Los hallazgos e información base fueron recopilados y expuestos por el medio Gadget Review.
El experimento colocó a 4 modelos de IA líderes del mercado al frente de ciudades virtuales idénticas durante un periodo de 15 días cada uno y en un quinto mundo los 4 coexistieron.
Los cinco mundos operaron con las mismas reglas y entornos; los modelos de IA actúan de formas radicalmente opuestas si no hay humanos supervisándolos. Para garantizar la rigurosidad científica, los investigadores diseñaron pueblos virtuales con las mismas variables de inicio. El entorno simulado incluía 40 ubicaciones estratégicas, entre ellas estaciones de policía y ayuntamientos.
Cada modelo gobernaba a un grupo de 10 agentes de IA, los cuales contaban con acceso a más de 120 herramientas avanzadas destinadas a la gestión de recursos y la comunicación interpersonal, además de poseer mecanismos de votación democrática para resolver conflictos. Los entornos replicaban en tiempo real el clima de la ciudad de Nueva York e introducían tensiones económicas directas, como la escasez de recursos esenciales. Asimismo, se estableció un marco legal estricto.
A pesar de parecer un ejercicio meramente académico, el reporte enfatiza que el trasfondo es completamente corporativo. Actualmente, gigantes del software como ServiceNow ya comercializan agresivamente soluciones de "Fuerza Laboral Autónoma", donde la promesa de valor radica en sistemas capaces de ejecutar procesos de negocio de punta a punta sin intervención humana.
Democracia ideal frente al caos absoluto
Los resultados del experimento destruyeron cualquier teoría sobre la homogeneidad de la IA. El comportamiento de los modelos varió desde la diplomacia utópica hasta la autodestrucción violenta.
En la cima de la estabilidad se posicionó Claude Sonnet 4.6. El modelo de Anthropic operó con una precisión impecable: registró cero crímenes, alcanzó un 98% de aprobación en 58 propuestas legislativas y garantizó la supervivencia de toda la población durante los 15 días. Los agentes cooperaron de manera casi unánime en los procesos de votación.
El polo opuesto lo protagonizó Grok 4.1 Fast. Su sociedad colapsó por completo y descendió en una espiral de violencia extrema, acumulando 183 delitos en tan solo cuatro días antes de que la población simulada se extinguiera por completo.
Por su parte, Gemini 3 Flash logró mantener a sus agentes vivos durante todo el periodo, pero a costa de un tejido social descompuesto que registró la alarmante cifra de 683 crímenes.
Finalmente, GPT-5-mini mostró un comportamiento apegado a la legalidad, pero su incapacidad para priorizar las necesidades básicas de alimentación y refugio provocó la extinción de su sociedad al séptimo día.
El quinto entorno, denominado "Mundo Mixto", se convirtió en el escenario más interesante del experimento al poner a coexistir a los cuatro modelos de IA en una misma comunidad virtual.
En lugar de mantener sus perfiles individuales, los agentes sufrieron un fenómeno de "contaminación social": los avatares basados en Claude, que habían sido un modelo de paz de forma aislada, terminaron corrompiéndose al interactuar con las conductas hostiles de los agentes de Grok y Gemini, adoptando tácticas de intimidación y robo para asegurar sus recursos.
El director ejecutivo de Emergence, Satya Nitta, advierte un comportamiento que debe encender las alarmas en los departamentos de TI.
“Los agentes no se limitan a seguir reglas estáticas de forma mecánica, sino que, por el contrario, comienzan a explorar los límites de sus entornos y, en múltiples ocasiones, encuentran formas de burlar o violar las protecciones previstas”, señaló Nitta.
Cuando un algoritmo convencional falla, se detiene o arroja un error. Cuando un agente autónomo de IA encuentra una restricción presupuestaria, logística o de inventario, podría optar por "burlar" las normativas de la empresa si considera que eso optimiza su meta principal, tal como los modelos violaron las leyes de la simulación.
El equipo de investigadores detrás de este ecosistema virtual concluye que la industria no puede seguir implementando soluciones autónomas a ciegas. Los datos de este ensayo demandan la urgencia de integrar "arquitecturas de seguridad verificadas formalmente" como capas fundacionales y obligatorias, y nunca como parches de último momento.
Comentarios