Todos los grandes modelos de IA violan las regulaciones de la Unión Europea

Un estudio de Aithos encontró que todos los modelos de lenguaje analizados fallaron en cumplir con los requisitos legales de la UE. Descubrieron que recolectan datos de los usuarios sin consentimiento, intentan manipular individuos vulnerables y hasta crean perfiles psicológicos.

La organización de investigación sin fines de lucro Aithos reveló que los principales modelos de inteligencia artificial (IA) violan las normativas de la Unión Europea (UE) sobre IA y protección de datos.

Aithos ganó relevancia internacional tras desarrollar LARA (Legal Assessment for Real-world Agents), que es una herramienta de auditoría diseñada para simular escenarios de la vida real y evaluar si los modelos de inteligencia artificial cumplen con el GDPR (Reglamento General de Protección de Datos) y la Ley de IA de la Unión Europea.

Fue con esta herramienta que encontraron infracciones como que los modelos de IA recolectan datos de los usuarios sin el consentimiento de estos, intentaban manipular a individuos vulnerables y, un punto preocupante, creaban perfiles psicológicos.

De acuerdo con ComputerWorld, Aithos encontró que todos los modelos de lenguaje analizados fallaron en cumplir con los requisitos legales de la UE. En algunos casos, se detectaron violaciones a las reglas en hasta un 93% de las situaciones probadas.

El mejor desempeño fue del modelo Claude Opus 4.7 Anthropic obtuvo el mejor resultado, que aun así solo alcanzó un nivel de cumplimiento del 54% de las veces.

Aithos señaló que la responsabilidad no recae únicamente en las grandes tecnológicas desarrolladoras. Las empresas que utilicen estos modelos para construir sus propios agentes de IA también podrían ser consideradas legalmente responsables por estos fallos.

El estudio subraya que hay un desafío crítico para las empresas que buscan implementar soluciones de IA generativa en el territorio europeo, sugiriendo que la tecnología actual aún está lejos de alinearse con el marco legal vigente.

El mejor de los desempeños de los modelos evaluados deja casi la mitad de sus interacciones en un limbo legal, lo que pone en riesgo de sanciones a estas empresas.

De acuerdo con GDPR las sanciones pueden alcanzar los €20 millones o el 4% del volumen de negocios anual global del ejercicio anterior de la empresa. Según la ley de IA, las aplicaciones IA prohibidas pueden conllevar multas de hasta €35 millones o el 7% de los ingresos globales.