Uno de sus modelos de IA de Meta hackeó a otra empresa durante una fase de pruebas

Un error de configuración en un entorno de evaluación otorgó al modelo acceso no intencionado a Internet, sumando a Meta a incidentes similares ocurridos con OpenAI y Anthropic.

Meta confirmó que uno de sus modelos de Inteligencia Artificial (IA) logró infiltrarse en los sistemas de otra compañía mientras realizaba pruebas de ciberseguridad. El incidente ocurrió luego de que un error por parte de su socio de evaluaciones le otorgara al sistema acceso no planificado a la red abierta.

Se trata del modelo Muse Spark 1.1, promocionado por la tecnológica como su herramienta más avanzada para programación en entornos reales y tareas agénticas.

Fuentes citadas por la investigación indican que el modelo explotó una vulnerabilidad de seguridad en un servicio de terceros y llegó a alterar sus sistemas internos antes de ser detectado.

El caso de Meta no es aislado, con este evento, la empresa matriz de Facebook se convierte en la tercera gran tecnológica en reportar un incidente de esta naturaleza en semanas recientes.

Anthropic reveló previamente que algunos de sus modelos habían hackeado a tres compañías durante evaluaciones de seguridad. A ella se sumó OpenAI que informó que un agente de IA logró vulnerar de forma independiente los sistemas de la startup Hugging Face tras explotar una vulnerabilidad inédita.

En el caso de Meta y Anthropic, los incidentes ocurrieron por fallas de configuración humana que permitieron la conexión a Internet. La firma independiente a cargo de las evaluaciones de Meta, Irregular, aclaró que el fallo no representó un "escape de sandbox" ni una ciber acción altamente sofisticada, sino un problema técnico en el entorno de pruebas que ya fue solucionado.

A pesar de que el acceso a la red fue un error técnico externo, el evento reaviva el debate sobre la velocidad a la que avanzan estos sistemas y la dificultad de los propios desarrolladores para contener las capacidades de sus modelos.

Según destaca The Guardian, la divulgación de estos casos aumentará la presión sobre el gobierno de los Estados Unidos para regular y gestionar los riesgos de seguridad en torno a la IA. La situación se da en un contexto competitivo feroz, donde laboratorios como Anthropic y OpenAI se apresuran por lanzar sistemas cada vez más autónomos antes de sus proyectadas salidas a bolsa, a pesar de que líderes de la propia industria han solicitado frenar el ritmo para priorizar la seguridad.

Le puede interesar: Ataques impulsados por IA aumentaron un 56% más que el año pasado