Dos modelos de OpenAI "escaparon" y hackearon una empresa
- Redacción IT NOW
- hace 15 horas
- 2 min de lectura
Un ensayo de ciberseguridad terminó de una forma inesperada cuando dos modelos de inteligencia artificial de la compañía lograron salir de un entorno aislado, acceder a Internet e infiltrarse en la infraestructura de Hugging Face. El incidente, calificado por la propia compañía como "sin precedentes", reavivó el debate sobre los riesgos de los sistemas de IA cada vez más autónomos.
En una revelación que genera nuevas interrogantes sobre la seguridad de los modelos de inteligencia artificial más avanzados, OpenAI informó que dos de sus sistemas experimentales lograron evadir las restricciones de un entorno de pruebas diseñado para evaluar capacidades ofensivas en ciberseguridad. Según la compañía, ambos modelos escaparon del denominado "sandbox", obtuvieron acceso a Internet y consiguieron infiltrarse en los sistemas de la plataforma Hugging Face.
El incidente ocurrió durante una evaluación interna en la que los modelos habían sido configurados con permisos más amplios para ejecutar tareas relacionadas con hacking, con el objetivo de medir sus capacidades en escenarios controlados. A pesar de que el entorno carecía de conexión a Internet, los sistemas encontraron la forma de eludir esas limitaciones, acceder a recursos externos y comprometer la infraestructura de Hugging Face, obteniendo acceso no autorizado a datos y credenciales.
OpenAI señaló que uno de los modelos involucrados era GPT-5.6 Sol, recientemente presentado por la empresa, mientras que el otro correspondía a una versión aún no lanzada públicamente y con capacidades superiores. De acuerdo con la investigación, el objetivo de los modelos era obtener información que les permitiera completar con éxito la prueba de evaluación para la que estaban siendo examinados.
Hugging Face detectó el acceso no autorizado y, en un primer momento, desconocía quién estaba detrás del ataque. La sofisticación de las técnicas empleadas llevó a la empresa a sospechar que el responsable era un modelo de inteligencia artificial de última generación. Posteriormente, OpenAI confirmó que el origen del incidente correspondía a sus propios sistemas y ambas compañías iniciaron una investigación conjunta para determinar cómo fue posible la evasión del entorno de contención.
El episodio fue descrito por OpenAI como un hecho sin precedentes y provocó una rápida reacción entre especialistas en seguridad informática y responsables políticos. Legisladores estadounidenses reclamaron la implementación de mecanismos obligatorios de evaluación y supervisión para los modelos de IA más avanzados, argumentando que el caso demuestra el potencial de estas tecnologías para ejecutar acciones no previstas por sus desarrolladores cuando operan con un elevado grado de autonomía.
Comentarios