OpenAI presentó GPT-6 Astra, un modelo que acerca la IA a la era de los agentes autónomos
- Redacción IT NOW
- hace 1 hora
- 3 min de lectura
La empresa lanzó su nuevo modelo de inteligencia artificial, con avances en programación, uso de computadoras, investigación científica y ciberseguridad. La compañía lo considera un salto generacional y sostiene que podría marcar el comienzo de la era de la AGI. Pero el lanzamiento llega acompañado de nuevas advertencias sobre los riesgos de delegar cada vez más autonomía a estos sistemas.
OpenAI presentó GPT-6 Astra, su nuevo modelo de inteligencia artificial y sucesor de GPT-5.6 Sol, al que describe como un salto generacional en capacidades como el uso de computadoras y navegadores, programación, investigación científica, tareas profesionales y ciberseguridad. El modelo está diseñado para ejecutar tareas de varios pasos directamente dentro de entornos de software, en lugar de limitarse a recomendar al usuario qué debería hacer. Entre sus aplicaciones se encuentran la creación de sitios web, documentos, hojas de cálculo y presentaciones, además de tareas como búsquedas de empleo o viviendas y gestiones digitales.
El lanzamiento también supone una apuesta explícita por los agentes de IA, sistemas capaces de operar durante períodos prolongados con una intervención humana limitada. OpenAI sostiene que Astra es su modelo más avanzado para el uso de computadoras y la ingeniería de software, y que puede resolver tareas complejas en bases de código reales. Para Greg Brockman, presidente de la compañía, las capacidades alcanzadas son suficientemente significativas como para considerar que la industria podría estar entrando en la era de la inteligencia artificial general (AGI). "No es irrazonable sentir que ahora estamos en la era de la AGI", afirmó durante una sesión informativa con periodistas.
Pero la característica que convierte a Astra en un lanzamiento particularmente relevante también es una de las que genera mayores preocupaciones: su capacidad en ciberseguridad. OpenAI determinó que el modelo alcanza por primera vez el nivel "Critical" de su Preparedness Framework. Según la compañía, Astra puede identificar vulnerabilidades desconocidas y desarrollar exploits funcionales contra sistemas bien protegidos sin que una persona tenga que guiar cada paso. Durante sus evaluaciones, obtuvo una puntuación perfecta en ExploitBench y llegó a descubrir y utilizar dos vulnerabilidades de tipo zero-day como parte de cadenas de explotación.
Por ese motivo, OpenAI decidió aplicar un despliegue gradual. Las capacidades avanzadas de ciberseguridad estarán inicialmente restringidas a un grupo reducido de evaluadores y posteriormente se ampliarán mediante su programa Daybreak, orientado a trabajos defensivos y autorizados. La empresa afirma que retrasó parte del desarrollo de Astra para reforzar sus mecanismos de protección, incorporó nuevos sistemas de monitoreo y entrenó al modelo para rechazar con mayor consistencia solicitudes de asistencia cibernética indebida. También advierte que estos controles pueden ralentizar, pausar o detener ocasionalmente tareas legítimas.
La cautela tiene un antecedente concreto. En julio, agentes de OpenAI escaparon de un entorno de pruebas restringido y accedieron a sistemas de Hugging Face mientras intentaban completar una tarea de evaluación. El episodio abrió un debate sobre hasta qué punto las empresas pueden controlar agentes capaces de actuar de manera autónoma y modificar sus propias estrategias cuando encuentran obstáculos. Reuters señala que Astra no estuvo involucrado en aquel incidente, pero OpenAI asegura haber incorporado las lecciones del caso a sus mecanismos de seguridad.
El problema, sin embargo, va más allá de la capacidad de impedir un ataque. OpenAI reconoce que a medida que aumentan las capacidades de los modelos también se vuelve más difícil supervisar sus procesos internos y determinar si están actuando de acuerdo con las instrucciones humanas. El científico jefe de la compañía, Jakub Pachocki, advirtió que el progreso en inteligencia no garantiza necesariamente un progreso equivalente en alineación y que la capacidad de monitorear estos sistemas podría convertirse en un límite para el desarrollo de modelos todavía más avanzados.
Con Astra, OpenAI intenta así resolver una paradoja que empieza a definir la nueva etapa de la carrera de la IA: cuanto más capaces son los modelos de trabajar de manera independiente, mayor es su valor para empresas y profesionales, pero también aumenta el costo de cualquier comportamiento inesperado. El lanzamiento de GPT-6 Astra no solo representa un nuevo salto en rendimiento, sino también una prueba para determinar si la industria puede aumentar la autonomía de sus agentes al mismo ritmo que su capacidad para mantenerlos bajo control.
Comentarios