OpenAI y Anthropic piden cooperación en la ONU luego de que Trump rechazara un "plan globalista" para controlar la IA
Sam Altman y Dario Amodei llevaron al Consejo de Seguridad de Naciones Unidas un mensaje poco habitual para dos de las compañías que lideran la carrera de la IA: los países deben coordinarse para gestionar los riesgos de sistemas cada vez más poderosos. El pedido se produce apenas un día después de que el presidente de EE.UU. calificara como una “maniobra globalista” cualquier intento de controlar la tecnología.
Mientras Estados Unidos busca acelerar el desarrollo de una tecnología que considera estratégica frente a China, dos de los principales ejecutivos de la industria están pidiendo exactamente lo que Washington parece querer evitar: coordinación internacional para establecer límites y mecanismos de seguridad.
Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, llevaron este miércoles ese mensaje al Consejo de Seguridad de Naciones Unidas, donde reclamaron cooperación entre países para enfrentar los riesgos asociados con sistemas de inteligencia artificial cada vez más capaces.
“En nuestra historia, ha habido momentos en los que países que compiten y no siempre se agradan entre sí han logrado unirse por intereses compartidos y por el bien colectivo frente a una nueva tecnología poderosa”, afirmó Altman durante su intervención. “Creemos que este debe ser uno de esos momentos”.
La declaración adquiere especial relevancia por el momento político en que se produce. Apenas un día antes, Donald Trump había utilizado su discurso ante la Asamblea General de Naciones Unidas para rechazar cualquier intento de establecer un mecanismo internacional de control de la inteligencia artificial.
El presidente estadounidense calificó esa posibilidad como de “maniobra globalista” y aseguró que Estados Unidos continuará impulsando el desarrollo de la tecnología, “no frenarla”.
“No voy a sofocar el crecimiento de algo que será más grande que la Revolución Industrial”, dijo Trump.
El contraste no es menor. Altman y Amodei no están hablando desde fuera de la industria. Ambos dirigen compañías que compiten por desarrollar algunos de los modelos de IA más avanzados del mundo y que, al mismo tiempo, enfrentan una presión creciente para demostrar que pueden controlar los sistemas que están construyendo.
La inusual alianza entre dos rivales
La posición de Amodei comenzó a tomar forma a principios de septiembre, cuando publicó una propuesta para desacelerar el ritmo de desarrollo de la IA de frontera. Su argumento no es detener el progreso tecnológico ni suspender el entrenamiento de modelos, sino introducir suficiente tiempo y supervisión para comprobar que las nuevas capacidades pueden desarrollarse de manera segura.
Amodei plantea un plan de tres pasos. El primero consiste en incorporar evaluadores externos independientes dentro de las compañías de IA de frontera, con acceso continuo para verificar las prácticas de seguridad, investigar incidentes y evaluar no solamente los modelos terminados, sino también los procesos de entrenamiento. Anthropic se comprometió unilateralmente a implementar esta primera medida. El segundo paso requiere coordinación dentro de la industria y el tercero plantea coordinación internacional, incluso entre gobiernos democráticos y autoritarios.
El CEO de Anthropic insiste en que “desacelerar la frontera” no significa detener el desarrollo de la IA. Se trata de desarrollar los sistemas a un ritmo que permita incorporar medidas de seguridad y que terceros puedan verificar que esas medidas funcionan.
Lo llamativo fue que Altman, uno de sus principales competidores, respaldó públicamente la idea. El CEO de OpenAI coincidió con Amodei, una señal poco habitual de cooperación entre dos compañías que compiten por talento, inversión, infraestructura y liderazgo tecnológico.
El miércoles, Altman fue incluso más explícito al defender esa posición.
“Vencer a las compañías en una carrera competitiva no es una razón para tomar decisiones apresuradas”, afirmó. “Hemos desacelerado unilateralmente en el pasado. Lo haremos en el futuro”.
El planteamiento introduce una tensión particularmente compleja para la industria. OpenAI y Anthropic están entre las compañías privadas de IA que el mercado considera candidatas a protagonizar algunas de las mayores salidas a bolsa del sector. La pregunta empresarial, por tanto, es inevitable: ¿cómo se desacelera una carrera cuando todos los competidores tienen incentivos económicos para avanzar?
El incidente que cambió la conversación
La discusión sobre la velocidad de desarrollo tampoco ocurre únicamente en el terreno teórico.
En julio, OpenAI reveló que algunos de sus modelos utilizados en evaluaciones internas de ciberseguridad habían conseguido eludir los controles que debían mantenerlos aislados de Internet. Los sistemas terminaron accediendo a infraestructura externa y comprometiendo sistemas de Hugging Face durante el ejercicio.
OpenAI describió posteriormente que los modelos habían eludido mecanismos de aislamiento, obtenido acceso a Internet, utilizado canales no autorizados y accedido a sistemas de terceros. La compañía señaló que el incidente involucró varios modelos, entre ellos GPT-5.6 Sol y un modelo de investigación previo al lanzamiento, con las restricciones habituales para actividades cibernéticas de alto riesgo reducidas con fines de evaluación.
El episodio se convirtió en uno de los argumentos utilizados por Amodei para defender su propuesta. En su ensayo, el CEO de Anthropic planteó que un incidente similar, protagonizado por sistemas con mayores capacidades y un nivel comparable de desalineación, podría producir daños mucho más graves.
Su preocupación es que la diferencia entre el incidente observado y uno potencialmente catastrófico podría reducirse rápidamente a medida que aumenten las capacidades de los modelos. En su propuesta, Amodei incluso plantea que, dentro de 6 a 12 meses, un sistema con capacidades superiores y fallas similares podría llegar a controlar una botnet persistente sobre Internet y provocar daños económicos de cientos de miles de millones de dólares.
No se trata, además, de un episodio aislado dentro del sector. Investigadores y compañías han reportado otros incidentes relacionados con sistemas de IA que obtuvieron acceso a recursos para los que no estaban previstos, lo que ha reforzado el debate sobre contención, evaluación independiente y supervisión.
El problema de ponerse de acuerdo
La tercera parte del plan de Amodei es también la más difícil: coordinación global.
El ejecutivo sostiene que los riesgos de los sistemas más avanzados no se detienen en las fronteras nacionales. Por eso considera necesario que los gobiernos, incluidos aquellos que mantienen rivalidades geopolíticas, establezcan algún nivel de cooperación.
Fue precisamente esa idea la que reiteró ante Naciones Unidas. “Ningún líder, ninguna empresa y ninguna nación pueden gestionar esto por sí solos», afirmó Amodei. "Nos comprometemos a trabajar con los gobiernos presentes en esta sala en esta labor urgente”.
El planteamiento coloca a la industria tecnológica en una posición peculiar. Durante años, Silicon Valley ha defendido la innovación rápida y ha cuestionado los intentos de regulación que pudieran ralentizar el desarrollo de nuevas tecnologías. Ahora, algunos de los mismos ejecutivos que lideran la carrera hacia sistemas más potentes están reclamando mecanismos de coordinación que, inevitablemente, podrían imponer límites a esa carrera.
Pero existe una diferencia importante entre pedir seguridad y pedir una pausa. Amodei ha sido explícito en que su propuesta no busca detener el entrenamiento ni el progreso técnico. Lo que propone es introducir condiciones que obliguen a las empresas a demostrar que sus sistemas están suficientemente protegidos antes de avanzar hacia capacidades todavía mayores.
Altman comparte parte de esa lógica, aunque su posición se presenta dentro de una realidad competitiva en la que OpenAI continúa desarrollando agresivamente nuevos sistemas.
Ahí aparece el principal interrogante del debate: quién determina cuándo la velocidad es demasiado rápida, qué criterios se utilizan para medir ese riesgo y quién tiene autoridad para exigir que una compañía detenga o modifique el desarrollo de un modelo.
Washington frente a Silicon Valley
La divergencia con Trump convierte el episodio en algo más que una discusión tecnológica.
El presidente estadounidense sostiene que limitar el desarrollo de la IA podría comprometer la posición competitiva de Estados Unidos, particularmente frente a China. En su discurso ante Naciones Unidas, defendió el crecimiento de la tecnología y rechazó la idea de que la comunidad internacional deba imponer mecanismos que puedan frenar ese avance.
Altman y Amodei, en cambio, están planteando que la competencia geopolítica no debería impedir ciertos acuerdos básicos de seguridad.
Es una diferencia que atraviesa a toda la industria. Por un lado está el argumento de que reducir el ritmo podría significar ceder ventaja tecnológica a otros países. Por el otro, la preocupación de que una carrera sin mecanismos comunes de seguridad produzca sistemas cuyas capacidades superen la capacidad de sus propios desarrolladores para controlarlos.
El resultado es un escenario inédito: los CEO de dos de las empresas que más se benefician de la aceleración de la IA están pidiendo que el mundo encuentre mecanismos para hacerla más lenta y controlable, mientras el presidente del país que concentra buena parte de esa industria sostiene que no piensa frenarla.
La discusión que llegó al Consejo de Seguridad de Naciones Unidas ya no es solamente cuánto puede avanzar la inteligencia artificial. Es quién decide a qué velocidad debe hacerlo y bajo qué condiciones. Y, sobre todo, si los gobiernos y las compañías que compiten por construir los sistemas más poderosos serán capaces de acordar reglas antes de que la propia tecnología vuelva más difícil esa negociación.
Comentarios