Más de 1.200 empleados de empresas de IA advierten que el crecimiento de la tecnología puede escapar del control humano
- Eduardo Cubillo
- hace 1 día
- 2 min de lectura
Una carta abierta firmada por investigadores y empleados de gigantes como OpenAI, Anthropic, Meta y Google advierte sobre la urgencia de desarrollar mecanismos internacionales para regular y pautar la velocidad del desarrollo de la inteligencia artificial.
La inteligencia artificial tiene el potencial de ayudar a crear un mundo drásticamente mejor, pero existe un riesgo real de que la velocidad de su avance supere la capacidad humana para comprender o controlar los sistemas resultantes. Este es el principal postulado de una declaración pública firmada por 1.273 empleados e investigadores de las principales empresas de IA de vanguardia.
En el documento, los firmantes solicitan de manera formal al gobierno de los Estados Unidos que lidere y apoye un esfuerzo internacional destinado a crear herramientas técnicas y de gobernanza que permitan pautar y regular deliberadamente el ritmo de la IA automatizada antes de que sea demasiado tarde.
La iniciativa cuenta con el respaldo de destacados científicos y personal de investigación clave de organizaciones como OpenAI, Anthropic, Meta y Google DeepMind. Entre los testimonios destacados se encuentra el de Dawn Song, investigadora en ciencia de datos e IA, quien enfatizó que si la IA será tan transformadora para la humanidad como lo fue la electricidad, es indispensable ser intencionales sobre la manera en que se introduce en la sociedad.
"Una carrera descontrolada sin garantías sobre gobernanza, seguridad o sobre si la tecnología sirve al interés público se interpone en el camino de dicha intencionalidad", señaló Song.
Por su parte, Stephanie Chan, investigadora científica en Google, advirtió sobre la velocidad sin precedentes con la que evoluciona la tecnología:
"En el lapso de cuatro años, hemos pasado de que las personas tuvieran su primera experiencia con una IA que podía entender el lenguaje, a una IA que está realizando hazañas sobrehumanas de ingeniería de software, logrando avances matemáticos en la frontera y acelerando la investigación científica. El progreso no muestra signos de desaceleración", aseguró Chan.
El dilema de la competencia global
La carta subraya una de las mayores barreras actuales para la seguridad tecnológica: la intensa presión competitiva. Hoy en día, ninguna empresa o país se atreve a frenar el desarrollo de forma unilateral por temor a quedar rezagado frente a sus competidores. Esta dinámica de "carrera armamentística" comercial y geopolítica genera un escenario en el que el ritmo de avance lo dicta la competencia y no las garantías de seguridad.
Además, los investigadores alertan sobre los riesgos inmediatos observados en las evaluaciones de los modelos más recientes, donde los agentes de IA ya demuestran la capacidad de descubrir y explotar vulnerabilidades de ciberseguridad en software real, lo que sin las protecciones adecuadas podría facilitar ataques informáticos a gran escala.
Ante la falta de herramientas técnicas globales para auditar y controlar el progreso a nivel del estado del arte (frontier AI), los trabajadores de la industria apelan a la cooperación internacional.
La propuesta busca que los gobiernos no solo monitoreen los lanzamientos de nuevos modelos, sino que dispongan de la capacidad legal y técnica para ganar tiempo cuando sea necesario abordar riesgos emergentes, desarrollar salvaguardas y fortalecer la supervisión sin poner en desventaja a ningún actor individual.