Los creadores de ChatGPT plantean el establecimiento de una autoridad inspirada en la Agencia Internacional de Energía Atómica para inspeccionar los sistemas de inteligencia artificial.
OpenAI, un actor destacado en el campo de la inteligencia artificial (IA), manifestó la necesidad de un organismo regulador internacional para supervisar el rápido progreso de la tecnología de IA. En una publicación en el blog de la empresa, su fundador, Sam Altman, el presidente Greg Brockman y el científico jefe Ilya Sutskever, destacaron las limitaciones de las autoridades existentes para administrar de manera efectiva el ritmo acelerado de la innovación en IA.
Si bien la publicación reconoce los logros de OpenAI, particularmente con su popular ChatGPT, también reconoce los riesgos inherentes asociados con la IA y su potencial como un activo valioso.
La publicación subraya la importancia de los esfuerzos coordinados entre los principales desarrolladores de IA para garantizar el avance seguro y responsable de los sistemas superinteligentes y su integración en la sociedad. OpenAI propone el establecimiento de una autoridad internacional, inspirada en la Agencia Internacional de Energía Atómica (OIEA) que rige la energía nuclear, que tendría la capacidad de inspeccionar los sistemas de IA, realizar auditorías, hacer cumplir las normas de seguridad e imponer restricciones en los niveles de despliegue y seguridad.
Vea también: La Casa Blanca se reunió con CEOs de Microsoft, Google, OpenAI y Anthropic para discutir sobre la IA
Según el comunicado "necesitamos cierto grado de coordinación entre los principales esfuerzos de desarrollo para garantizar que el desarrollo de la superinteligencia ocurra de una manera que nos permita mantener la seguridad y ayudar a la integración fluida de estos sistemas con la sociedad. Es probable que, eventualmente, necesitemos algo como una [Agencia Internacional de Energía Atómica] para los esfuerzos de superinteligencia; cualquier esfuerzo por encima de un cierto umbral de capacidad (o recursos como computación) deberá estar sujeto a una autoridad internacional que pueda inspeccionar sistemas, requerir auditorías, probar el cumplimiento de los estándares de seguridad, imponer restricciones en los grados de implementación y niveles de seguridad, etc."
Aunque es posible que el organismo regulador de la IA propuesto no posea capacidades de aplicación directa, puede servir como plataforma para definir y monitorear estándares y acuerdos internacionales relacionados con la gobernanza de la IA.
OpenAI sugiere que las medidas objetivas, como el seguimiento de la potencia de cómputo y el uso de energía dedicado a la investigación de IA, deben informarse y monitorearse. Si bien determinar casos de uso específicos para la IA puede ser un desafío, monitorear y auditar los recursos asignados al desarrollo de la IA, al igual que en otras industrias, podría proporcionar una base para una supervisión efectiva. OpenAI propone eximir a las empresas más pequeñas para fomentar la innovación, mientras que las entidades más grandes estarían sujetas a seguimiento.
El llamado a la regulación se alinea con las opiniones del destacado investigador de IA Timnit Gebru, quien enfatizó la necesidad de presión externa y una regulación integral más allá de los motivos de lucro.
La postura de OpenAI refleja una combinación de abrazar su posición en el mercado y abogar por acciones concretas en la gobernanza de la IA. La propuesta sirve como catalizador para debates en toda la industria, reconociendo el requisito crítico para la supervisión pública. Sin embargo, el desarrollo de un marco regulatorio sólido es una tarea compleja que requiere una mayor exploración.
Aunque OpenAI reconoce la importancia de la precaución, la organización actualmente no tiene planes de ralentizar sus esfuerzos de desarrollo de IA.
Comments