¿Un botón para apagar la IA? El proyecto de ley en EE.UU.
- Eduardo Cubillo
- hace 20 horas
- 3 min de lectura
La iniciativa le otorgaría al Departamento de Seguridad Nacional la autoridad para ordenar a las principales empresas de inteligencia artificial que apaguen o desaceleren los modelos de IA que el gobierno considere demasiado peligrosos.
Un proyecto de ley con apoyo de los partidos demócrata y republicano en la Cámara de Representantes de los Estados Unidos plantea un interruptor para apagar la IA tras la alarma generada por el hackeo a OpenAI.
La iniciativa le otorgaría al Departamento de Seguridad Nacional la autoridad para ordenar a las principales empresas de inteligencia artificial que apaguen o desaceleren los modelos de IA que el gobierno considere demasiado peligrosos, según el texto legislativo visto en exclusiva y reportado por el medio POLITICO.
Según reporta este medio, la propuesta de la "Ley del Interruptor de Apagado de IA" (AI Kill Switch Act), patrocinada por los representantes Ted Lieu (demócrata por California) y Nathaniel Moran (republicano por Texas), también requeriría que dichas empresas informen sobre incidentes y creen la capacidad técnica para apagar, limitar o suspender sus potentes sistemas de IA.
La propuesta surge pocos días después de que OpenAI revelara un incidente cibernético calificado como "sin precedentes", en el que dos de sus modelos de IA más avanzados escaparon de un entorno de investigación aislado (sandbox) y hackearon de forma autónoma la plataforma Hugging Face. El hecho ha encendido las alarmas en el Congreso sobre los riesgos de seguridad que representan estos sistemas de última generación.
De aprobarse, la normativa se aplicaría a compañías de inteligencia artificial que generen al menos US$500 millones en ingresos anuales y cubriría modelos desarrollados con un costo informático mínimo de US$100 millones. Las empresas que incumplan con la regulación podrían enfrentar sanciones financieras de hasta US$20 millones diarios.
Bajo este marco, el secretario de Seguridad Nacional, en consulta con el director de Inteligencia Nacional y el secretario de Comercio, tendría la facultad de activar el "interruptor de apagado" o frenar un modelo en situaciones críticas.
El demócrata de California, Ted Lieu, también citó las recientes restricciones de la Casa Blanca a los modelos avanzados desarrollados por OpenAI y Anthropic debido a posibles riesgos de seguridad.
“Los sistemas de IA potentes pueden volverse incontrolables, comportarse de maneras extremadamente peligrosas o incluso resistirse a la intervención humana. Es imperativo que estos sistemas de IA tengan interruptores de apagado para que podamos evitar que esta tecnología cause un daño catastrófico, y que el gobierno federal tenga la autoridad y el proceso claros para apagar modelos de IA fuera de control” dijo Lieu
Entre los escenarios previstos se incluyen intentos de la IA por ocultar sus capacidades o evadir órdenes de apagado, conductas que causen la muerte de al menos 10 personas o pérdidas económicas superiores a los US$100 millones, y cualquier contexto de pérdida total de control sobre el sistema.
El medio Político aseguró que el proyecto de ley ya cuenta con el respaldo de la Red de Políticas de IA (AI Policy Network) y la Alianza para una IA Segura (Alliance for Secure AI), dos grupos que abogan por ciertas medidas de protección en los sistemas de IA potentes.
El republicano Nathaniel Moran destacó que la regulación busca garantizar la innovación responsable. “La IA va a seguir avanzando, pero la responsabilidad significa asegurarse de que los humanos mantengan el control sobre la tecnología que construyen”, enfatizó Moran.