El exjefe científico de OpenAI presentó Safe Superintelligence Inc. (SSI), apenas un mes después de dejar la creadora de ChatGPT. ¿Qué busca?
Ilya Sutskever, quien durante años fue el principal científico de OpenAI, ha lanzado Safe Superintelligence Inc. (SSI), una nueva empresa dedicada a abordar los desafíos de la seguridad en sistemas de inteligencia artificial superinteligentes. Junto a Daniel Gross (exsocio de Y Combinator) y Daniel Levy (exingeniero de OpenAI), Sutskever busca continuar su misión de asegurar que la inteligencia artificial se desarrolle de manera segura y controlada, según informó Techcrunch.
En OpenAI, Sutskever fue una figura clave en los esfuerzos para mejorar la seguridad de la IA, trabajando junto a Jan Leike en el equipo de Superalignment. Sin embargo, ambos dejaron la compañía en mayo tras desacuerdos con la dirección sobre cómo abordar la seguridad de la IA. Ahora, Leike lidera un equipo en Anthropic, una empresa rival en el campo de la IA.
Sutskever ha sido un defensor de la investigación en seguridad de la IA durante mucho tiempo. En un blog publicado en 2023, junto con Leike, predijo que la llegada de una IA con inteligencia superior a la humana podría ocurrir dentro de una década y advirtió que esta podría no ser benevolente, lo que hace crucial investigar formas de controlarla y restringirla.
La formación de SSI se anunció a través de un tweet de Sutskever, en el que destacó que la misión de la compañía se centrará exclusivamente en la seguridad de la superinteligencia. "SSI es nuestra misión, nuestro nombre y nuestra hoja de ruta de producto. Nuestro equipo, inversores y modelo de negocio están alineados para lograr SSI", escribió.
Aunque Sutskever no discutió la situación de financiamiento o la valoración de la empresa, Daniel Gross comentó a Bloomberg que, dada la creciente importancia de la IA y las credenciales del equipo, el capital no será un problema. Actualmente, SSI tiene oficinas en Palo Alto y Tel Aviv y está en proceso de reclutar talento técnico.
Sutskever enfatizó que la empresa planea avanzar en las capacidades de la IA lo más rápido posible, asegurando que la seguridad siempre se mantenga por delante. "Nuestro enfoque singular significa que no nos distraeremos con la gestión ni con los ciclos de producto, y nuestro modelo de negocio garantiza que la seguridad, la protección y el progreso estén aislados de las presiones comerciales a corto plazo", añadió.
Comments