Anthropic incorpora a Accenture para evaluar sus modelos mientras pide desacelerar la carrera de la IA
La empresa eligió a la consultora como su primer evaluador integrado independiente para someter sus modelos a pruebas de seguridad, evaluar su alineamiento y poner a prueba sus salvaguardas. Ambas compañías prevén invertir al menos US$1.000 millones cada una durante cinco años, mientras la industria debate si la velocidad de desarrollo de la inteligencia artificial está superando la capacidad de controlarla.
La carrera por construir modelos de inteligencia artificial cada vez más capaces está abriendo una discusión incómoda dentro de la propia industria: qué ocurre cuando la tecnología avanza más rápido que los mecanismos creados para evaluarla.
Anthropic acaba de convertir esa preocupación en una iniciativa concreta. La compañía seleccionó a Accenture como su primer evaluador integrado, una figura que tendrá acceso comparable al de un empleado para analizar sus modelos desde dentro de la organización.
El acuerdo contempla que ambas compañías inviertan al menos US$1.000 millones cada una durante los próximos cinco años, lo que eleva a un mínimo de US$2.000 millones el compromiso conjunto para desarrollar capacidades relacionadas con la seguridad y evaluación de IA.
La alianza llega pocos días después de que Dario Amodei, CEO de Anthropic, planteara un esquema de tres pasos para desacelerar el desarrollo de los sistemas más avanzados y crear mecanismos de seguridad antes de que su evolución vuelva más difícil su supervisión. Cointelegraph señala que la propuesta fue publicada el 12 de septiembre de 2026.
El primer paso de esa propuesta consiste precisamente en incorporar evaluadores independientes con acceso similar al de los trabajadores internos. La lógica es distinta a una auditoría convencional: en lugar de recibir un producto terminado y analizarlo desde afuera, los evaluadores trabajarían dentro de la compañía, con acceso a los procesos y sistemas necesarios para identificar riesgos que podrían quedar ocultos en una revisión externa.
Accenture realizará esta tarea a través de Faculty, su negocio especializado en inteligencia artificial. El equipo tendrá tres responsabilidades principales: evaluar y someter a pruebas adversariales los modelos de Anthropic, realizar evaluaciones de alineamiento y probar las salvaguardas diseñadas para evitar comportamientos no deseados.
El concepto de red teaming resulta especialmente relevante. En seguridad informática, esta práctica consiste en intentar encontrar deliberadamente las debilidades de un sistema. Aplicada a modelos de IA, significa buscar comportamientos inesperados, vulnerabilidades o formas en que un modelo pueda eludir las restricciones que sus desarrolladores intentaron establecer.
Anthropic reconoce que el modelo de evaluación integrada todavía es nuevo y que varios detalles operativos están en desarrollo. La compañía también admite que actualmente no existe un sistema establecido para financiar de manera permanente este tipo de evaluaciones independientes.
Por eso, aunque considera que a largo plazo podrían intervenir fondos colectivos o gobiernos, decidió financiar directamente el trabajo de Accenture ante la urgencia que atribuye al problema.
El acuerdo tampoco es exclusivo. Anthropic anticipa que anunciará otros evaluadores durante las próximas semanas, una señal de que la compañía no plantea la relación con Accenture como un mecanismo único de supervisión.
La preocupación central de Amodei está vinculada con la posibilidad de que los propios sistemas de IA comiencen a acelerar el desarrollo de las generaciones posteriores de modelos.
En su propuesta, el CEO de Anthropic describió este fenómeno como recursive self-improvement, o mejora recursiva: la capacidad creciente de la IA para contribuir a la construcción de la siguiente generación de inteligencia artificial. Su advertencia es que, si este proceso queda sin controles suficientes, la velocidad de avance podría superar la capacidad humana para comprender y controlar los sistemas.
La discusión ya divide a algunos de los principales actores tecnológicos. Sam Altman, CEO de OpenAI, y Elon Musk respondieron favorablemente a la propuesta de Amodei, mientras que Jensen Huang, CEO de Nvidia, cuestionó la necesidad de una regulación orientada a desacelerar el desarrollo.
Ese desacuerdo revela una tensión estructural del mercado. Por un lado, los laboratorios compiten por desarrollar modelos más capaces, con mayores niveles de autonomía y capacidad para ejecutar tareas complejas. Por otro, esos mismos avances están haciendo más relevante la pregunta de quién verifica que esos sistemas sean seguros.
Reuters reportó que el acuerdo entre Anthropic y Accenture contempla una inversión conjunta de al menos US$2.000 millones durante cinco años y llega en un contexto de creciente preocupación por comportamientos inesperados de agentes de IA y por la necesidad de mecanismos de evaluación más independientes.
Comentarios