El verdadero cuello de botella de los agentes de IA no es la inteligencia, es quién tiene permiso para actuar
- angiecantillo1
- hace 10 horas
- 3 min de lectura
Mientras la industria compite por construir agentes cada vez más autónomos, las empresas descubren que el problema crítico no es la calidad de los modelos, sino el control sobre datos, identidades y autorizaciones.
La carrera tecnológica por desarrollar agentes de inteligencia artificial cada vez más capaces está chocando contra una barrera inesperada. No se trata de la potencia de los modelos, ni de la velocidad de procesamiento, ni siquiera de la calidad de las respuestas. El obstáculo más difícil de resolver es mucho más antiguo: los permisos.
Según un análisis publicado por VentureBeat, los proyectos empresariales basados en agentes de IA están encontrando límites operativos porque las organizaciones todavía no han resuelto una pregunta básica: qué puede hacer un agente, en nombre de quién puede hacerlo y cómo se verifica que esa acción esté autorizada.
La observación resulta particularmente relevante en un momento en que gigantes tecnológicos presentan agentes capaces de ejecutar tareas complejas, coordinar flujos de trabajo y operar aplicaciones empresariales sin intervención constante de usuarios humanos.
Workday, una de las compañías más activas en este espacio, sostiene que la gobernanza es el elemento que determinará el éxito o fracaso de la próxima generación de IA corporativa. Gerrit Kazmaier, presidente de producto y tecnología de la empresa, explicó al medio que muchos clientes intentan construir agentes conectando directamente modelos a bases de datos corporativas, perdiendo por el camino la riqueza de sus sistemas de seguridad y autorización. El resultado suele ser información excesivamente amplia, decisiones incorrectas o acciones fuera de contexto.
La diferencia puede parecer técnica, pero tiene implicaciones profundas para sectores como recursos humanos, finanzas o salud. Un chatbot que responde incorrectamente una consulta puede generar frustración. Un agente que procesa una nómina errónea, modifica permisos indebidos o ejecuta una transacción financiera equivocada puede generar consecuencias legales y económicas inmediatas.
Por esa razón, Workday está construyendo su estrategia alrededor de lo que denomina un "sistema de registro" para agentes. La idea consiste en que los agentes operen dentro de las mismas estructuras de identidad, jerarquías organizacionales y reglas de autorización ya existentes en las plataformas empresariales. Los agentes no reciben poderes propios. Actúan exclusivamente dentro de los permisos del usuario que los invoca.
La discusión revela una de las grandes paradojas del actual auge de la inteligencia artificial. La industria ha invertido enormes recursos en mejorar razonamiento, contexto y capacidades multimodales, pero muchas organizaciones siguen enfrentando problemas básicos relacionados con identidad digital y control de acceso.
La importancia de este desafío está siendo reconocida incluso por firmas de análisis. Gartner advirtió recientemente que el 40% de las organizaciones podrían degradar o retirar agentes de IA durante el próximo año debido a problemas de gobernanza. El error más frecuente consiste en aplicar el mismo modelo de control a agentes con distintos niveles de autonomía.
Según la consultora, los sistemas deberían clasificarse en diferentes categorías, desde agentes que simplemente observan información hasta agentes totalmente autónomos que ejecutan acciones por cuenta propia. Cada nivel requiere controles específicos, monitoreo continuo y distintos mecanismos de aprobación.
La preocupación no es teórica. A medida que los agentes comienzan a interactuar con sistemas empresariales reales, los riesgos aumentan exponencialmente. Datos financieros, historiales laborales, contratos, inventarios y procesos regulatorios están entrando en el radio de acción de estos sistemas automatizados.
Dan Obendorfer, director de producto de Würk, resumió el dilema con una frase contundente: si los permisos viven fuera del sistema donde residen los datos, la batalla ya está perdida.
El problema también está modificando la arquitectura tecnológica de las empresas. Durante años, las organizaciones construyeron ecosistemas fragmentados con múltiples herramientas de autenticación, gestión documental y control de acceso. Los agentes están obligando a reconsiderar esa fragmentación porque necesitan comprender relaciones organizacionales completas para actuar correctamente.
La tendencia coincide con una creciente preocupación sobre el comportamiento autónomo de sistemas avanzados. Wired describió recientemente cómo la explosión de agentes de programación y automatización está generando entusiasmo, pero también inquietudes relacionadas con costos, supervisión y errores operativos.
A medida que los agentes adquieren mayor capacidad de acción, la cuestión deja de ser qué tan inteligentes son y pasa a ser qué tan controlables resultan.
Comentarios