Gobernanza: el verdadero costo oculto de la IA empresarial
A medida que los pilotos pasan a producción y los agentes asumen tareas más complejas, las empresas deben financiar auditorías, controles de datos, aprobaciones y supervisión humana. Un estudio de ISG indica que solo un tercio de 1.200 casos de uso llegó a producción y que completar los proyectos pendientes podría costar el doble de lo invertido hasta ahora.
La factura de la inteligencia artificial empresarial suele medirse en infraestructura, licencias, integración y tokens. Pero cuando una organización intenta llevar sus proyectos más allá de las pruebas iniciales, aparece otro gasto menos visible: el trabajo necesario para controlar lo que hace la IA, verificar sus resultados, documentar sus decisiones y garantizar que opere dentro de las reglas del negocio. La gobernanza está dejando de ser una cuestión secundaria de cumplimiento para convertirse en una variable concreta del costo total de adopción.
El problema se vuelve más evidente con la expansión de los agentes autónomos. A diferencia de los asistentes que responden consultas, estos sistemas pueden ejecutar secuencias de tareas, interactuar con aplicaciones, acceder a información y avanzar procesos con distintos grados de autonomía. Esa capacidad amplía su potencial, pero también multiplica los puntos que una empresa debe supervisar. Los equipos de tecnología, seguridad, legales, riesgo y gestión de datos pasan a compartir una responsabilidad que antes podía concentrarse en un proyecto piloto o en un grupo reducido de especialistas.
La dimensión del desafío aparece en una investigación de ISG sobre 1.200 casos de uso de inteligencia artificial. Según David Menninger, director ejecutivo de investigación de software y analista distinguido de la firma, aproximadamente un tercio de esos casos había llegado a producción. La proporción duplicaba la registrada un año antes, pero significaba que dos tercios todavía no habían superado esa etapa. Más aún, el estudio estimó que completar los proyectos demandaría, en promedio, más de un año y costaría el doble de lo que las organizaciones ya habían invertido.
La brecha entre experimentar e implementar es, precisamente, donde se acumulan algunos de los costos que las empresas no habían previsto. Los controles de acceso, las pruebas, las auditorías, la documentación y los mecanismos de revisión pueden parecer tareas administrativas durante una prueba acotada. Pero cuando el sistema comienza a intervenir en procesos reales, esas tareas se vuelven requisitos operativos. Si no fueron contempladas desde el inicio, deben incorporarse después, con más trabajo, herramientas adicionales y retrasos.
Menninger advierte que incorporar la gobernanza una vez que el proyecto está avanzado puede agregar meses al despliegue. En lugar de acelerar la adopción, la ausencia de controles termina convirtiéndose en un obstáculo para escalar. En la misma línea, Enza Iannopollo, vicepresidenta y analista principal de Forrester, sostiene que las empresas no necesitan reducir la gobernanza, sino integrarla antes. Los pilotos, plantea, son el momento adecuado para probar los controles, ajustarlos y preparar el camino hacia una implementación de mayor escala.
El costo tampoco se limita a la documentación o al trabajo de los equipos de cumplimiento. La promesa de automatización convive con una realidad menos espectacular: buena parte de las operaciones asistidas por IA todavía requiere intervención humana. De acuerdo con datos de ISG Market Lens citados por Menninger, el 90% del trabajo habilitado por inteligencia artificial sigue involucrando personas, ya sea porque utilizan la tecnología como asistencia o porque deben revisar y aprobar sus resultados.
La cifra cuestiona una de las narrativas más repetidas alrededor de los agentes: que automatizar tareas equivale necesariamente a eliminar trabajo humano. En muchos casos, lo que ocurre es un desplazamiento de las responsabilidades. La IA puede encargarse de las actividades más rutinarias, pero las decisiones complejas, las excepciones y los resultados de mayor riesgo siguen necesitando criterio humano. Esa supervisión consume tiempo y recursos, y debe incorporarse al cálculo económico de cada iniciativa.
La autonomía completa, además, parece todavía lejana. Según la investigación de ISG citada por IT Pro, solo el 13% del trabajo habilitado por IA será totalmente autónomo hacia finales de 2027. El dato sugiere que, al menos en el horizonte inmediato, las organizaciones deberán diseñar sus procesos suponiendo que las personas seguirán teniendo un papel importante en la revisión y autorización de resultados.
La cuestión no es mantener a un empleado verificando cada respuesta de un modelo. Ese enfoque puede funcionar en una prueba pequeña, pero se vuelve insostenible cuando una compañía pasa de diez proyectos de IA a cien. Iannopollo advierte que los esquemas basados exclusivamente en revisiones manuales se convierten en cuellos de botella. La gobernanza necesita combinar controles técnicos, automatización y una distribución selectiva de las tareas que requieren intervención humana.
Eso implica establecer umbrales de revisión según el riesgo. Una recomendación interna o una tarea administrativa de bajo impacto no debería demandar el mismo nivel de autorización que una decisión financiera, una operación que afecta a un cliente o un proceso crítico para la continuidad del negocio. Menninger considera que los umbrales de revisión humana son una de las técnicas más efectivas para administrar riesgos y costos, porque permiten concentrar recursos donde las consecuencias de un error pueden ser mayores.
También existe una brecha entre las capacidades que ofrecen las plataformas y las necesidades de control de las organizaciones. Según la evaluación de ISG citada por Menninger, solo un tercio de más de dos docenas de proveedores analizados cumplía plenamente los criterios de la firma para herramientas de evaluación de agentes. Menos de una quinta parte satisfacía sus requisitos para pruebas A/B y menos de la mitad cumplía los criterios para mecanismos de revisión con intervención humana. En otras palabras, comprar una plataforma de IA no garantiza disponer de todas las herramientas necesarias para gobernarla.
El mercado empieza a responder a esa necesidad. Gartner proyectó que el gasto en plataformas de gobernanza de inteligencia artificial crecerá de US$275 millones en 2026 a US$462 millones en 2027. El incremento refleja la aparición de una categoría de software destinada a administrar políticas, accesos, auditorías, evaluaciones y controles sobre sistemas de IA. Pero también anticipa que las empresas deberán incorporar nuevas partidas presupuestarias para gestionar una tecnología que, en teoría, debía reducir costos y simplificar procesos.
El riesgo de fondo es que la gobernanza se convierta en una estructura paralela, formada por comités, aprobaciones y revisiones manuales que crece al mismo ritmo que los proyectos de IA. Para evitarlo, los controles deben estar integrados en las plataformas y en los flujos de trabajo: registrar qué hizo un agente, con qué información, bajo qué permisos, quién autorizó una acción y cómo puede detenerse o corregirse un proceso cuando el sistema se desvía de su comportamiento esperado.
La gobernanza también debe ser proporcional. No todas las aplicaciones necesitan el mismo nivel de restricciones ni todas las decisiones requieren la misma supervisión.
Identificar los riesgos desde el diseño permite aplicar controles más exigentes donde son necesarios y evitar que los proyectos de bajo impacto queden atrapados en procesos innecesarios. La alternativa, como advierten los analistas consultados por IT Pro, es descubrir esas exigencias demasiado tarde y pagar el costo de reconstruir el proyecto.
La inteligencia artificial no se vuelve más barata simplemente porque disminuya el precio de los modelos o porque un agente pueda ejecutar más tareas sin intervención directa. El costo real incluye todo lo que una empresa debe construir alrededor de esa capacidad para utilizarla de manera confiable. En la carrera por llevar la IA a producción, la gobernanza ya no es un apéndice del proyecto: es parte de su infraestructura económica.
Comentarios