Por qué la gobernanza se convirtió en el punto ciego de la IA empresarial
El problema de muchos proyectos de inteligencia artificial en las empresas no estaría en los modelos ni en los datos, sino en quién controla las decisiones que ocurren entre ambos. Un análisis advierte que ceder esa capa de razonamiento a los proveedores puede convertir la gobernanza en una forma de dependencia tecnológica.
La industria empresarial ha pasado buena parte de los últimos dos años discutiendo qué modelo de inteligencia artificial utilizar, cuánto invertir en infraestructura y cómo llevar los datos corporativos a sistemas capaces de razonar. Pero una pregunta más incómoda empieza a ganar espacio: ¿quién tiene realmente la autoridad para decidir qué hace la IA dentro de una empresa?
Keith Townsend, asesor de CTO y fundador de CTO Advisor, sostiene que ahí se encuentra uno de los principales puntos de quiebre de los proyectos de IA empresarial. Según su análisis, el fracaso no necesariamente ocurre en el modelo ni en los datos, sino en una capa intermedia donde el sistema determina cómo utilizar esos modelos, qué agente debe ejecutar una tarea, cómo enrutar una solicitud y qué evidencia debe conservarse.
La advertencia aparece en un análisis publicado por Blocks & Files, que recoge las conclusiones de Townsend y su modelo de ocho capas para la infraestructura de IA. El especialista sostiene que la denominada capa 2C, que describe como el plano de razonamiento o juicio, es el lugar donde se concentra una parte esencial del control empresarial.
El contexto ayuda a entender por qué esta discusión importa. Townsend cita una estadística ampliamente repetida según la cual 95% de los proyectos de IA empresarial no generan ningún retorno.
Esa cifra coincide con una investigación de MIT NANDA publicada en 2025, que encontró que cerca de 95% de los pilotos de IA generativa analizados no produjeron un impacto financiero medible, mientras alrededor de 5% consiguió acelerar ingresos. El estudio de MIT se basó en 150 entrevistas con líderes, una encuesta a 350 empleados y el análisis de 300 implementaciones públicas de IA.
Para Townsend, sin embargo, mirar solamente esa tasa de fracaso conduce a una conclusión equivocada. La pregunta no debería ser únicamente por qué fallan los proyectos, sino en qué parte de la arquitectura se produce el fallo.
Su experiencia personal sirve como ejemplo. El año pasado trasladó un sistema de IA que ya estaba en producción desde Google Cloud hacia un sistema NVIDIA DGX Spark instalado localmente.
Según relató, los datos pudieron trasladarse en una tarde, pero reconstruir el sistema que determinaba cómo debía razonar la IA tomó semanas. Los embeddings, la lógica de recuperación y las relaciones semánticas que influían en la diferencia entre una respuesta razonada y una alucinación no se trasladaron automáticamente.
La conclusión que extrajo fue contundente: “The data moved fine. The judgment didn’t.” En otras palabras, la portabilidad de la infraestructura no necesariamente implica portabilidad de la lógica que gobierna las decisiones de un sistema de IA.
Townsend afirma haber evaluado 26 plataformas de proveedores a través de las ocho capas de su modelo de infraestructura de IA. Su hallazgo es que la mayor parte de las capas inferiores pueden trasladarse entre proveedores, entre la nube pública y los sistemas locales, mientras que el plano de razonamiento presenta una dependencia mucho más difícil de deshacer.
Ese plano se ubica, según su esquema, por encima de los datos y por debajo de la aplicación. Es ahí donde aparecen cuestiones que tradicionalmente pertenecían a los equipos de gobierno corporativo: políticas, escalamiento de excepciones, evidencia y autoridad para tomar decisiones. El problema es que muchos productos empresariales incorporan esas funciones sin definirlas explícitamente ni convertirlas en un estándar portable.
La consecuencia puede ser una nueva forma de vendor lock-in. Una empresa puede creer que está comprando un modelo, una plataforma de datos o capacidad de cómputo, cuando en realidad también está delegando decisiones sobre cómo interpretar la información y cómo actuar frente a determinadas situaciones.
Ese riesgo se vuelve todavía más relevante a medida que las compañías avanzan de los chatbots hacia agentes capaces de ejecutar tareas. Un chatbot que responde una pregunta y un agente que decide qué sistema consultar, qué información utilizar, qué acción ejecutar y cuándo escalar un caso no plantean el mismo problema de gobernanza.
Townsend propone para ello el Decision Authority Placement Model (DAPM), un marco destinado a identificar dónde reside la autoridad para tomar decisiones. Su planteamiento distingue entre autoridad no ubicada, heredada de plataformas, configuraciones de proveedores o supuestos históricos, y tres modalidades deliberadas: autoridad dirigida por la plataforma, autoridad vinculada a la gobernanza y autoridad alineada con el producto.
La diferencia no es académica. En el primer modelo, la plataforma puede tomar decisiones operativas dentro de determinados límites. En el segundo, el sistema ejecuta automáticamente hasta que se alcanza un umbral de riesgo, aparece ambigüedad o se requiere revisión humana. En el tercero, los equipos de producto reciben autoridad para realizar determinados intercambios dentro de reglas previamente definidas.
El punto central es que las empresas deberían saber si una decisión está retenida, delegada o cedida. Townsend advierte que muchas organizaciones no han hecho ese mapa. El problema puede permanecer invisible durante meses o incluso años, hasta que una IA produce una respuesta incorrecta con datos reales y nadie dentro de la compañía sabe explicar por qué ocurrió o quién tiene autoridad para corregir el mecanismo que tomó la decisión.
Comentarios