El dilema del “human in the loop” en la IA
- angiecantillo1
- hace 30 minutos
- 4 min de lectura
La expresión se ha convertido en una de las principales promesas de seguridad para la inteligencia artificial empresarial. Sin embargo, expertos advierten que muchas organizaciones colocan personas frente a las decisiones de la IA sin darles autoridad, contexto o tiempo suficiente para intervenir. El resultado puede ser una supervisión que parece control, pero no lo es.
Hay una frase que se ha convertido en una especie de seguro verbal para las empresas que implementan inteligencia artificial: “human in the loop”.
La idea parece tranquilizadora. Una máquina recomienda o decide, pero una persona supervisa el proceso y puede intervenir cuando algo sale mal.
El problema es que, en muchas organizaciones, esa persona está allí, pero no tiene realmente el poder para hacer nada.
Un análisis publicado por CIO advierte que algunos sistemas presentados como mecanismos de supervisión humana funcionan en realidad como una especie de sello de aprobación. Los empleados pueden observar una decisión de la IA y marcar una preocupación, pero no necesariamente pueden detenerla, modificarla, rechazarla o escalarla.
Doug Shepherd, responsable de seguridad ofensiva de Cloudflare, lo resume de forma contundente: “Si tu humano en el circuito puede marcar algo pero no puede detenerlo, eso no es human in the loop, es un humano al lado del circuito”. Para Shepherd, se trata de una forma de gobernanza performativa, más preocupada por aparentar control que por gestionar realmente el riesgo.
El problema adquiere otra dimensión cuando la IA comienza a tomar decisiones a escala.
Darren Kimura, CEO y presidente de AISquared, sostiene que muchas compañías que aseguran contar con supervisión humana en realidad tienen a una persona mirando el proceso. Esa persona puede identificar un problema, pero carece de las facultades para detener la acción o cambiar el resultado.
La pregunta que deberían hacerse los responsables de tecnología, según el análisis de CIO, es bastante más incómoda que “¿hay un humano revisando?”. Lo importante es determinar si ese humano puede detener una acción antes de que tenga efecto, modificar el resultado, rechazarlo y garantizar que sus decisiones de override queden registradas y se respeten posteriormente.
Si alguna de esas capacidades no existe, la supervisión puede ser más simbólica que efectiva.
Y existe un segundo problema: incluso cuando el humano tiene autoridad, puede dejar de ejercerla.
Eric Billingsley, COO y CTO de TrustScale, advierte sobre la fatiga de decisión y la pérdida progresiva de vigilancia. Si un sistema acierta el 95% de las veces, la persona encargada de revisarlo pasa gran parte de su jornada esperando el pequeño porcentaje de ocasiones en las que la máquina se equivoca. Con el tiempo, la revisión puede convertirse en una confirmación automática.
Ese fenómeno es particularmente peligroso porque el éxito de la IA puede terminar debilitando precisamente el mecanismo creado para controlarla.
Después de revisar cientos de decisiones correctas, el empleado aprende a confiar en el sistema. Cuando finalmente aparece un caso excepcional, puede aprobarlo simplemente porque el patrón anterior le ha enseñado que la máquina “normalmente tiene razón”.
Robert Blumofe, vicepresidente ejecutivo y CTO de Akamai, plantea una preocupación similar: los modelos de lenguaje pueden acertar con suficiente frecuencia como para generar una falsa sensación de fiabilidad. La vigilancia humana comienza siendo rigurosa, pero puede transformarse gradualmente en una aprobación rutinaria.
Por eso, la gobernanza de IA no puede reducirse a colocar una persona delante de un botón.
Gartner ya había advertido en abril de 2026 sobre lo que denominó la “falacia human-in-the-loop”. Su argumento central es que la responsabilidad no desaparece cuando las decisiones se automatizan: debe conservarse mediante el diseño del sistema.
El problema surge cuando las empresas interpretan una intervención humana mínima como una señal de madurez tecnológica mientras reducen la inversión en supervisión.
La cuestión se vuelve todavía más delicada cuando la IA opera en ámbitos donde la velocidad importa más que la revisión manual.
En ciberseguridad, por ejemplo, esperar a que un empleado apruebe una acción puede ser precisamente lo que permita que un ataque se propague. Kimura plantea el caso de un endpoint comprometido: si el sistema necesita esperar 20 o 30 minutos para obtener autorización humana antes de aislarlo, el incidente podría extenderse durante ese intervalo.
Aquí aparece una paradoja importante para las empresas. El objetivo no debería ser poner a una persona delante de cada decisión tomada por la IA. Debería ser determinar en qué decisiones hace falta una persona, cuál debe ser su función y qué capacidad real debe tener para intervenir.
Eso coincide con una tendencia más amplia en la gobernanza de sistemas autónomos. El World Economic Forum ha planteado que la supervisión humana efectiva requiere algo más que una firma o una aprobación formal: la persona debe comprender el contexto, cuestionar resultados y asumir responsabilidad por la corrección cuando sea necesario.
La alternativa tampoco consiste en entregar todo el control a otra IA. Blumofe propone utilizar sistemas tecnológicos no basados en IA como barreras adicionales.
Esos controles pueden encargarse de probar y validar resultados, detectar anomalías y, cuando sea necesario, pausar el trabajo de la IA. La idea es construir varias capas de seguridad en lugar de confiar exclusivamente en una persona que podría estar cansada, saturada o condicionada por el comportamiento anterior del sistema.
Este debate llega justo cuando las empresas avanzan desde los copilotos hacia sistemas capaces de ejecutar acciones con mayor autonomía. La pregunta empresarial ya no es únicamente si un modelo puede generar una respuesta correcta. Es qué sucede cuando esa respuesta activa una acción real y quién tiene capacidad para detenerla.
Comentarios