Tech Day Puerto Rico 2026: los agentes de IA obligan a replantear la seguridad empresarial
- Walter Rivera
- hace 1 hora
- 4 min de lectura
Juan del Valle Vázquez, Ingeniero en Soluciones de Seguridad de Microsoft, y Giovanni Carpentti, Senior Security & Compliance Specialist de Microsoft, abordaron los controles que las organizaciones necesitan ante la creciente incorporación de agentes autónomos en sus operaciones.
En el marco del Tech Day Puerto Rico, Juan del Valle Vázquez, Ingeniero en Soluciones de Seguridad de Microsoft, y Giovanni Carpentti, Senior Security & Compliance Specialist de Microsoft, analizaron en la charla “La nueva fuerza laboral digital: cómo gobernar y proteger” los controles que las organizaciones deben implementar para gestionar y proteger la creciente presencia de agentes autónomos en sus operaciones.
Uno de los principales planteamientos de los especialistas fue cambiar la manera en que las empresas entienden estas herramientas. Un agente que accede a datos, utiliza credenciales, invoca aplicaciones o ejecuta acciones ya no debería administrarse únicamente como software, sino también como una identidad digital.
Esta perspectiva implica responder preguntas similares a las utilizadas para administrar usuarios: quién controla al agente, qué información puede consultar, cuáles son sus permisos, qué herramientas puede utilizar, qué acciones está autorizado a realizar y cuándo debe eliminarse su acceso.
De Shadow AI a una superficie de riesgo más amplia
La expansión de la llamada Shadow AI, es decir, herramientas de inteligencia artificial utilizadas sin suficiente conocimiento o supervisión de las áreas responsables de tecnología y seguridad, adquiere una nueva dimensión con los agentes.
Del Valle explicó que estos sistemas pueden interactuar simultáneamente con servicios SaaS, aplicaciones, endpoints, archivos, credenciales, APIs y recursos alojados en la nube. Por ello, el riesgo ya no se encuentra concentrado en una sola aplicación, sino que puede extenderse a diferentes componentes de la infraestructura tecnológica.
El criterio para establecer los controles, según los especialistas, debe considerar principalmente el impacto potencial de las acciones del agente y no únicamente el modelo de IA sobre el cual fue desarrollado. Un sistema utilizado para resumir información pública representa un escenario muy diferente de otro capaz de consultar información confidencial o ejecutar pagos.
Para determinar ese nivel de exposición, las empresas deberían evaluar aspectos como la sensibilidad y volumen de los datos utilizados, los privilegios concedidos, el grado de autonomía y el alcance de las acciones permitidas. A mayor capacidad para intervenir en procesos críticos, mayor tendría que ser la intensidad de los controles.
Carpentti señaló además que, según evaluaciones presentadas durante la charla, las identidades no humanas pueden superar en una proporción de 45 a 1 a las identidades humanas, una diferencia que evidencia la complejidad que puede adquirir la administración de accesos dentro de las organizaciones.
También advirtió sobre permisos excesivos y herramientas conectadas mediante credenciales corporativas. La falta de inventarios y visibilidad puede provocar que una organización desconozca qué agentes están operando, quién es responsable de ellos y a qué información tienen acceso.
Gobernanza desde el diseño hasta el retiro del agente
La propuesta presentada contempla administrar la seguridad durante todo el ciclo de vida del agente, combinando ingeniería y operaciones. La primera busca diseñar comportamientos y restricciones antes del despliegue, mientras la segunda permite supervisar lo que ocurre una vez que el sistema comienza a funcionar.
En la etapa inicial pueden incorporarse modelado de amenazas, revisión de dependencias y pruebas de seguridad. Una vez desplegado, los controles pasan por la administración de identidades, protección de información, privilegio mínimo y mecanismos capaces de detener o aislar al agente cuando presenta un comportamiento inesperado.
Durante su funcionamiento, la organización necesita además telemetría, registros de auditoría, alertas y mecanismos de investigación y respuesta. Cuando el agente deja de ser necesario, su retiro también debe contemplar la revocación de permisos, credenciales y tokens asociados.
Los especialistas insistieron en que una buena arquitectura no sustituye el monitoreo permanente y, de igual manera, la supervisión no corrige un agente diseñado de forma insegura. Ambos componentes deben funcionar de manera complementaria.
Otro riesgo abordado fue la posibilidad de que instrucciones externas alteren el comportamiento esperado de un agente. Incluso cuando el modelo, la identidad y los permisos hayan sido configurados correctamente, una instrucción maliciosa o no prevista podría manipular una decisión o desencadenar una acción no deseada.
Frente a estos escenarios, la recomendación pasa por incorporar controles en distintos momentos: validar las instrucciones recibidas, revisar las decisiones, autorizar el uso de herramientas, controlar la ejecución y evaluar el resultado antes de permitir acciones de mayor impacto.
La intervención también destacó la importancia de mantener verificación humana en procesos sensibles, registros de prompts y respuestas, autenticación multifactor, acceso condicional, clasificación de información y controles de cumplimiento, especialmente cuando los agentes cuentan con suficiente autonomía para actuar directamente sobre sistemas empresariales.
Como ruta inicial, los especialistas plantearon comenzar por crear un inventario de agentes, identificar responsables, determinar qué datos y herramientas utiliza cada uno, clasificarlos según su nivel de riesgo y realizar pilotos en ambientes controlados antes de ampliar su implementación.
La adopción de agentes de IA, señalaron, probablemente continuará incluso cuando las organizaciones todavía estén definiendo sus políticas internas. El reto empresarial será evitar repetir experiencias anteriores en las que nuevas tecnologías comenzaron a utilizarse antes de establecer una gobernanza adecuada. Saber qué agentes existen, qué pueden hacer y cómo detenerlos se perfila como una nueva prioridad de la estrategia de ciberseguridad.
Comentarios