Cloud-Cybersec Summit Panamá 2025: la IA, héroe y amenaza en la misma ecuación de ciberseguridad
- Malka Mekler
- hace 3 minutos
- 3 Min. de lectura
Miguel Caldentey, socio en Deloitte, destacó que la evolución hacia ecosistemas multiagente y decisiones automatizadas exige marcos de madurez específicos, nuevas prácticas para proteger el uso interno de IA y el uso de modelos avanzados para fortalecer la defensa cibernética.
La conversación sobre ciberseguridad en Cloud Summit/Cybersec Panamá 2025 dio un giro técnico decisivo con la conferencia “Más allá del firewall: Reimaginando la gestión de ciberseguridad con la IA”, presentada por Miguel Caldentey, socio en Deloitte, quien abrió con una advertencia clara, indicando que el auge de la inteligencia artificial generativa está siendo tan sobreexplotado que resulta difícil distinguir innovación real de simple mercadeo. “Estamos abusando del tema… se hace difícil identificar realmente qué es, qué no es y cómo esto nos afecta”, sostuvo al recordar que los modelos de IA no son nuevos, pero que la transición hacia arquitecturas generativas y agentes autónomos cambia por completo el panorama tecnológico.
Caldentey explicó que el primer choque que vivieron las empresas fue cultural, muchas organizaciones optaron por bloquear herramientas como ChatGPT ante la incertidumbre sobre cómo controlar el flujo de información hacia modelos alojados en la nube. Pero esa primera barrera se quedó corta frente a la adopción de sistemas RAG, capaces de indexar contenido interno y generar respuestas basadas en información corporativa. Ese paso, dijo, abrió el primer punto crítico, la exposición directa de datos sensibles al corazón del modelo.
El verdadero desafío, sin embargo, llegó con la proliferación de agentes inteligentes. El vocero detalló que estas arquitecturas no solo recuperan información, sino que incorporan memoria persistente y acceso a herramientas capaces de ejecutar acciones dentro del ERP, el CRM o los flujos transaccionales. “Estamos hablando de personas virtuales que pueden actuar sobre aplicaciones y procesos”, explicó, señalando que el riesgo se amplifica cuando se despliegan modelos multiagente que reparten tareas entre sí, coordinan acciones y ejecutan decisiones sin intervención humana directa. La aparición de estándares como MCP, que permite que cualquier agente invoque APIs de aplicaciones empresariales, aceleró esta complejidad.
En este escenario, Caldentey advirtió que emergen nuevos vectores de ataque, como la manipulación de memoria, interferencia entre agentes, suplantación de identidad y corrupción de objetivos. Para él, la IA es simultáneamente “el héroe y el bandido”, ya que tanto atacantes como defensores utilizan estas mismas capacidades para automatizar y escalar sus operaciones. Esta dualidad obliga a las empresas a trabajar en dos frentes, proteger el uso interno de la IA y, en paralelo, incorporar IA para modernizar la función de ciberseguridad.
Aunque el fundamento metodológico, evaluar amenazas, definir controles y aplicar medidas, no cambia frente a marcos tradicionales como NIST o ISO 27001, sí cambian las amenazas y las herramientas. El ponente citó soluciones que ya permiten monitorear agentes en tiempo real, revisar prompts, aplicar red teaming y evaluar código generado por modelos, mostrando que el ecosistema técnico se está ajustando al nuevo tipo de riesgo. También insistió en que la gobernanza debe consolidarse con plataformas únicas para construir agentes, procesos formales de desarrollo seguro, autoridades que verifiquen diseños y portafolios unificados que eviten duplicar capacidades.
Desde el otro ángulo, Caldentey explicó que la IA también potencia la operación defensiva. Modelos para detectar anomalías en red, automatizar respuesta a incidentes, revisar reglas de firewall o clasificar código ya estaban en uso, pero la IA generativa amplifica su alcance en áreas como evaluación de riesgos de terceros, identidad y acceso, infraestructura y seguridad de aplicaciones. Todo este despliegue conduce, según enfatizó, a un escenario inevitable: la empresa autónoma, donde el rol humano se centra en supervisar agentes y asumir la responsabilidad final de sus decisiones. “No podemos meter preso a un agente”, recordó, subrayando que la responsabilidad siempre recae en personas.
Al cierre, Caldentey insistió en que el hype suele inflar expectativas, pero también anticipa realidades que terminan materializándose. Para enfrentar esta transición, propuso que las organizaciones evalúen su nivel de madurez en el “viaje seguro hacia la IA”, desde modelos reactivos hasta capacidades avanzadas con monitoreo continuo, búsqueda proactiva de amenazas y mecanismos adaptativos frente a riesgos dinámicos. El vocero concluyó indicando que la inteligencia artificial no es una capa opcional, sino una nueva dimensión que redefine la arquitectura, la operación y la gobernanza de la ciberseguridad moderna.