top of page

El futuro de la ciberseguridad en la era de la IA generativa

Se prevé que la inteligencia artificial generativa se convierta en un factor clave en las decisiones de compra de ciberseguridad para finales de 2024, y se espera que sus aplicaciones sean omnipresentes en todas las operaciones de seguridad.


A medida que evoluciona el panorama digital, también lo hace el ámbito de la ciberseguridad, que ahora se encuentra al borde de una era transformadora impulsada por la IA generativa. La reciente investigación realizada por Enterprise Strategy Group (ESG) revela conocimientos y estadísticas convincentes que subrayan el papel fundamental de la IA generativa en la configuración del futuro de la ciberseguridad.


Hallazgos:

- La IA generativa será omnipresente a finales de 2024: El 92% de los encuestados coincide en que el aprendizaje automático ha mejorado la eficacia y eficiencia de las tecnologías de ciberseguridad.


- La paradoja de la adopción: si bien el 87% de los profesionales de la seguridad reconocen el potencial de la IA generativa para mejorar las defensas de la ciberseguridad, existe una sensación palpable de precaución. Esto surge del entendimiento de que los adversarios también pueden aprovechar las mismas tecnologías para orquestar ataques cibernéticos más sofisticados.


- Gobernanza estratégica y desarrollo de políticas: un 75% de las organizaciones no solo observan pasivamente, sino que desarrollan activamente políticas de gobernanza para el uso de la IA generativa en la ciberseguridad. Este enfoque proactivo indica un cambio significativo hacia la integración de la IA en el tejido de ciberseguridad, garantizando que su implementación sea efectiva y responsable.



- Inversión e impacto: la investigación predice una tendencia fundamental: para finales de 2024, la IA generativa influirá en las decisiones de compra de ciberseguridad de más del 60% de las organizaciones. Esta estadística es un testimonio de la creciente confianza en las capacidades de la IA para revolucionar las operaciones de seguridad, desde la detección de amenazas hasta la respuesta a incidentes.


- Eficiencia operativa y respuesta a amenazas : una de las estadísticas más destacadas de la investigación es que el 80% de los equipos de seguridad encuestados prevén que la IA generativa mejorará significativamente la eficiencia operativa. Además, el 65 % espera que mejore sus tiempos de respuesta a las amenazas, lo que subraya el potencial de la tecnología no sólo para aumentar sino también para acelerar activamente los flujos de trabajo de seguridad.


- Desafíos y Preocupaciones : A pesar del optimismo, la investigación también arroja luz sobre las preocupaciones prevalecientes. Aproximadamente el 70% de los encuestados destacó el desafío de integrar la IA generativa en las infraestructuras de seguridad existentes, mientras que el 60% señaló los riesgos asociados con posibles sesgos y consideraciones éticas.


Por supuesto, los ciberadversarios también tienen acceso a aplicaciones GenAI abiertas y tienen las capacidades técnicas para desarrollar sus propios LLM. WormGPT y FraudGPT son los primeros ejemplos de LLM diseñados para ser utilizados por ciberdelincuentes y piratas informáticos. ¿Los ciberadversarios utilizarán y se beneficiarán de los LLM? Más de las tres cuartas partes de los encuestados (76%) no sólo creen que lo harán, sino que también sienten que los ciberadversarios obtendrán la mayor ventaja (sobre los ciberdefensores) de la innovación generativa de la IA.


Es alarmante que la mayoría de los profesionales de la seguridad crean que los ciberadversarios ya están utilizando GenAI y que los adversarios siempre obtienen una ventaja con las nuevas tecnologías. Los encuestados también creen que GenAI podría conducir a un aumento en el volumen de amenazas, ya que facilita que ciberadversarios no capacitados desarrollen ataques más sofisticados. Los profesionales de seguridad y TI también están preocupados por las falsificaciones profundas y los ataques automatizados.


La investigación de ESG ilumina el complejo pero prometedor horizonte de la IA generativa en ciberseguridad. A medida que las organizaciones navegan por esta nueva frontera, los conocimientos de este estudio sirven como un faro que guía el desarrollo de estrategias que no sólo son tecnológicamente avanzadas sino también éticamente fundamentadas y estratégicamente sólidas.


Comments


bottom of page