Festival IA Ciudad Juárez 2026: la IA obliga a replantear cómo verificamos lo que es real
La especialista Magaly Masís mostró cómo los deepfakes, la clonación de voz y la ingeniería social están transformando los riesgos para empresas y personas.
¿Qué ocurriría si la persona que aparece en una videollamada no fuera realmente quien dice ser? ¿O si una llamada con la voz de un familiar o de un ejecutivo de la empresa fuera una creación artificial? Estas situaciones, que hasta hace poco parecían propias de la ciencia ficción, forman parte de los nuevos escenarios de riesgo asociados con la inteligencia artificial. El tema fue abordado por la especialista Magaly Masís durante el Festival IA de Connecta B2B, realizado en el Centro de Eventos Cibeles de Ciudad Juárez, México.
En su conferencia “Si ya no puede creer lo que ve, ¿en qué va a creer? Cómo distinguir lo real y protegerse en la era de la IA”, Masís, especialista en derecho informático, ciberseguridad y ciencia forense digital, planteó que el desarrollo de la IA está modificando una de las premisas básicas de la interacción digital: confiar en aquello que vemos y escuchamos. La sesión partió de casos reales y ejercicios en vivo para mostrar cómo el contenido sintético puede ser utilizado para suplantar identidades y generar situaciones de engaño.
Uno de los momentos centrales de la presentación fue la reproducción de un video generado artificialmente en el que Masís aparecía realizando declaraciones que nunca había hecho. La especialista preguntó a los asistentes quién había identificado que se trataba de una simulación. El ejercicio buscaba demostrar que el ojo humano ya no siempre es suficiente para determinar la autenticidad de una imagen o un video, especialmente cuando las herramientas de generación continúan perfeccionándose.
El riesgo adquiere una dimensión mayor cuando estas tecnologías se combinan con ingeniería social. Masís recordó el caso ocurrido en 2024 en el que un empleado fue incorporado a una videollamada en la que los participantes aparentaban ser ejecutivos de la compañía y, tras la interacción, se realizaron transferencias que provocaron pérdidas por aproximadamente US$25,6 millones. El caso, explicó, ilustra cómo una identidad digital falsa puede convertirse en el punto de partida de una operación de fraude.
La clonación de voz representa otro frente de riesgo. Durante la conferencia, Masís relató una experiencia personal en la que recibió una llamada nocturna de una persona que intentaba convencerla de que su hijo tenía una situación que requería intervención inmediata. Aunque la conversación estaba diseñada para generar preocupación y urgencia, algunas inconsistencias permitieron identificar el engaño. La especialista utilizó el episodio para mostrar cómo la inteligencia artificial puede potenciar técnicas de ingeniería social que explotan las emociones humanas antes que las vulnerabilidades tecnológicas.
Ante este escenario, Masís propuso una regla sencilla para enfrentar solicitudes inesperadas: pausar, analizar, reconfirmar y actuar. La pausa permite romper el sentido de urgencia que suele utilizar el atacante; el análisis implica determinar quién está enviando el mensaje y por qué; la reconfirmación requiere utilizar un segundo canal o mecanismo para comprobar la identidad; y la acción solo debe producirse después de completar esa verificación.
La recomendación también se extiende a las organizaciones. Para Masís, la adopción de inteligencia artificial debe estar acompañada por mecanismos de gobernanza, inventarios de los sistemas utilizados, gestión de riesgos, controles para transacciones sensibles y ejercicios de simulación. No se trata únicamente de capacitar a los colaboradores sobre phishing, sino de preparar a las empresas para escenarios en los que una llamada, un video o una instrucción aparentemente legítima puedan haber sido generados o manipulados mediante IA.
La especialista también planteó trasladar estas prácticas al ámbito familiar. Una de sus recomendaciones fue establecer palabras clave para situaciones de emergencia, de manera que una persona pueda comprobar rápidamente la identidad de un familiar ante una llamada o videollamada sospechosa. En el ámbito corporativo, señaló la importancia de mantener procesos de doble aprobación para pagos y utilizar mecanismos de verificación fuera del canal original de comunicación.
El desafío, sin embargo, seguirá evolucionando. Las señales que hoy permiten identificar determinados contenidos generados por IA —como movimientos inusuales, contornos borrosos, sombras, problemas en detalles visuales o voces con pausas poco naturales— podrían dejar de ser útiles a medida que los modelos mejoren. Por ello, Masís insistió en que la respuesta no puede depender exclusivamente de aprender a reconocer los defectos de una tecnología que está en constante evolución.
La pregunta planteada durante la conferencia terminó trasladándose de la percepción a la comprobación: ya no se trata solamente de preguntarnos si podemos creer en lo que vemos, sino de saber qué mecanismos tenemos para verificarlo. En un entorno donde la inteligencia artificial puede producir imitaciones cada vez más convincentes de personas, voces e imágenes, el criterio humano, la verificación y la gobernanza adquieren un nuevo peso dentro de la estrategia de seguridad de empresas y usuarios.
El Festival IA de Ciudad Juárez forma parte de la gira 2026 de Connecta B2B, una agenda que busca llevar la conversación sobre inteligencia artificial aplicada a los negocios a distintos mercados de América Latina y el Caribe. La edición de Ciudad Juárez reunió una agenda que abordó desde productividad y agentes de IA hasta implementación empresarial, manufactura, ventas y seguridad digital.
Comentarios