Festival IA Rep. Dominicana 2026: el mayor riesgo de la IA no es que se equivoque, sino dejarla hablar sola
- angiecantillo1
- 9 jun
- 3 min de lectura
Mientras las empresas aceleran la adopción de agentes de inteligencia artificial para atender clientes por WhatsApp, teléfono y redes sociales, Mathias Duarte, fundador y CEO de Heynow, advierte que el verdadero desafío ya no es construir un chatbot, sino evitar que se convierta en un problema reputacional, operativo o financiero. La nueva frontera, sostiene, es la hiperpersonalización segura y escalable.
Durante los primeros años de la revolución de la inteligencia artificial generativa, la industria quedó fascinada por una pregunta relativamente sencilla: ¿puede una máquina mantener una conversación convincente?
En 2026, esa discusión ya parece superada. La pregunta que hoy ocupa a las empresas es mucho más compleja: ¿puede una inteligencia artificial hablar en nombre de una marca sin ponerla en riesgo?
Para Mathias Duarte, CEO y fundador de Heynow, la respuesta depende menos del modelo de IA utilizado y mucho más de la arquitectura, los controles y la estrategia que existen detrás de cada interacción.
"La inteligencia artificial no es 100% precisa por naturaleza", afirmó Duarte durante su presentación en el Festival de Inteligencia Artificial en República Dominicana. "Si no somos cuidadosos cuando hacemos que la IA hable para afuera, puede ser sumamente contraproducente".
La advertencia llega en un momento en que organizaciones de todos los sectores experimentan con asistentes basados en modelos de lenguaje para automatizar atención al cliente, ventas, soporte técnico y servicios financieros.
Sin embargo, según Duarte, existe una diferencia radical entre construir una prueba de concepto y desplegar un agente que represente públicamente a una compañía.
"Hacer una prueba de concepto es facilísimo. Es trabajo de días. Ahora, llevar esa prueba de concepto a producción y hacer que la IA hable en nombre de la marca es otro partido", señaló.
De los chatbots a un ecosistema de agentes
Heynow nació en Uruguay en 2014, cuando WhatsApp todavía no ofrecía interfaces oficiales para empresas. Lo que comenzó como una plataforma de chatbots evolucionó hasta convertirse, según Duarte, en un ecosistema de inteligencia artificial aplicada a las comunicaciones.
La plataforma integra agentes capaces de operar sobre WhatsApp, redes sociales, correo electrónico, sitios web, aplicaciones móviles e incluso llamadas telefónicas. El objetivo es crear una capa conversacional capaz de interactuar con clientes a través de cualquier canal.
Pero Duarte distingue tres grandes formas de utilización de la IA dentro de una organización. La primera está relacionada con la creación de herramientas internas, donde agentes especializados ayudan a desarrollar software o automatizar procesos.
La segunda consiste en sistemas que apoyan la toma de decisiones dentro de la empresa. Y la tercera, la que considera más desafiante, es aquella en la que la IA interactúa directamente con consumidores.
"Nos enfocamos en hacer que la IA hable a los clientes finales", explicó.
Cuando la IA se convierte en un problema
Los riesgos son reales y ya han producido algunos de los casos más notorios de la industria.
Durante su exposición, Duarte recordó ejemplos de agentes que generaron ofertas inexistentes, asistentes que fueron manipulados para vender productos a precios absurdamente bajos y sistemas que terminaron criticando a la propia empresa que representaban.
El problema común detrás de todos esos incidentes, según explicó, es la ausencia de controles. "No hubo verificación, no hubo control. Se delegó absolutamente toda la responsabilidad a la inteligencia artificial", afirmó.
La preocupación no es menor. Organizaciones como la Open Worldwide Application Security Project (OWASP), el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) y la norma ISO/IEC 42001 han comenzado a desarrollar marcos específicos para la gobernanza y seguridad de sistemas de inteligencia artificial.
La aparición de vulnerabilidades asociadas al prompt injection, manipulación de respuestas y alucinaciones ha convertido la supervisión de agentes en una prioridad corporativa.
Para Duarte, la conclusión es clara: construir un chatbot funcional es sencillo; construir uno confiable es otra historia.
Comentarios