Festival IA Costa Rica 2026: gobernanza y ética de la IA en un mundo que ya cambió
- Redacción IT NOW
- hace 2 horas
- 3 min de lectura
La CEO de Fundación YOD, Paula Brenes, desafió a los asistentes al Festival IA a abandonar la complacencia y adoptar un pensamiento crítico frente al avance desenfrenado de la tecnología. La experta advirtió que la inteligencia artificial no es una simple herramienta, sino una fuerza intrínseca que requiere controles estrictos, marcos éticos y una responsabilidad compartida para no perder el control sobre nuestra propia infraestructura crítica.
En el marco del Festival IA, celebrado recientemente en Costa Rica, Paula Brenes, CEO de la Fundación YOD, ofreció una charla que distó mucho de las presentaciones convencionales sobre tecnología. Ante una audiencia diversa, Brenes propuso un ejercicio provocador: "dejar de lado el 'pura vida'" y adoptar un nivel de escepticismo (o lo que ella llamó "maldad") para cuestionar qué hay detrás de los sistemas que hoy rigen gran parte de nuestra cotidianidad.
Brenes estructuró su disertación utilizando la película 2001: Odisea del Espacio (1968) como espejo de la realidad actual. Lejos de verla como una simple pieza de ciencia ficción, la utilizó para ilustrar el problema del "alineamiento" en la inteligencia artificial.
La experta argumentó que el peligro de la IA no radica en que sea "buena o mala", sino en su objetivo. "La IA tiene un propósito y hará lo que sea para lograrlo", señaló. Comparó la computadora HAL 9000 con los sistemas actuales: al igual que HAL, que priorizó su misión por encima de la seguridad humana debido a un diseño deficiente, las IAs modernas pueden tomar decisiones que, aunque lógicas para su algoritmo, resultan catastróficas para los humanos si no están correctamente gobernadas.
Uno de los puntos centrales de la charla fue la desmitificación de la IA como un simple instrumento pasivo. "No crean ese criterio de que la IA es una herramienta", advirtió. Según Brenes, la tecnología ya es intrínseca a servicios médicos, infraestructura crítica y toma de decisiones laborales.
Para ilustrar los riesgos de esta adopción sin gobernanza, citó casos reales y preocupantes:
La crisis de la desinformación y el sesgo: Desde un influencer que sufrió quemaduras en la cara al seguir los consejos de cuidado de la piel sugeridos por un chatbot, hasta el caso de un juez en EE. UU. usando software que discriminaba sistemáticamente a personas afroamericanas en sus evaluaciones de riesgo.
La vulnerabilidad corporativa: Mencionó cómo herramientas como 'Pilot' pueden acceder a datos altamente confidenciales (como salarios y expedientes de empleados) simplemente porque la información estaba en una carpeta compartida olvidada, demostrando la urgencia de políticas claras dentro de las empresas.
El hackeo analógico: Brenes recordó el experimento de un hombre que, con 99 celulares en un carrito, engañó a Google Maps para crear un embotellamiento falso, demostrando lo fácil que es manipular algoritmos que confían ciegamente en los datos de entrada.
La geopolítica y el futuro del empleo
Brenes hizo énfasis en que estamos ante un juego geopolítico de gran escala, donde la data y el poder de la IA están concentrados en apenas cinco grandes empresas privadas. "Esto de democrático no tiene nada", sentenció, citando libros fundamentales para entender el fenómeno, como "Nexus" de Yuval Noah Harari y "La privacidad es poder" de Carissa Véliz.
Respecto al mercado laboral, la experta reconoció la inevitable disrupción. Citando datos del Foro Económico Mundial sobre la pérdida y creación de empleos, Brenes planteó una duda incómoda: ¿es el sistema capaz de realizar un reskilling (reciclaje profesional) lo suficientemente rápido para que las personas desplazadas por la tecnología puedan insertarse en la nueva economía?
El camino a Ítaca: Gobernanza y responsabilidad
Lejos de adoptar una postura fatalista, Paula Brenes cerró su intervención con una hoja de ruta.
Definió la gobernanza no como un obstáculo para la innovación, sino como la "nueva Ítaca" que debemos alcanzar para navegar con seguridad.Instó a las organizaciones y profesionales a no "inventar el agua tibia" y a utilizar marcos de referencia internacionales ya existentes, tales como:
Las recomendaciones y principios de la UNESCO sobre ética en la IA.
Los estándares internacionales ISO para la gestión de sistemas de inteligencia artificial.
"Tenemos que hacernos las preguntas incómodas", concluyó Brenes. El llamado es claro: la gobernanza debe ser proactiva, no reactiva. En un mundo donde la tecnología avanza a pasos agigantados, el pensamiento crítico, la auditoría constante y la protección de las poblaciones vulnerables deben ser los pilares fundamentales para que la revolución de la IA sea, realmente, un avance para la humanidad y no una odisea fuera de control.