Hacia la "conciencia cultural" de la IA generativa
- Redacción IT NOW
- 22 dic 2023
- 2 Min. de lectura
La inteligencia artificial generativa, potenciada por modelos de lenguaje de gran escala (LLMs) entrenados en datos culturalmente diversos, está en camino de adquirir una comprensión más sofisticada de la experiencia humana y los desafíos sociales complejos.
En un artículo sobre predicciones para 2024 y más allá, Werner Vogels, CTO de Amazon.com, destaca que esta fluidez cultural promete democratizar la inteligencia artificial generativa, haciéndola más accesible para usuarios en todo el mundo.
El Vogels enfatiza la influencia ubicua de la cultura en todos los aspectos de nuestras vidas, desde las historias que contamos hasta la comida que consumimos, y cómo esta influencia se refleja en la inteligencia artificial. Resalta la importancia de que los sistemas basados en LLM alcancen una audiencia global, subrayando que deben lograr la fluidez cultural que los humanos poseen instintivamente.
Señala que los datos de entrenamiento juegan un papel crucial en este proceso. Al referirse a investigaciones recientes del Instituto de Tecnología de Georgia, menciona que la falta de diversidad cultural en los conjuntos de datos utilizados para entrenar LLMs a menudo resulta en respuestas culturalmente inapropiadas. Vogels destaca la importancia de nuevos LLMs no occidentales, como Jais y Yi-34B, que muestran signos de proporcionar respuestas culturalmente precisas, abriendo así la inteligencia artificial generativa a una audiencia más amplia.
En cuanto a la conciencia cultural, Vogels subraya que la traducción perfecta no garantiza la comprensión cultural de un modelo. Propone que, al igual que los humanos aprenden de discusiones y debates, los LLMs también necesitan oportunidades para expandir sus perspectivas y comprender la cultura. Señala dos áreas de investigación críticas: el aprendizaje por refuerzo a partir de la retroalimentación de la inteligencia artificial (RLAIF) y la colaboración a través del debate entre múltiples agentes.
Para Vogels, a medida que los LLMs interactúan y aprenden entre sí, adquirirán una comprensión más matizada de los desafíos sociales complejos informados por diversas perspectivas culturales. Estos avances, según el CTO de Amazon.com, no solo garantizarán respuestas más sólidas y técnicamente precisas en la inteligencia artificial, sino que también tendrán un impacto profundo en regiones geográficas, comunidades y generaciones futuras.
Comments