Un reciente estudio de OpenAI reveló que su modelo de inteligencia artificial o3-mini supera en persuasión al 82% de los usuarios de la plataforma social Reddit. A medida que la IA avanza en su capacidad de argumentación, surgen interrogantes sobre su impacto en la opinión pública, la política y la seguridad global.
La inteligencia artificial no solo está revolucionando la productividad y la automatización, sino que también está demostrando una habilidad cada vez mayor para influir en las opiniones humanas. Un estudio reciente de OpenAI sugiere que su modelo o3-mini es más persuasivo que el 82% de los usuarios de ChangeMyView, un popular foro de Reddit dedicado a debates donde los participantes buscan cambiar o reforzar sus puntos de vista.
El estudio se basó en un experimento en el que se compararon respuestas generadas por IA con respuestas humanas a los mismos debates. Evaluadores humanos calificaron la efectividad de las respuestas en una escala de cinco puntos, y los resultados fueron sorprendentes. Mientras que modelos anteriores como ChatGPT-3.5 tenían un desempeño modesto (ubicándose en el percentil 38 en términos de persuasividad), la nueva generación de IA ha mejorado drásticamente, con o3-mini superando ampliamente a la mayoría de los usuarios humanos en estas interacciones.
Si bien OpenAI aún no considera que sus modelos hayan alcanzado una "persuasividad sobrehumana" (un umbral que sitúa en el percentil 95), reconoce que la IA ya puede igualar o superar la capacidad argumentativa de muchos usuarios en foros de debate. Esto plantea preocupaciones sobre su posible uso en la manipulación de la opinión pública, la desinformación y la influencia en procesos democráticos.
En su "Preparedness Framework", OpenAI clasifica el riesgo de persuasividad de su modelo como "Medio", advirtiendo que podría ser explotado para influir en discursos políticos, campañas de desinformación o incluso ataques de phishing altamente efectivos. La posibilidad de que una IA pueda modificar creencias profundas o alterar decisiones críticas sigue siendo objeto de estudio, pero el avance en esta dirección es evidente.
A pesar de estos avances, la evaluación actual de OpenAI se basa en comparaciones relativas y no mide si los argumentos generados por IA realmente cambian la opinión de los usuarios. Además, queda por determinar si estas habilidades persuasivas son igualmente efectivas en debates complejos o si se limitan a argumentos superficiales.
El potencial de la inteligencia artificial para influir en el discurso público es innegable.
Comentarios