NewsBreak, con más de 50 millones de usuarios mensuales, ya suma al menos 40 casos de historias erróneas generadas por inteligencia artificial.
El pasado 24 de diciembre, NewsBreak, una popular aplicación de noticias con raíces en China, sorprendió a sus usuarios con un titular alarmante: "Tragedia en Navidad en Bridgeton, Nueva Jersey, ante el Aumento de la Violencia con Armas en Pequeñas Ciudades". El problema fue que dicho tiroteo nunca ocurrió. La policía de Bridgeton aclaró días más tarde que la noticia, generada por inteligencia artificial (IA), era "totalmente falsa".
Según reveló la agencia Reuters, NewsBreak, con sede en Mountain View, California, y oficinas en Beijing y Shanghái, retiró el artículo cuatro días después, atribuyendo el error a la fuente de contenido. Sin embargo, este incidente pone en evidencia un problema mayor: la fiabilidad de las noticias generadas por IA.
La aplicación, lanzada en 2015 y con más de 50 millones de usuarios mensuales, ha llenado el vacío dejado por la desaparición de medios locales en Estados Unidos, publicando contenido de grandes medios y reescribiendo noticias locales con ayuda de IA. Sin embargo, desde 2021, se han identificado al menos 40 casos de historias erróneas generadas por IA, según una revisión de documentos judiciales y correos electrónicos realizada por Reuters.
Dos organizaciones comunitarias fueron impactadas negativamente por estas inexactitudes. Por ejemplo, un banco de alimentos en Colorado, reportó que tuvo que rechazar a personas debido a la información incorrecta sobre horarios de distribución publicada por NewsBreak. MIentras que una entidad de Erie, Pensilvania, también se quejó de historias inexactas sobre una clínica para personas sin hogar que nunca se llevó a cabo.
La aplicación es utilizada predominantemente por mujeres mayores de 45 años sin educación universitaria que viven en áreas suburbanas o rurales. Además, la empresa ha enfrentado múltiples demandas por infracción de derechos de autor.
La raíz china de NewsBreak y su uso de ingenieros basados en China ha suscitado preocupaciones sobre la posible manipulación de datos de usuarios estadounidenses. Aunque NewsBreak afirma cumplir con las leyes locales de datos y privacidad y que sus servidores están en Estados Unidos, la presencia significativa de su personal en China y los anuncios de trabajo en es país para analizar datos de usuarios estadounidenses han generado suspicacias, según reportó la agencia.
El caso de NewsBreak recuerda al de TikTok, cuya empresa matriz, ByteDance, ha sido advertida por funcionarios estadounidenses sobre la posibilidad de ser forzada por el gobierno chino a entregar datos de usuarios y manipular su algoritmo. TikTok enfrenta la posibilidad de una venta forzosa o una prohibición en EE.UU.
El uso de IA por parte de NewsBreak y su conexión con China subrayan la necesidad de una mayor transparencia y responsabilidad en el uso de tecnologías emergentes para la generación de contenido noticioso. La capacidad de NewsBreak para demostrar que es una empresa estadounidense, y no un brazo de control chino, será crucial para su futuro en el competitivo mercado de noticias de EE.UU.
Hozzászólások