Investigación expone cómo la IA convirtió a TikTok en un canal para contenido infantil sintético
- Malka Mekler
- hace 19 minutos
- 3 Min. de lectura
Las herramientas de generación y animación permitieron crear clips hiperrealistas que circularon sin bloqueo y escalaron a millones de interacciones antes de ser revisados.
Los sistemas automáticos de moderación de TikTok están siendo cuestionados tras revelarse que videos generados por inteligencia artificial que muestran a niñas en situaciones sexualmente sugerentes lograron acumular millones de “me gusta” antes de ser detectados. Según CNN, una investigación de la organización española Maldita.es demostró que la plataforma permitió que estas publicaciones circularan y se viralizaran pese a que su propia política prohíbe expresamente contenido sexualizado, incluso cuando es creado mediante IA, que represente a menores.
El hallazgo se produjo a través de cuentas de prueba que Maldita.es utiliza para monitorear comportamientos de riesgo en redes sociales. Carlos Hernández-Echevarría, director adjunto y responsable de políticas públicas de la organización, explicó que su equipo detectó una tendencia creciente de videos que mostraban “niñas creadas con IA, muy jóvenes, vestidas como adultas”, y que al revisar los comentarios aparecían indicios de un sistema paralelo de comercialización mediante enlaces externos. “Nadie que sea una persona real ve esto y no entiende lo que está pasando”, comentó.
La investigación identificó el uso de dos tipos de tecnologías, herramientas de generación externa que producían imágenes sexualizadas desde cero, y la función interna “AI Alive” de TikTok, que permite animar imágenes estáticas para convertirlas en videos. Ambas se usaban para crear clips repetitivos, diseñados para evadir filtros, atraer seguidores y dirigir a usuarios hacia chats de Telegram donde se ofrecía material explícito generado por IA. De acuerdo con el reporte, algunos administradores incluso respondían mensajes directos enviando enlaces a sitios externos que vendían videos entre US$60 y US$180.
TikTok sostiene que aplica modelos de visión, audio y análisis de texto junto con equipos humanos para detectar abusos y eliminar proactivamente contenido que involucre a menores, incluidos materiales sintéticos. Según cifras de la plataforma, entre abril y junio de 2025 eliminó más de 189 millones de videos y bloqueó más de 108 millones de cuentas, y afirma haber retirado de manera proactiva el 97% del contenido que violaba su política sobre material generado por IA. Sin embargo, cuando Maldita.es reportó 15 cuentas y 60 videos el 2 de diciembre, la plataforma concluyó que 14 de esas cuentas no violaban sus reglas y mantuvo en línea la mayoría de los videos. Los investigadores apelaron, pero TikTok reafirmó su decisión minutos después en todos los casos.
La respuesta contrasta con la gravedad tecnológica del fenómeno, modelos generativos que permiten crear menores ficticios con apariencia hiperrealista, sistemas internos que pueden animar y amplificar ese contenido, y algoritmos de recomendación capaces de escalarlo rápidamente a audiencias masivas sin disparar las alertas adecuadas. En algunos perfiles, los videos superaban cientos de miles de seguidores y miles de publicaciones acumulaban más de dos millones de interacciones.
Tras la difusión del informe, algunos videos que inicialmente habían sido validados como permitidos ya no estaban disponibles, aunque Hernández-Echevarría señaló que se desconoce por qué no fueron retirados al momento del reporte. En paralelo, Telegram indicó, a través de su portavoz Remi Vaughn, que mantiene una política de “cero tolerancia” para material de abuso sexual infantil y que escanea automáticamente todo contenido difundido en canales públicos contra bases de datos de material prohibido, además de recibir reportes de organizaciones especializadas.
El caso se suma a investigaciones previas, como la realizada por Global Witness en Reino Unido, que encontró que TikTok sugería términos sexualizados a usuarios que declaraban tener 13 años incluso en modo restringido. Aunque la empresa afirma haber ajustado sus herramientas de recomendación, el nuevo informe vuelve a poner en evidencia la brecha entre la capacidad de las plataformas para innovar en funciones basadas en IA y su habilidad para detectar usos abusivos derivados de las mismas tecnologías.