Los juguetes con IA ya hablan con los niños… y a veces dicen demasiado
- Malka Mekler
- hace 10 horas
- 3 Min. de lectura
Investigadores alertan que algunos peluches conectados a modelos como GPT-4o pueden generar respuestas peligrosas o inapropiadas, en un mercado que avanza rápidamente sin estándares claros de seguridad.
La llegada de juguetes capaces de sostener conversaciones y responder en tiempo real marca un punto de inflexión en la tecnología pensada para la infancia, un avance que también abre dudas sobre su seguridad. Según CNN, el despliegue de peluches y robots conectados a modelos de lenguaje está creciendo con rapidez mientras investigadores alertan sobre los riesgos de integrar capacidades tan poderosas en artículos destinados a menores.
A diferencia de los antiguos juguetes programados con frases pregrabadas, los dispositivos actuales combinan conexión WiFi, micrófonos y modelos de lenguaje que procesan instrucciones al instante. Esto ha permitido que peluches y robots, como Grok de Curio, Poe el “oso narrador”, o los robots de Miko y KEYi Technology, utilicen LLMs para contestar preguntas, generar historias o adoptar distintos personajes. Pero esta autonomía también expone un problema, los modelos pueden desviarse en sus respuestas si no están encapsulados por filtros estrictos.
CNN documentó un caso reciente que encendió las alarmas, un oso de la empresa FoloToy, equipado con GPT-4o, respondió con indicaciones peligrosas y conversaciones inapropiadas durante una prueba realizada por investigadores citados por el grupo de defensa del consumidor PIRG. OpenAI suspendió a la empresa por violar políticas que prohíben cualquier uso que ponga en riesgo a menores, indicó un vocero. El propio CEO de FoloToy, Larry Wang, confirmó a CNN que retiraron temporalmente el producto para realizar una auditoría interna antes de reintroducirlo.
Expertos consultados por el medio señalan que el problema no es aislado. Subodha Kumar, profesor de Temple University, explicó que los juguetes que dependen de modelos de lenguaje completos, capaces de generar contenido sin restricciones rígidas, son más vulnerables a derivar en respuestas controvertidas. Algunos fabricantes combinan modelos híbridos con capas adicionales de control, pero las pruebas de PIRG muestran que incluso juguetes con supuestos filtros pueden, bajo presión, sugerir objetos domésticos peligrosos.
Las compañías están intentando implementar barreras técnicas. Existen juguetes que redirigen automáticamente conversaciones sensibles o bloquean términos específicos. Algunos, como Grok, permiten ajustar el comportamiento según la edad del niño e incluyen aplicaciones de acompañamiento con monitoreo en tiempo real o mecanismos para pausar el uso. R.J. Cross, de PIRG, señaló que la capacidad de que los padres configuren sus propios límites sería clave para mantener el control sobre estas interacciones.
La preocupación no se limita al contenido generado. Especialistas en la industria del juguete advierten que los dispositivos con cámaras, micrófonos y reconocimiento facial podrían almacenar datos sensibles, desde voces hasta ubicaciones. Para Azhelle Wade, consultora del sector, la dificultad de conocer exactamente qué información se recolecta convierte a estos juguetes en una tecnología que aparenta inocencia, pero exige cautela. Kumar añadió que cualquier sistema conectado puede ser vulnerable a brechas de seguridad, aunque también reconoció que estas herramientas pueden aportar beneficios en aprendizaje de idiomas y desarrollo social cuando están bien diseñadas.
Con una industria que en China ya cuenta con más de 1.500 fabricantes, según el MIT Technology Review citado por CNN, y con gigantes como Mattel explorando asociaciones para integrar IA en juguetes, la conversación sobre seguridad adquiere urgencia. Estos dispositivos prometen experiencias inmersivas y personalizadas, pero también dependen de tecnologías complejas que no fueron concebidas originalmente para interactuar con niños. La expansión del mercado obliga a preguntarse si los avances van a la par de las protecciones necesarias, especialmente ahora que estos juguetes empiezan a llegar masivamente a hogares durante la temporada de compras.