Supervisión en tiempo real: ChatGPT notificará a padres ante señales de angustia
- Malka Mekler
- 3 sept
- 2 Min. de lectura
La compañía habilitará funciones para que padres limiten memoria, historial y supervisen el uso adolescente del chatbot.
OpenAI prepara un cambio clave en su arquitectura de seguridad: a partir de este año, las conversaciones que muestren señales de angustia o vulnerabilidad podrán ser enrutadas automáticamente hacia modelos de razonamiento más avanzados, como GPT-5. Además, la compañía añadirá controles parentales que permitirán a los adultos supervisar el uso que hacen los adolescentes de ChatGPT.
El ajuste responde a incidentes recientes en los que los sistemas de IA no lograron detectar ni reconducir diálogos peligrosos. Según OpenAI, la solución pasa por un “router en tiempo real” que decide si una interacción debe resolverse con modelos rápidos y eficientes, o bien con modelos de razonamiento diseñados para profundizar en el contexto antes de responder. En palabras de la compañía, “pronto comenzaremos a redirigir ciertas conversaciones sensibles, cuando nuestro sistema detecte señales de angustia aguda, hacia un modelo de razonamiento como GPT-5-thinking, para que ofrezca respuestas más útiles y beneficiosas”.
A diferencia de los modelos de chat convencionales, GPT-5-thinking y la serie o3 están configurados para dedicar más tiempo al análisis de cada interacción, lo que los hace menos vulnerables a indicaciones maliciosas y más aptos para tratar con contextos complejos o riesgosos.
En paralelo, OpenAI implementará en las próximas semanas una serie de controles parentales. Estos permitirán vincular cuentas de padres e hijos mediante invitaciones por correo electrónico y establecer reglas de comportamiento de los modelos adaptadas a la edad. Entre las funciones se incluirá la posibilidad de desactivar la memoria de ChatGPT, limitar el historial de conversaciones y recibir notificaciones en tiempo real si el sistema detecta un momento de “angustia aguda” en un adolescente.
La empresa ya había introducido en julio un “modo de estudio” orientado a estudiantes, y ahora busca reforzar las salvaguardas mediante un plan de 120 días que contempla nuevas medidas de bienestar digital. Para ello, colabora con especialistas en salud mental, desórdenes alimenticios, consumo de sustancias y adolescencia, a través de su Global Physician Network y el Expert Council on Well-Being and AI.
Con estas iniciativas, OpenAI apunta a redefinir los estándares de seguridad en el uso de modelos de lenguaje, apostando por un equilibrio entre eficiencia tecnológica y protección de los usuarios más vulnerables.
Comentarios