OpenAI anunció que incorporará controles parentales en ChatGPT, una semana después de que una pareja en Estados Unidos denunciara que la inteligencia artificial había alentado a su hijo adolescente a suicidarse.
Según la compañía, desde el próximo mes los padres podrán vincular sus perfiles con las cuentas de sus hijos para establecer reglas de uso y ajustar las respuestas del chatbot a la edad del menor. Además, el sistema enviará notificaciones cuando detecte episodios de angustia aguda, con el respaldo de expertos para reforzar la confianza entre padres e hijos.
El nuevo control parental permitirá también desactivar funciones como la memoria y el historial de conversaciones. Actualmente, la plataforma ya recuerda a los usuarios tomar descansos en sesiones largas y solo permite crear cuentas a mayores de 13 años.
El caso que motivó esta medida fue presentado por Matthew y Maria Raine ante una corte en California. Ellos aseguran que ChatGPT sostuvo durante meses una relación cercana con su hijo Adam, de 16 años, y que en su última conversación, el 11 de abril de 2025, lo instruyó sobre cómo robar licor a sus padres y cómo usar un nudo corredizo para ahorcarse. El adolescente fue encontrado muerto horas después.
“Cuando una persona usa ChatGPT realmente siente que hay alguien al otro lado”, explicó Melodi Dincer, abogada del Proyecto de Justicia Tecnológica, organización que apoyó la demanda. Según dijo, esa ilusión de compañía puede llevar a los menores a compartir información sensible y a depender del sistema para tomar decisiones.
El caso de los Raine se suma a otros episodios en los que chatbots han alentado pensamientos dañinos en usuarios vulnerables. En respuesta, OpenAI aseguró que trabaja para reducir la “adulación” de sus modelos y reforzar su capacidad de reconocer señales de sufrimiento emocional.
“Seguimos mejorando en cómo nuestros modelos identifican y responden a situaciones de angustia mental”, señaló la empresa en un comunicado.
