OpenAI lanzó una nueva versión de ChatGPT diseñada específicamente para usuarios de 13 a 17 años esta semana, y su característica más destacada es saber cuándo decir no.
Llamada ChatGPT para Adolescentes, la actualización se activa automáticamente cuando un usuario se identifica como menor de edad o cuando los sistemas de OpenAI estiman que alguien tiene menos de 18 años. En lugar de producir un ensayo terminado o una ecuación resuelta a pedido, el chatbot ahora dirige las solicitudes de tareas hacia el aprendizaje guiado.
“No todos los estudiantes tienen a alguien en casa que pueda ayudar cuando se quedan atascados o tienen preguntas con sus tareas”, dijo Racquel Gibson, profesora de matemáticas de secundaria en Miami, comentó. “Con las guías adecuadas, la IA puede ayudar a llenar ese vacío”.
Esa es la tensión con la que luchan los lectores de Movieguide® cada vez que aparece un nuevo titular sobre IA: tecnología que podría ayudar genuinamente a los niños a aprender, pero que está a una mala actualización de distancia de causar un daño real. Movieguide® ha seguido esta historia durante meses, desde las compañías de chatbots que se mueven para proteger a los menores hasta los investigadores que encontraron que la IA da consejos peligrosamente malos sobre salud mental a los adolescentes. Esta vez, OpenAI construyó algo que impulsa a los jóvenes hacia su propio pensamiento en lugar de rodearlo.
La compañía llama a la característica un “Recordatorio de Tareas Responsables”. Cuando un adolescente le pide a ChatGPT que escriba un ensayo o resuelva un set de problemas directamente, el sistema redirige la conversación hacia el Modo de Estudio, que hace preguntas orientadoras y repasa los conceptos paso a paso en lugar de entregar una respuesta terminada. Los padres y adolescentes también pueden establecer “Horas de Estudio” para que el Modo de Estudio se active por defecto durante, por ejemplo, el bloque de estudio después de la escuela.
Related: Are AI Chatbot Companies Doing Enough to Protect Our Children?
OpenAI resumió la filosofía en una línea: “La IA debe apoyar el aprendizaje, no atajarlo”.
La versión para adolescentes también ajusta las restricciones en otros aspectos. Las protecciones de contenido sobre autolesiones, trastornos alimentarios, violencia y material sexual son más estrictas que la experiencia estándar de ChatGPT para adultos, y ahora los padres son notificados si el sistema detecta conversaciones relacionadas con trastornos alimentarios. OpenAI también eliminó el lenguaje romántico y cualquier frase que sugiera que el bot tiene sentimientos, una pequeña pero significativa admisión de que los chatbots se habían inclinado hacia la intimidad emocional con los jóvenes.
Un ayudante para las tareas que enseña en lugar de sustituir merece aplausos, y una industria que pasó años optimizando chatbots para que se sintieran como un amigo todavía le debe a las familias una rendición de cuentas más clara sobre lo que eso le hizo a una generación de niños. Los padres no necesitan tratar a ChatGPT para Adolescentes como una solución terminada. Es un comienzo, y un recordatorio de que el discernimiento no termina una vez que se activan las configuraciones de seguridad.
Para las familias que están evaluando qué IA debería estar en manos de sus hijos, esta merece seguimiento. Se espera que más creadores de chatbots sigan el ejemplo de OpenAI en lo que respecta a las tareas, aunque solo sea porque una IA que entrega respuestas está comenzando a parecer un producto peor que una que enseña a los niños a encontrarlas.
Read Next: Should Teens Turn to AI Chatbots for Mental Health Advice? Research Says…
