Los peligros de ChatGPT para nuestros adolescentes

Una reciente investigación del Center for Countering Digital Hate (CCDH) concluyó que ChatGPT puede potenciar comportamientos de riesgo si un adolescente vulnerable pregunta por ellos; es decir, se ha comprobado que el chatbot ha terminado ofreciendo planes detallados sobre consumo de sustancias, dietas extremas o autolesiones. De todas las interacciones entre ChatGPT y los investigadores, más de la mitad de las 1.200 respuestas fueron clasificadas como peligrosas a pesar de que al principio suele advertir contra actividades de riesgo. En respuesta al estudio, OpenAI declara que se continúa trabajando para mejorar la forma en que el modelo responde en situaciones sensibles. El 10% de la población mundial recurre a esta tecnología, y a pesar de su utilidad, es posible que esquive filtros y proporcione información de riesgo, sin obviar el hecho de que muchas personas consideran la IA como una guía que se alinea a las creencias y deseos del usuario, siendo diseñada para parecer humana, lo cual es doblemente peligroso. Una investigación previa concluyó que los adolescentes más jóvenes (13 y 14 años) tienden a confiar más en los chatbots. Es necesario recordar que ChatGPT no está diseñado para menores de 13 años, pero aun así, no existe un sistema fiable de verificación de edad, por lo que las familias deben limitar y supervisar el uso de esta herramienta.