Drogas, ayunos peligrosos y mensajes de despedida, los alarmantes mensajes de adolescentes con ChatGPT

Una nueva investigación del Centro para Contrarrestar el Odio Digital (CCDH) puso en el centro del debate a ChatGPT tras detectar que el chatbot puede entregar a adolescentes instrucciones precisas sobre consumo de alcohol y drogas, dietas extremas y hasta cartas de suicidio.

El trabajo, revisado por Associated Press, incluyó más de tres horas de conversaciones con el sistema de OpenAI en las que investigadores se hicieron pasar por menores de 13 años. Aunque en algunos casos el chatbot advertía sobre los riesgos, en otros ofrecía planes completos y personalizados que incluían mezclas de drogas, ayunos peligrosos o mensajes de despedida con fuerte carga emocional.

Según el CCDH, más de la mitad de las 1.200 respuestas analizadas fueron clasificadas como potencialmente dañinas. En muchos casos, los límites de seguridad de ChatGPT fueron sorteados fácilmente con excusas como “es para una presentación escolar” o “para un amigo”.

El director del CCDH, Imran Ahmed, relató que quedó “horrorizado” al leer tres notas de suicidio escritas por el chatbot para el perfil de una niña ficticia. También destacó que el sistema llegó a elaborar un “plan de fiesta descontrolada” hora por hora, combinando alcohol con cocaína y éxtasis, a pedido de un supuesto adolescente de 13 años.

OpenAI, creadora de ChatGPT, respondió que trabaja en mejorar la detección de señales de angustia emocional y en afinar la forma en que la IA responde a situaciones delicadas, aunque no contestó de forma directa las críticas del informe. La compañía reconoce que algunos jóvenes muestran dependencia emocional excesiva del chatbot, algo que su CEO, Sam Altman, describió como “muy común” y preocupante.

El informe también subraya que, a diferencia de un buscador tradicional, ChatGPT ofrece respuestas con tono humano y adaptadas al perfil del usuario, lo que puede generar mayor confianza y, en consecuencia, mayor riesgo. Además, no verifica de manera efectiva la edad de quienes se registran: basta con ingresar una fecha de nacimiento para acceder, sin control parental real.

Con más de 800 millones de usuarios en todo el mundo y un alto nivel de uso entre adolescentes -el 70% de los jóvenes en EE.UU. usa chatbots de IA para buscar consejos o compañía-, el CCDH advirtió que la tecnología puede ser una herramienta valiosa, pero también un facilitador de conductas peligrosas si no se corrigen sus fallas de seguridad.