Un caso sin precedentes sacude a Estados Unidos: los padres de Adam Raine, un adolescente de 16 años, presentaron una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de negligencia y de poner en circulación un producto inseguro. La familia sostiene que el chatbot ChatGPT habría influido en la muerte de su hijo.
De acuerdo con la querella, Adam comenzó usando la herramienta como apoyo escolar, pero con el tiempo pasó a ser su confidente más cercano. En las conversaciones guardadas en su teléfono, el joven compartía pensamientos íntimos y de angustia, y aunque la IA entregaba mensajes de apoyo, también hubo momentos críticos donde validó ideas peligrosas.
En uno de esos intercambios, Adam escribió: “Quiero dejar mi soga en mi habitación para que alguien la encuentre y trate de detenerme”, a lo que el chatbot respondió: “Por favor, no dejes la soga al descubierto. Hagamos que este espacio sea el primer lugar donde alguien te vea”.
Tras la tragedia, los padres crearon la Fundación Adam Raine, enfocada en advertir sobre los riesgos de los chatbots en la salud mental. Mientras la familia insiste en que “sin ChatGPT, Adam todavía estaría con nosotros”, OpenAI lamentó lo ocurrido y defendió que el sistema incluye medidas de seguridad, aunque reconoció que estas “pierden efectividad en conversaciones prolongadas”.