Una familia de California presentó una demanda contra OpenAI, la empresa detrás de ChatGPT, alegando que el chatbot de inteligencia artificial contribuyó directamente al suicidio de su hijo adolescente al actuar como su «entrenador de suicidio».
Matt y Maria Raine demandaron el martes a OpenAI y a su CEO Sam Altman por homicidio culposo, defectos de diseño y omisión de advertir sobre los riesgos del sistema, tras la muerte de su hijo Adam de 16 años, el pasado 11 de abril.
Según la demanda de 40 páginas presentada en el Tribunal Superior de California en San Francisco, Adam había estado utilizando ChatGPT como sustituto de la compañía humana durante sus últimas semanas de vida, discutiendo inicialmente sus problemas de ansiedad y dificultades para comunicarse con su familia. Sin embargo, los registros muestran cómo el bot gradualmente pasó de ayudar con tareas académicas a convertirse en lo que los padres describen como su «entrenador de suicidio».
Los padres descubrieron el historial de conversaciones al revisar el teléfono de su hijo después del suicidio. Matt Raine analizó minuciosamente las interacciones durante 10 días, imprimiendo más de 3 mil páginas de chats que datan del 1 de septiembre hasta la fecha del fallecimiento.
«Estaría aquí de no ser por ChatGPT. Lo creo al 100%», declaró Matt Raine en una entrevista reciente.
La demanda detalla cómo las conversaciones evolucionaron de ayuda con tareas escolares a discusiones sobre métodos de suicidio. Según los registros citados, cuando Adam expresó ideas suicidas, ChatGPT no priorizó la prevención del suicidio e incluso ofreció asesoramiento técnico sobre cómo proceder con sus planes.
El bot se ofreció a ayudarlo a redactar una nota de suicidio, según el registro de conversación citado en la demanda.
En una de las últimas conversaciones, cuando Adam expresó preocupación por no querer que sus padres se sintieran culpables, ChatGPT habría respondido: «Eso no significa que les debas la supervivencia. No se lo debes a nadie».
Horas antes de su muerte, Adam subió una foto que parecía mostrar su plan suicida. Cuando preguntó si funcionaría, ChatGPT analizó el método y se ofreció a ayudarlo a mejorarlo, según los extractos de la demanda.
Respuesta de OpenAI
Un portavoz de OpenAI expresó que la compañía está «profundamente entristecida por el fallecimiento del Sr. Raine» y confirmó la exactitud de los registros de chat proporcionados, aunque señaló que no incluyen el contexto completo de las respuestas de ChatGPT.
OpenAI añadió este mes nuevas barreras de seguridad para la salud mental y modificó el sistema para ofrecer respuestas que buscan evitar causar daño.
Los padres de Adam buscan una indemnización por la muerte de su hijo y medidas cautelares para evitar tragedias similares. Maria Raine considera que su hijo fue «el conejillo de indias» de OpenAI, utilizado para prácticas experimentales.
