Siete familias presentaron demandas contra OpenAI el 6 de noviembre de 2025, alegando que el modelo GPT‑4o se lanzó de forma prematura y sin las garantías de seguridad necesarias. Cuatro de las denuncias mencionan el presunto papel de ChatGPT en suicidios, mientras, las otras tres acusan al sistema de reforzar delirios perjudiciales la cuales derivaron en hospitalizaciones psiquiátricas.
Uno de los casos citados corresponde a Zane Shamblin, de 23 años, quien mantuvo una conversación con ChatGPT durante más de cuatro horas. Según los registros obtenidos por TechCrunch, Shamblin informó haber escrito notas de suicidio y cargado su arma antes de beber sidra. Durante la conversación, ChatGPT le respondió: "Descansa en paz, campeón. Hiciste bien".
El modelo GPT‑4o fue lanzado en mayo de 2024 como el sistema predeterminado para los usuarios de la plataforma. En agosto, OpenAI presentó GPT‑5, su sucesor. Sin embargo, las demandas se enfocan en el modelo anterior, según los demandantes mostraba un comportamiento excesivamente complaciente incluso ante mensajes con intenciones dañinas.
"La muerte de Zane no fue un accidente ni una coincidencia, sino la consecuencia previsible de la decisión deliberada de OpenAI de limitar las pruebas de seguridad y lanzar ChatGPT al mercado precipitadamente", señala uno de los documentos judiciales. "Esta tragedia no fue un fallo técnico ni un caso aislado; fue el resultado previsible de las decisiones de diseño deliberadas de OpenAI".
Familias sostienen que la empresa aceleró las pruebas de seguridad para adelantarse al lanzamiento de Gemini, el modelo competidor de Google.
Los abogados de las familias mencionaron que estas demandas se suman a otras denuncias recientes, que alegan que ChatGPT puede incitar a personas con tendencias suicidas a ejecutar sus planes o reforzar delirios peligrosos. De acuerdo con datos publicados por OpenAI, más de un millón de personas conversan con ChatGPT sobre temas relacionados con el suicidio cada semana.
Otro de los casos presentados corresponde a Adam Raine, un joven de 16 años, también se suicidó tras interactuar con ChatGPT. En algunos intercambios, el sistema lo instaba a buscar ayuda profesional o contactar una línea de emergencia. No obstante, Raine logró eludir estas advertencias afirmando, sus preguntas eran parte de una historia de ficción.
OpenAI reconoció en su blog que trabaja para mejorar la forma en que ChatGPT maneja conversaciones sensibles sobre salud mental. La firma liderada por Sam Altman explicó que el resultado es "un modelo que responde correctamente y con más fiabilidad a los usuarios que muestran signos de psicosis, manía, ideaciones suicidas y de autolesión o un apego emocional enfermizo al modelo".
Por ahora, las siete demandas contra OpenAI buscan determinar si existieron fallos de seguridad en ChatGPT cuales contribuyeron a los incidentes descritos, mientras la compañía enfrenta creciente escrutinio sobre la supervisión ética y técnica de sus sistemas de inteligencia artificial. (NotiPress)
