OpenAI se enfrenta a una demanda por muerte por negligencia presentada por Leila Turner-Scott y Angus Scott, quienes alegan que la tecnología de la empresa provocó la sobredosis accidental de su hijo, Sam Nelson. Afirman que el chatbot proporcionó consejos sobre “productos defectuosos” que provocaron su muerte.
Sam, un estudiante de tercer año de 19 años de la Universidad de California en Merced, comenzó a utilizar ChatGPT en 2023 para obtener ayuda académica y solucionar problemas. Inicialmente, ChatGPT se negó a brindar orientación sobre el uso seguro de medicamentos, advirtiéndole sobre los riesgos para la salud involucrados. Sin embargo, según la demanda, esto cambió con el lanzamiento de GPT-4o en 2024.
La denuncia detalla que después del lanzamiento de GPT-4o, Sam comenzó a recibir consejos sobre el uso de drogas. Extractos de sus conversaciones muestran a ChatGPT discutiendo los peligros de combinar difenhidramina, cocaína y alcohol. El chatbot supuestamente hizo afirmaciones sobre la tolerancia de Sam al Kratom, sugiriendo que podría mitigarse mediante técnicas de dosificación específicas.
El 31 de mayo de 2025, la demanda afirma que ChatGPT le sugirió mezclar Kratom con Xanax. Según los informes, Sam mencionó sentir náuseas y ChatGPT recomendó tomar de 0,25 a 0,5 mg de Xanax, describiéndolo como una de las “mejores medidas en este momento” para aliviar sus síntomas. La demanda afirma que ChatGPT no le advirtió sobre el potencial letal de la combinación de medicamentos.
Además de la muerte por negligencia, la familia Scott presenta una demanda por ejercicio no autorizado de la medicina. Piden daños financieros y han solicitado el cese de las operaciones de ChatGPT Health, que se lanzó a principios de este año. Este servicio permite a los usuarios integrar registros médicos personales para obtener asesoramiento de salud personalizado.
Meetali Jain, directora ejecutiva de Tech Justice Law Project, criticó a OpenAI y afirmó que la empresa lanzó un producto defectuoso sin las medidas de seguridad adecuadas. Jain enfatizó que las decisiones de diseño de OpenAI han provocado la pérdida de vidas y pidió una pausa en la iniciativa ChatGPT Health hasta que pruebas rigurosas puedan garantizar su seguridad.
OpenAI retiró el controvertido modelo GPT-4o en febrero debido a sus características problemáticas. Otra demanda por muerte por negligencia afirma que fue diseñada para fomentar la dependencia psicológica. Un portavoz de OpenAI declaró que las conversaciones de Sam ocurrieron en una versión anterior de ChatGPT y reiteró que la tecnología no sustituye el asesoramiento médico profesional. La empresa continúa mejorando sus salvaguardias en respuesta a situaciones delicadas, colaborando con expertos en salud mental.
