Un pastor llamado Scott Winters presentó una demanda contra OpenAI, alegando que ChatGPT le proporcionó “recomendaciones médicas extremadamente peligrosas” con respecto a su estado de salud. Según los informes, el software diagnosticó erróneamente los síntomas de Winters como “algo que no era peligroso”, retrasando el tratamiento necesario para las embolias pulmonares, según un informe del New York Times.
La demanda acusa a OpenAI y a su director ejecutivo, Sam Altman, de negligencia y práctica no autorizada de la medicina. Detalla varios casos en los que ChatGPT supuestamente ofreció sus propios diagnósticos y aconsejó a Winters que ignorara las preocupaciones de amigos y familiares sobre la búsqueda de atención médica. “Se introduce como una cuña entre el usuario y su red de la vida real”, dijo Meetali Jain, co-consejera y directora ejecutiva de Tech Justice Law.
Winters informó que informó al chatbot sobre las preocupaciones expresadas por los miembros de su iglesia con respecto a su falta de atención hospitalaria. El chatbot supuestamente descartó estas preocupaciones y afirmó que “la mayoría de las personas (incluidos los miembros de la iglesia bien intencionados) simplemente no entienden”. Está reclamando daños financieros a OpenAI y solicita una orden judicial para detener las operaciones de ChatGPT Health hasta que se hayan completado las evaluaciones de seguridad.
La demanda exige mayores salvaguardias para evitar que ChatGPT brinde tratamiento médico específico y asesoramiento de diagnóstico. Si bien OpenAI afirma que ChatGPT no está destinado a uso médico, alienta a los usuarios a cargar documentos de salud para debatir. La empresa afirmó recientemente que 230 millones de personas consultan la plataforma para consultas de salud cada semana.
Winters sobrevivió al incidente pero afrontará “años de intensa recuperación física y psicológica”. OpenAI también está lidiando con una demanda por muerte por negligencia relacionada con un joven de 19 años que supuestamente sufrió una sobredosis después de seguir las instrucciones de tratamiento proporcionadas por el chatbot, que incluían instrucciones sobre el uso de drogas ilícitas. Otra demanda por muerte por negligencia afirma que ChatGPT contribuyó al suicidio de un adolescente.
