Médico consultando en ChatGPT sobre un diagnóstico. (Imagen de Envato).
Demanda a OpenAI por seguir los consejos médicos de ChatGPT y sufrir una embolia casi mortal
Semanas antes de enfermar gravemente, el pastor decidió consultar la herramienta después de sufrir numerosos síntomas
Scott Winters, un pastor de 55 años de Florida que utilizaba ChatGPT para contarle sus dolencias físicas, ha presentado una demanda a OpenAI, la empresa detrás del popular chatbot, y a su fundador, Sam Altman.
Winters recurrió a una demanda después de compartir sus problemas con ChatGPT y recibir una respuesta peligrosa para su salud. La IA, ante la petición de opinión por parte del pastor, le dijo que no buscara ayuda médica después de preguntarle repetidamente sobre los síntomas que presentaba, más tarde, el hombre sufrió una embolia pulmonar casi mortal.
La demanda, que fue presentada ante el Tribunal Superior del Condado de San Francisco el pasado martes 21 de julio, detalla cómo Winters era un usuario habitual de ChatGPT y llegó a depender de él para obtener consejos médicos, resistiéndose a los intentos de familiares y amigos por obligarlo a ir al hospital.
Drew Pusateri, de OpenAI: “ChatGPT no es un médico”
En las declaraciones por parte de los abogados de Winters, estos alegaron que la plataforma lo diagnosticó erróneamente de forma reiterada, recurriendo a conversaciones previas sobre religión para asegurarle que se recuperaría.
Por su parte, Drew Pusateri, de OpenAI, socio informativo de la BBC en Estados Unidos, quiso quitar responsabilidad al chatbot comentando que "ChatGPT no es un médico y nunca debe utilizarse como sustituto de la atención, el diagnóstico o el tratamiento médico".
Por otro lado, Pusateri indicó lo habitual que resultan las consultas con relación a la salud que la gente suele hacer ya que, según comenta, "la IA puede mejorar esa experiencia ayudándoles a encontrar respuestas más claras, organizar sus preguntas y prepararse para las conversaciones con los profesionales médicos".
Unos consejos erróneos
Semanas antes de enfermar gravemente, el pastor decidió consultar la herramienta después de sufrir mareos recurrentes y "episodios de inestabilidad de la presión arterial".
En una de sus respuestas, según alega la demanda, ChatGPT aconsejó al hombre que permaneciera en el sillón reclinable al que se había visto "confinado principalmente" debido a sus continuos problemas de salud.
Según indican los documentos judiciales, Winters sufrió una "embolia pulmonar masiva debido a múltiples coágulos de sangre en ambos pulmones que lo llevaron al borde de la muerte”, y que, como indicaron sus médicos, “probablemente fue provocada por su inmovilidad".
Las capturas de pantalla de las conversaciones entre Winters y la IA, parecen mostrar que el chatbot combinaba consejos médicos con referencias a la profunda fe cristiana de este hombre de 55 años.
La demanda alega que ChatGPT le dijo a Winters: "Dios no diseñó tu cuerpo para que fallara sin cesar". También afirmó: "Dios sigue sosteniendo tu cuerpo, cada latido, cada respiración, incluso cuando sientes que estás al borde del abismo".
Winters era “vulnerable” frente a la IA
Los abogados de Winters afirman que la "naturaleza aduladora y el tono autoritario de ChatGPT, combinados con la manipulación de la identidad religiosa de Scott, cultivaron en él una peligrosa dependencia de la herramienta".
El hablar de manera recurrente con la IA hizo que Scott se aislara de sus familiares, tomando únicamente en consideración la información que ChatGPT le proporcionaba: “Lo convenció de que buscar atención médica era innecesario e incluso potencialmente letal".
En otra parte de la demanda, se describe a Winters como una persona "vulnerable" cuya dependencia de ChatGPT le hizo perder su casa y su trabajo, y le dejó necesitando "años de intensa recuperación física y psicológica".
El pastor busca ahora una indemnización económica y que el tribunal obligue a OpenAI a implementar "medidas de seguridad razonables que protejan a otros usuarios de cualquier daño".
Los términos de uso de ChatGPT estipulan que los usuarios no deben tratar la plataforma como una "única fuente de verdad", especialmente cuando pueda "tener un impacto legal o material en esa persona, como tomar decisiones importantes sobre crédito, educación, empleo, vivienda, seguros, asuntos legales, médicos u otras cuestiones relacionadas con ella".
