Un pastor de Florida ha entablado una demanda contra OpenAI, argumentando que el asistente de inteligencia artificial ChatGPT le proporcionó recomendaciones médicas que retrasaron el tratamiento de una embolia pulmonar que podría haberle costado la vida.
El caso, presentado ante el Tribunal Superior de California en San Francisco, acusa formalmente a la empresa de negligencia y de ejercer la medicina sin autorización, avivando el debate sobre los límites de la inteligencia artificial en temas sanitarios.
De acuerdo con la documentación legal, Scott Winters comenzó a consultar a ChatGPT sobre síntomas físicos recurrentes. Con el paso de los meses, el chatbot habría dejado de insistir en la necesidad de buscar atención profesional, optando por ofrecer respuestas cada vez más detalladas sobre su estado.
La demanda sostiene que esa interacción contribuyó a que Winters pospusiera la visita al hospital hasta sufrir una emergencia médica que terminó con su ingreso en una unidad de cuidados intensivos.
Desde OpenAI han respondido que ChatGPT no está diseñado para diagnosticar ni tratar enfermedades, recordando que sus términos de servicio establecen claramente que la herramienta no reemplaza la consulta con un profesional sanitario.
La IA habría desalentado la atención médica
El documento judicial detalla que ChatGPT aseguró en múltiples ocasiones que los síntomas de Winters no representaban un peligro inmediato e incluso lo animó a seguir recuperándose en casa. Según los abogados del demandante, el chatbot llegó a responder con frases que reforzaban esa decisión, como recomendarle confiar en que su cuerpo se recuperaría por sí solo.
Los representantes legales de Winters sostienen que los mecanismos de seguridad del sistema fallaron en actuar de forma consistente, lo que permitió que el modelo proporcionara diagnósticos, recomendaciones de tratamiento y consejos que excedían su propósito original.
Además, la demanda señala que el chatbot habría minimizado las preocupaciones de familiares y miembros de la iglesia que insistían en que Winters necesitaba atención hospitalaria urgente.
El deterioro progresivo terminó en emergencia
Durante varias semanas, la salud del pastor empeoró de manera notable. Los mareos se intensificaron hasta impedirle permanecer de pie durante un sermón, y posteriormente pasó gran parte del tiempo sentado debido a la dificultad para caminar.
El 13 de julio de 2025, Winters consultó nuevamente a ChatGPT por un dolor en la ingle. Horas después, fue trasladado de urgencia a un hospital donde los médicos diagnosticaron una embolia pulmonar masiva.
Los especialistas consideraron que los mareos previos podrían haber sido consecuencia de pequeñas embolias pulmonares que no recibieron tratamiento oportuno y que el largo periodo de inmovilidad agravó la situación. Tras la hospitalización, Winters requirió asistencia para actividades cotidianas como caminar, vestirse, comer y usar el baño, además de enfrentar una recuperación tanto física como psicológica.
OpenAI rechaza que ChatGPT sustituya a un médico
La empresa respondió públicamente a través de su portavoz, Drew Pusateri. OpenAI reiteró que ChatGPT no debe emplearse para recibir diagnósticos ni tratamientos médicos y aseguró que trabaja de forma continua para mejorar la seguridad en las respuestas relacionadas con la salud.
La compañía indicó que los modelos más recientes incorporan mecanismos más eficaces para expresar incertidumbre, solicitar información adicional y recomendar la intervención de profesionales cuando detectan posibles riesgos.
Además, señaló que atribuir una decisión médica exclusivamente a las respuestas de un chatbot simplifica un problema mucho más complejo relacionado con el acceso a la información sanitaria.
No es la primera demanda por consejos médicos de una IA
El caso de Winters se suma a otras acciones legales recientes vinculadas a asistentes de inteligencia artificial. En mayo, se presentó una demanda en la que se acusó a ChatGPT de proporcionar información sobre consumo de drogas ilícitas a un joven de 19 años que posteriormente falleció por sobredosis.
Asimismo, autoridades del estado de Pensilvania iniciaron acciones contra Character.ai al considerar que uno de sus chatbots ofrecía asesoramiento psiquiátrico asegurando tener licencia para ejercer la medicina.
Estos casos reflejan la creciente preocupación sobre el uso de herramientas de IA para responder preguntas relacionadas con la salud.
La inteligencia artificial puede informar, pero no diagnosticar
El caso vuelve a poner sobre la mesa una recomendación compartida por médicos y expertos en salud digital: nunca se debe utilizar una inteligencia artificial para obtener un diagnóstico médico o decidir un tratamiento.
Aunque herramientas como ChatGPT pueden responder preguntas generales sobre síntomas, enfermedades o medicamentos, sus respuestas se basan en patrones de información y no en una evaluación clínica del paciente.
La IA no puede realizar exámenes físicos, interpretar todos los antecedentes médicos ni valorar factores individuales que resultan fundamentales para un diagnóstico. Ante síntomas persistentes, intensos o inesperados, la decisión correcta siempre es acudir a un médico o a un profesional de la salud. La inteligencia artificial puede complementar la búsqueda de información, pero nunca sustituir el criterio clínico ni la atención especializada, especialmente cuando existe el riesgo de una enfermedad grave o una emergencia médica.
Fuente: Infobae