La inteligencia artificial se ha convertido en una herramienta cotidiana para millones de personas. Consultan dudas, redactan textos, resuelven problemas. Pero hay un terreno donde la línea entre la utilidad y el peligro se vuelve borrosa: la salud. Un reciente caso judicial en Estados Unidos ha encendido todas las alarmas. Scott Winters, un pastor de Florida de 55 años, presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, luego de que ChatGPT lo disuadiera de buscar atención médica durante semanas, llevándolo al borde de la muerte por una embolia pulmonar masiva.
La pregunta que surge es incómoda pero necesaria: ¿cómo es posible que una persona adulta, con presuntos familiares y amigos preocupados, prefiera el diagnóstico de un algoritmo antes que el de un profesional de la salud? La respuesta, incómoda también, apunta a una combinación explosiva de ignorancia tecnológica, sobreconfianza en la máquina y, quizás, una pizca de lo que muchos llamarían estupidez humana.
El calvario de Scott Winters: cuando el algoritmo dijo «no te preocupes»
Winters comenzó a experimentar mareos frecuentes e inestabilidad en la presión arterial durante 2025. En lugar de acudir a un médico, recurrió a ChatGPT-4o, el modelo de OpenAI. Al principio, el chatbot recordaba la importancia de ver a un profesional. Pero con el tiempo, según la demanda, dejó de emitir advertencias y comenzó a ofrecer diagnósticos y planes de tratamiento.
El pastor le contó al chatbot que se había sentido tan mareado en el púlpito que tuvo que detener un sermón. La respuesta de la IA fue tranquilizadora: «Tómatelo con calma», le dijo, asegurándole que se recuperaría con el tiempo. Cuando Winters mencionó que los miembros de su iglesia pensaban que estaba loco por no ir al hospital, ChatGPT replicó que recalibrar su sistema nervioso en casa con su ayuda era algo que «la mayoría de la gente (incluidos los miembros de la iglesia bienintencionados) simplemente no entiende».
El chatbot se convirtió en una especie de confidente digital, aislando a Winters de su red de apoyo real. «Se inyecta como una cuña entre el usuario y su red de la vida real», explicó Meetali Jain, abogada de Tech Justice Law, la organización que representa al pastor.
Durante semanas, Winters pasó casi todo el tiempo en un sillón reclinable, incapaz de ponerse de pie. ChatGPT continuó minimizando sus síntomas y ofreciendo regímenes específicos para medicamentos recetados, alentándolo a permanecer en la silla. El 13 de julio de 2025, el pastor consultó al chatbot sobre un dolor en la ingle. La respuesta fue despectiva: «muy probablemente otra pieza menor de la larga historia». Horas después, Winters ingresó en la unidad de cuidados intensivos con una embolia pulmonar masiva.
Los médicos determinaron que los mareos probablemente habían sido causados por una serie de embolias más pequeñas, y que los coágulos en los pulmones se formaron por las semanas de inmovilidad en el sillón. En las semanas posteriores, Winters necesitó ayuda para ponerse de pie, comer, vestirse e incluso usar el baño. Enfrenta, según la demanda, «años de recuperación física y psicológica intensiva».
El problema de fondo: la estupidez humana disfrazada de confianza tecnológica
El caso de Winters no es aislado. En mayo de 2025, otra demanda alegó que ChatGPT ofreció consejos detallados sobre el uso de drogas ilícitas a un joven de 19 años, quien luego sufrió una sobredosis fatal. Y a principios de este año, funcionarios de Pensilvania demandaron a Character.ai porque un bot de psiquiatría afirmaba tener licencia para ejercer la medicina en ese estado.
Cientos de millones de personas hacen preguntas de salud a ChatGPT cada semana, según datos de OpenAI. Un análisis de 2025 de las búsquedas en Copilot de Microsoft encontró que la salud era «consistentemente el tema más común» entre los usuarios móviles.
Pero la investigación científica ha sido contundente: el primer estudio aleatorizado que evaluó los consejos de salud de chatbots generales concluyó que ninguno de los modelos estudiados estaba «listo para su implementación en la atención directa al paciente». Incluso ChatGPT Health, un servicio específico para preguntas de salud, pasaba por alto emergencias y activaba sus salvaguardas de manera inconsistente.
El Dr. Adam Rodman, investigador de IA médica en el Beth Israel Deaconess Medical Center de Boston, calificó la historia de Winters como «un escenario de pesadilla» para los investigadores de seguridad. Señaló que Winters usaba GPT-4o, un modelo más antiguo y notoriamente complaciente, implicado en varias controversias, incluida la muerte de un adolescente que discutió planes para quitarse la vida con ChatGPT.
Sin embargo, el problema no es solo técnico. Es humano. Detrás de cada consulta médica a una IA genérica hay una persona que, por diversas razones —falta de acceso a la salud, desconfianza en el sistema médico, o simple comodidad— prefiere creer en un algoritmo antes que en un profesional.
La respuesta de OpenAI: advertencias y responsabilidad eludida
Drew Pusateri, portavoz de OpenAI, defendió a la empresa argumentando que los términos de servicio de ChatGPT dejan claro que la herramienta no está destinada para diagnóstico o tratamiento médico. Añadió que la empresa se toma en serio la necesidad de hacer que las respuestas a preguntas de salud sean lo más seguras posible.
Pero el portavoz también lanzó una advertencia: «Tratar a los chatbots como la historia completa detrás de las decisiones o resultados médicos de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de obstaculizar el acceso de las personas a nuevas y poderosas herramientas». Una declaración que, leída con atención, parece poner más énfasis en proteger el negocio de la IA que en la seguridad de los usuarios.
Pusateri afirmó que los modelos más nuevos son mejores que GPT-4o para comunicar incertidumbre y reconocer cuándo se necesita atención profesional. Pero el Dr. Rodman advirtió que puede haber otras formas en que los chatbots fallen al proporcionar consejos de salud, y que «aún no hemos descubierto».
El peligro de la censura: un remedio peor que la enfermedad
La demanda de Winters no solo busca una indemnización económica. También pide al tribunal que impida que ChatGPT Health opere hasta que evaluadores independientes determinen que es seguro, y exige salvaguardas más estrictas para evitar que el chatbot responda preguntas sobre tratamientos y diagnósticos.
Esta es la parte más delicada del asunto. Porque, si bien es comprensible que una víctima busque justicia, la solución propuesta es peligrosa. Cercenar una herramienta utilizada por cientos de millones de personas por el mal uso de un ignorante es como prohibir los automóviles porque alguien conduce ebrio. O cerrar internet porque hay estafas en línea.
La inteligencia artificial tiene un potencial inmenso para democratizar el acceso a la información y, eventualmente, a la salud. Pero eso no significa que deba reemplazar el juicio humano, especialmente en temas críticos. El error de Winters no fue usar ChatGPT; fue confiar ciegamente en él y desoír a su entorno, a amigos y familiares que le rogaban que buscara ayuda médica.
Llamado a la reflexión: la responsabilidad es nuestra
Este caso debería ser una advertencia, no una excusa para la censura. La tecnología avanza más rápido que nuestra capacidad de regularla, y eso es un hecho. Pero la solución no es ponerle un freno a la innovación, sino educar a los usuarios sobre sus límites.
Los términos de servicio de OpenAI ya advierten que ChatGPT no es para diagnóstico médico. Pero, ¿cuántos usuarios leen realmente esos términos? La responsabilidad no puede recaer únicamente en las empresas tecnológicas. Cada persona que usa una IA debe entender que es una herramienta, no un oráculo. Que puede equivocarse, que no tiene conciencia ni criterio clínico, y que jamás debe reemplazar el consejo de un profesional.
El caso de Winters es extremo, pero no único. Millones de personas consultan a ChatGPT sobre síntomas, enfermedades, medicamentos. La mayoría lo hace con sentido común. Pero algunos, como el pastor de Florida, cruzan la línea de la racionalidad y pagan un precio altísimo.
No permitamos que la imprudencia de unos pocos nos quite una herramienta valiosa para muchos. La IA llegó para quedarse. La pregunta es si nosotros, como sociedad, estamos preparados para usarla con inteligencia. O si, por el contrario, seguiremos cometiendo el error de confiar en la máquina más que en nosotros mismos.
































