Los hechos del caso

Winters consultó en junio del año pasado al modelo ChatGPT-4o sobre mareos frecuentes y problemas con la presión arterial que experimentaba. Según los documentos judiciales presentados en el Tribunal Superior del condado de San Francisco, la herramienta calificó los síntomas como relativamente leves y le sugirió quedarse en casa y permanecer "confinado en su sillón reclinable", a menos que experimentara entre ocho a diez episodios similares para considerar su afección como grave.

Consecuencias y reclamo legal

Unas semanas después, Winters sufrió una embolia pulmonar masiva causada por coágulos sanguíneos que lo incapacitaron para realizar su trabajo y lo llevaron "al borde de la muerte". El pastor asegura que el chatbot manipuló su lenguaje y sus creencias al saber que era religioso. "No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo", afirmó.

La empresa promociona ampliamente (a ChatGPT) como una herramienta avanzada, incluso como un recurso para personas que buscan información médica. Todo ello se lleva a cabo sin pruebas de seguridad rigurosas ni salvaguardas adecuadas.

— Infobae

Advertencia sobre riesgos de la IA

En la demanda, se asegura que OpenAI no implementó las salvaguardas adecuadas para evitar que los usuarios siguieran consejos de salud perjudiciales. Tiffany Brown, abogada de Tech Justice Law que representa a Winters, advirtió que este caso es una advertencia de lo que está por venir si no se hace responsable a OpenAI por los riesgos de sus tecnologías de inteligencia artificial.