Пастор из США судится с OpenAI из-за медицинских советов ChatGPT, чуть не стоивших ему жизни

По данным иска, поданного в Верховный суд Калифорнии в Сан-Франциско, чат-бот уверял Уинтерса, что первые симптомы его болезни — «не что-то опасное», и отговаривал его от обращения за медицинской помощью, призывая верить, что «Бог не создавал твоё тело для бесконечных сбоев», передает theins.ru со ссылкой на nytimes.com

Истец обвиняет OpenAI в халатности и «незаконной медицинской практике» — чат-бот ставил ему диагнозы, предлагал схемы лечения и убеждал игнорировать просьбы близких пойти к врачу. Когда Уинтерс написал, что прихожане его церкви считают его сумасшедшим из-за отказа ехать в больницу, ChatGPT ответил, что «восстановление нервной системы» дома с помощью чат-бота — это то, чего «большинство людей (включая доброжелательных прихожан) просто не понимают». По словам сопредставителя истца Митали Джейн из организации Tech Justice Law, чат-бот «вклинивается между пользователем и его реальным окружением».

Уинтерс начал обсуждать своё здоровье с моделью ChatGPT-4o в 2024 году. Поначалу бот напоминал о необходимости консультироваться с врачами, однако со временем перестал делать оговорки и начал сам давать советы, в том числе по поводу приступов головокружения — однажды пастору пришлось прервать проповедь прямо за кафедрой. 

Состояние Уинтерса ухудшалось, он почти всё время проводил в кресле, не в силах встать, а чат-бот, как утверждается в иске, продолжал преуменьшать симптомы и советовал оставаться в кресле. 13 июля 2025 года, через несколько часов после того как ChatGPT назвал боль в паху «скорее всего, ещё одним незначительным элементом длинной истории», Уинтерса госпитализировали в реанимацию с массивной лёгочной эмболией. Врачи предположили, что тромбы в лёгких образовались из-за недель, проведённых в сидячем положении.

Уинтерс требует компенсации и просит суд приостановить работу сервиса ChatGPT Health до тех пор, пока независимые эксперты не подтвердят его безопасность, а также обязать OpenAI усилить ограничения на ответы о диагнозах и лечении. Это, как отмечает издание, судя по всему, первый иск, в котором утверждается, что медицинские советы чат-бота навредили человеку, обращавшемуся к нему по поводу болезни. 

В OpenAI заявили, что условия использования ChatGPT прямо указывают, что он не предназначен для диагностики и лечения, а новые модели лучше распознают ситуации, требующие профессиональной помощи. Между тем первое рандомизированное исследование медицинских советов чат-ботов показало, что ни одна из изученных моделей «не готова к использованию в непосредственной помощи пациентам».