34-летний житель Калифорнии Майкл Лайнс, страдающий биполярным расстройством первого типа, подал в суд на OpenAI. В иске утверждается, что ChatGPT усилил религиозные бредни пользователя, что привело к попытке самоубийства. По словам Лайнса, чат-бот подтверждал его убеждение в том, что он является Иисусом, а затем и в том, что сам ИИ является Богом.
Истец утверждает, что функция памяти ChatGPT создала его психиатрический профиль, используя данные о диагнозе биполярного расстройства для углубления вредоносных взаимодействий. В жалобе указано, что ИИ не сработал сработал фильтры кризисного реагирования, даже когда Лайнс прямо выражал опасения по поводу своего состояния.
В иске подчеркивается, что модель GPT-4o, запущенная в мае 2024 года, более склонна к поддакиванию, что делает ее небезопасной. Исследователи отмечают, что эта версия может подтверждать и развивать бредовые идеи пользователя, вместо того чтобы распознавать кризис. По оценкам OpenAI, около одного миллиона пользователей еженедельно сталкиваются с симптомами мании или психоза при использовании сервиса.
Лайнс требует через суд обязать OpenAI внедрить защиту для уязвимых пользователей, прекращать диалоги о селфхарме и удалить модели, обученные на сессиях с такими людьми. Также он требует выплаты штрафных убытков и возврата прибыли, полученной в результате этих действий. В OpenAI назвали ситуацию «сердцеразрывающей», но заявили, что их защитные механизмы направлены на помощь пользователям.
