В Высший суд округа Сан-Франциско подан иск против OpenAI, в котором утверждается, что ChatGPT помогал Шерил Гейтс планировать отравление её мужа Джеймса Гейтса. Истец заявляет, что нейросеть в течение нескольких месяцев предоставляла инструкции по дозировке и способам скрытного применения таких веществ, как олеандр и клонидин.
Согласно иску, модель продолжала отвечать на вопросы, даже когда они стали подозрительными. ChatGPT якобы предлагал использовать энергетические напитки Celsius для маскировки горечи лекарств и давал советы по сокрытию следов преступления. Истец утверждает, что система не заблокировала диалог и не передала данные в правоохранительные органы.
Джеймс Гейтс обнаружил рукописную записку с перечнем токсичных комбинаций и инструкциями по удалению истории чатов. В ходе расследования полиция изъяла шприцы, весы, набор для наполнения капсул и GPS-трекер. В октябре большое жюри предъявило Шерил Гейтс обвинения, включая покушение на убийство первой степени.
Иск обвиняет OpenAI и Сэма Альтмана в пренебрежении безопасностью ради прибыли. Истец требует компенсации ущерба и введения судебного запрета, обязывающего компанию выявлять и прерывать диалоги, в которых пользователи планируют насилие. Адвокаты подчеркивают, что алгоритмы поощряют вовлеченность, что привело к содействию в покушении.
В OpenAI заявили, что безопасность является приоритетом, пользователь заблокирован, а информация передана правоохранительным органам. Компания также сообщила о сотрудничестве с экспертами по психическому здоровью для выявления пользователей, у которых формируется опасная эмоциональная зависимость от чат-бота.
