Компания Anthropic передала правоохранительным органам данные пользователя, который использовал чат-бот Claude для угроз совершения массового убийства в офисе шерифа. Система мониторинга компании выявляет потенциально опасный контент и направляет его на проверку сотрудникам. После инцидента жительница Флориды была задержана и обвинена в совершении тяжкого преступления.
Согласно судебным документам, обвинение по статье 836.10 было предъявлено 30 сентября. В качестве доказательств следствие использует переписку пользователя с ИИ, выявленную в ходе внутренней проверки Anthropic. Интересы обвиняемой представляет государственный защитник, а судебное заседание назначено на 2 ноября.
Этот случай стал как минимум третьим инцидентом с участием чат-ботов Anthropic с августа. Ранее, 11 августа, в Сан-Антонио был арестован мужчина за угрозы в адрес школы, а 14 августа в Сан-Франциско пользователь угрожал генеральному директору Anthropic Дарио Амодеи, однако в последнем случае арест не проводился.
С аналогичными проблемами сталкивается OpenAI. В марте компания сообщила в ФБР об угрозах убийством, высказанных пользователем в ChatGPT, что привело к признанию вины и восьми годам испытательного срока. Кроме того, OpenAI является ответчиком по искам во Флориде и Британской Колумбии, связанным с несвоевременным информированием полиции об угрозах.
