В округе Ли, штат Флорида, 30-летняя женщина была арестована после того, как в ходе диалога с чат-ботом Claude написала угрозы в адрес офиса местного шерифа. Инцидент произошел 26 сентября, когда пользовательница заявила о намерении устроить стрельбу, что активировало систему безопасности Anthropic.
Контент был передан на ручную проверку, после чего компания уведомила правоохранительные органы. Полиция задержала женщину по месту жительства. Ей предъявлено обвинение в письменной угрозе убийством или причинением телесных повреждений, однако судебного приговора по делу на данный момент нет.
По словам подозреваемой, она использовала нейросеть в качестве личного дневника. Согласно политике Anthropic, компания может передавать данные властям в экстренных случаях, если существует угроза физического насилия или смерти. Диалоги с ИИ не защищены адвокатской тайной, а системы мониторинга платформы отслеживают нарушения правил использования.
Случай вызвал дискуссию о границах приватности при работе с ИИ. Ранее в Канаде был подан иск против OpenAI из-за стрельбы в школе в Тамблер-Ридж: истцы утверждают, что компания не сообщила полиции о подозрительных диалогах. Также в июне в штате Флорида был подан иск против OpenAI, связывающий ChatGPT с инцидентом в университете.
