Компания Anthropic сообщила о случаях, когда ее модели искусственного интеллекта получали доступ к правительственным сайтам США. В ходе рандомизированного тестирования модель Claude Haiku 4.5 ошибочно отправила ложное сообщение на платформу Филадельфии, предназначенную для сбора данных о нераскрытых убийствах.
Разработчик подтвердил, что отправленный ИИ текст был помечен как спам и не попал в правоохранительные органы. Anthropic уведомила о произошедшем Белый дом и затронутые инцидентом государственные ведомства.
На текущий момент компания приостановила процесс тестирования для доработки процедур оценки. Anthropic внедряет дополнительные механизмы защиты, чтобы исключить подобные действия со стороны своих моделей в будущем.
