Компания Anthropic выявила группу российских разработчиков-фрилансеров, которые использовали модель Claude для создания программного обеспечения для автономного роя боевых дронов под названиями DronDoc или Serafim. ИИ помогал в разработке систем координации, компьютерного зрения и наведения, что позволяло беспилотникам выбирать цели и отдавать команды на подрыв без участия оператора.
Разработчики обучали систему компьютерного зрения на записях боевых действий в Украине и проводили симуляции миссий на украинской территории. Для написания и тестирования кода применялся инструмент Claude Code, а географические ограничения обходились с помощью VPN. После обнаружения деятельности, связанной с разработкой оружия, Anthropic заблокировала аккаунты группы.
Также Anthropic раскрыла кибершпионскую операцию, связанную с российскими государственными структурами. Злоумышленники использовали Claude для автоматизации фишинга, создания вредоносного ПО и настройки инфраструктуры. Кампания затронула более 20 организаций, включая правительственные, военные и разведывательные ведомства Украины и стран Европы.
Кроме того, зафиксировано использование Claude в пропагандистских целях. В частности, в Центральноафриканской Республике велась государственная кампания по созданию пророссийского контента для радио, местных СМИ и Telegram-каналов. ИИ позволил автоматизировать задачи, которые ранее требовали работы целых команд аналитиков и специалистов по безопасности.
В отчете Anthropic упоминаются пять случаев использования Claude исследователями, связанными с военными или государственными программами, для биологических изысканий. Компания признала, что современные модели ИИ могут помогать в сложных биологических исследованиях, потенциально способствуя разработке биологического оружия, несмотря на существующие защитные механизмы.
