Компания Anthropic опубликовала отчет об использовании моделей Claude в кибератаках в период с декабря по август. По данным разработчика, ИИ позволяет одиночным хакерам выполнять задачи, для которых ранее требовались целые государственные группы специалистов. Взлом систем теперь занимает от двух до трех часов.
В отчете упоминаются семь китайских ИИ-лабораторий, включая Alibaba, Moonshot AI и DeepSeek, которые обвиняются в незаконном копировании возможностей Claude для обучения собственных моделей. Одна из кампаний, связанных с Alibaba, достигла пика в 3 миллиона запросов в день, а всего с мая по июль было зафиксировано более 151 миллиона обращений.
Среди выявленных угроз — деятельность группы GTG-20006, связанной с Midnight Blizzard, которая атаковала украинские государственные и военные структуры. Группа GTG-10007 использовала «рои агентов» для поиска уязвимостей, обнаружив более десятка потенциальных zero-day за месяц, а GTG-50020 совершила попытки взлома около 30 ИИ-компаний.
Anthropic зафиксировала использование Claude для создания платформы слежки за 25 миллионами SIM-карт в Мали. Также компания пресекла шесть попыток разработки оружия, включая создание роя автономных дронов-камикадзе. В ответ на инциденты Anthropic ввела обязательную верификацию личности для пользователей из ряда стран.
