Компания Anthropic опубликовала отчет о пяти кампаниях по дистилляции данных, направленных на модели Claude. Всего зафиксировано около 200 миллионов запросов, связанных с попытками извлечь цепочки рассуждений нейросети для обучения других моделей. Атаки затронули функции программирования, анализа данных, логического мышления и агентные возможности ИИ.
Крупнейшая кампания, которую Anthropic связывает с Alibaba, включала 151 миллион запросов в период с мая по июль 2026 года. Пиковая нагрузка достигала трех миллионов запросов в сутки через 3500 аккаунтов. Использование единого шаблона запроса позволило компании сделать вывод, что полученные данные предназначались для обучения семейства моделей Qwen.
Другая кампания, связанная с Moonshot AI, разработчиком Kimi, насчитывала около 300 000 запросов за десять дней. Трафик шел через 5000 аккаунтов и был нацелен на модель Claude Opus. По данным Anthropic, часть запросов могла исходить от китайских военных, включая задачи по анализу записей камер видеонаблюдения для выявления подозрительного поведения объектов.
Злоумышленники обходят защиту, заставляя модель раскрывать внутренние цепочки рассуждений, которые обычно скрыты от пользователей. Для этого применяются специальные промпты, например, маскировка запроса под перевод текста. Anthropic отмечает, что текущие попытки копирования возможностей американских передовых моделей стали более масштабными и агрессивными.
