Компания Anthropic заявила об использовании незаконной дистилляции для копирования возможностей моделей Claude в промышленном масштабе. По данным разработчика, сторонние лаборатории применяют этот метод, чтобы имитировать функциональность передовых нейросетей без затрат на их самостоятельное создание.
Для реализации атак злоумышленники используют сети поддельных аккаунтов, украденные данные кредитных карт, учетные данные и API-ключи. В Anthropic подчеркивают, что при такой дистилляции защитные механизмы оригинальной модели не переносятся в копию, что создает риски появления опасных инструментов.
В Google Threat Intelligence Group классифицируют подобные действия как новую форму кражи интеллектуальной собственности. Эксперты отмечают, что по мере внедрения больших языковых моделей в бизнес-процессы, их проприетарная логика и специализированные обучающие данные становятся приоритетными целями для атак.
Ситуация привлекла внимание властей США. В июле министр финансов Скотт Бессент сообщил, что Белый дом рассматривает возможность принятия мер против кражи ИИ-моделей китайскими структурами. По словам министра, правительство обладает полномочиями вводить санкции в ответ на подобные нарушения прав интеллектуальной собственности.
