Компания Anthropic внедрила новые защитные механизмы, направленные на предотвращение копирования возможностей моделей Claude. По данным разработчика, эти меры позволили сократить объем данных, похищаемых в ходе атак методом дистилляции, на 90–99%.
Новая система ограничивает доступ к процессам логического вывода Claude, затрудняя повторные попытки зондирования защищенных каналов. Теперь злоумышленники могут извлечь лишь от одной десятой до одной сотой доли токенов по сравнению с предыдущими показателями, что препятствует масштабному копированию.
Anthropic оценивает надежность новой защиты на уровне своих систем, предотвращающих использование ИИ для создания биологического оружия, при этом уровень ложных срабатываний составляет менее 0,1%. Компания также заблокировала десятки тысяч учетных записей, связанных с попытками дистилляции.
В качестве примера Anthropic привела стартап Zhipu AI, который, по утверждению компании, пытался извлечь данные из Claude при разработке своей модели GLM-5.3. Разработчик предупредил, что подобные действия несут угрозу безопасности и национальным интересам.
