Компания Anthropic внедрила новые защитные механизмы для противодействия атакам дистилляции ИИ. Согласно отчету, эти меры позволили сократить эффективность попыток сбора данных на 90–99%.
Обновления безопасности применены в моделях серии Claude 5, включая Fable 5.1, Opus 5.5 и Sonnet 5.5. Технология направлена на предотвращение извлечения токенов рассуждения из нейросетей.
Параллельно с техническими изменениями Anthropic заблокировала десятки тысяч аккаунтов. По данным компании, эти учетные записи были связаны с кампаниями по проведению атак на модели.
Участники рынка следят за тем, как усиление защиты повлияет на позиции Claude в рейтингах ИИ-моделей. Результаты тестирований и дальнейшие обновления безопасности могут изменить восприятие конкурентоспособности продуктов компании.
