Компания Anthropic внедрила новые защитные механизмы, ограничивающие доступ к возможностям модели Claude. Эти меры направлены на борьбу с так называемыми «атаками дистилляции», которые конкуренты используют для копирования функционала передовых нейросетей с меньшими затратами.
Согласно отчету разработчика, новые инструменты позволили сократить объем данных, похищаемых в ходе подобных атак, на 90–99%. Количество токенов рассуждений, извлекаемых злоумышленниками, снизилось до уровня от 1/100 до 1/10 от прежних показателей.
Для защиты своих разработок Anthropic усложнила работу прокси-сетей, которые ранее неоднократно зондировали процессы логических выводов Claude. Это позволило заблокировать попытки массового извлечения данных и затруднить процесс дистилляции модели.
Разработчик утверждает, что надежность новой системы сопоставима с защитой от использования ИИ для создания биологического оружия. При этом уровень ложных срабатываний системы составляет менее 0,1%, что обеспечивает стабильную работу сервиса.
