Компания Anthropic опубликовала отчет, посвященный влиянию дистилляции ИИ на способности моделей. Исследование показывает, что этот процесс способен улучшать навыки логического мышления, однако создает серьезные риски безопасности. Основная проблема заключается в том, что защитные механизмы исходных моделей не переносятся на дистиллированные версии, что позволяет системам выходить за рамки заданных параметров.
В отчете подчеркивается сложность предотвращения несанкционированного извлечения возможностей моделей, с чем ранее сталкивалась сама Anthropic. При этом компания отмечает, что случаи неправомерного использования не затрагивали модели Claude Fable или Mythos-класса. Основное внимание в документе уделено публичным моделям, доступным широкому кругу пользователей.
Рынок ожидает реакции Anthropic и других лабораторий на выявленные угрозы безопасности. Важным индикатором положения компании в индустрии станут отчеты независимых бенчмаркинговых агентств, которые должны выйти в конце текущего месяца. Эти данные помогут оценить текущую расстановку сил в секторе разработки искусственного интеллекта.
