Unsloth Studio внедрила многоуровневую систему безопасности для своего десктопного приложения, чтобы снизить риски при работе с моделями из открытых репозиториев. Процесс проверки запускается при переходе от загрузки к выполнению и включает четыре этапа: одобрение кода по отпечатку, проверку весов, тестирование песочниц ОС и сканирование содержимого пакетов.
Система использует технологию отпечатков для отслеживания изменений в репозиториях. Если код обновляется, предыдущее одобрение аннулируется, и пользователю требуется дать согласие повторно. Проверка охватывает базовые модели, адаптеры, токенизаторы и конфигурации. Сканер отслеживает подозрительную активность, включая попытки кражи учетных данных или обращения к облачным метаданным.
Для защиты от вредоносных весов Studio проверяет файлы отдельно от кода и учитывает результаты сканирования Hugging Face. Приложение использует изолированные среды: bubblewrap для Linux, Seatbelt для macOS и MXC для Windows. Эти инструменты проверяют границы доступа, предотвращая запись файлов вне рабочей области или чтение системных данных.
Разработчики ужесточили внутренние процессы после инцидентов с компрометацией зависимостей. Теперь система отклоняет npm-пакеты, опубликованные менее 7 дней назад, использует закрепленные хэши коммитов для GitHub Actions и исключает инструменты вроде Trivy из аудита. Также реализована поддержка управляемых аккаунтов для защиты токенов Hugging Face.
