Компания Baseten представила стандарт безопасности инфраструктуры через свое исследовательское подразделение Base Labs. В рамках проекта компания начала сотрудничество с Hugging Face и Goodfire AI для создания инструментов мониторинга и оценки открытых моделей ИИ.
Инициатива направлена на борьбу с техникой «аблитерации», которая позволяет удалять встроенные защитные механизмы нейросетей. На платформе Hugging Face сейчас размещено более 6000 подобных моделей. Base Labs планирует публиковать методы обучения, в которых безопасность заложена изначально.
Goodfire AI предоставит технологии для анализа «черного ящика» ИИ, чтобы сделать процесс принятия решений моделями прозрачным. Партнеры стремятся создать стандарт, при котором защитные функции интегрируются в архитектуру модели на этапе разработки, а не добавляются после.
В июне Baseten привлекла $1,5 миллиарда в рамках раунда серии F, что увеличило оценку компании до $13 миллиардов. Goodfire AI ранее в этом году закрыла раунд серии B на сумму $150 миллионов под руководством B Capital для развития своей платформы интерпретируемости.
Base Labs открыла прием предложений от сторонних разработчиков для участия в создании фреймворка. Цель партнерства — формирование экосистемы открытых моделей, которые остаются безопасными и доступными для широкого круга пользователей.
