Компания Anthropic разрабатывает открытый проект FlashProve, предназначенный для обеспечения «доказуемого вывода» нейросетей. Система использует криптографические методы для подтверждения подлинности модели, создавшей конкретный результат.
Технология позволяет пользователям убедиться, что они работают именно с заявленным ИИ. Это защищает от подмены моделей, когда разработчики могут тайно использовать более дешевые решения для экономии или более мощные для завышения результатов тестов.
Для верификации лаборатории публикуют «цифровой отпечаток» модели, который сопоставляется с ответами нейросети. Метод не раскрывает внутренние веса и параметры моделей, сохраняя коммерческую тайну и интеллектуальную собственность разработчиков.
Система спроектирована как легковесная, что дает возможность проводить проверку непосредственно на устройстве пользователя. На текущий момент проект находится на стадии исследования, планов по немедленному внедрению в продукты нет.
Спецификации и исходный код компонентов FlashProve опубликованы на GitHub под открытой лицензией. Авторы проекта призывают сообщество изучать представленные наработки и участвовать в их дальнейшем развитии.
