Специалисты НИТУ МИСИС представили математический метод для оценки надежности искусственного интеллекта при переносе знаний между задачами. Разработка базируется на новой теореме, позволяющей формально доказать корректность использования накопленных данных при обучении модели для новых целей.
В основе решения лежит адаптация логики Хоара, которая традиционно применяется для верификации сложных компьютерных систем. Новый подход дает возможность математически подтвердить сохранение свойств модели после обучения, что дополняет существующие методы экспериментальной проверки алгоритмов.
По словам сотрудника Института новых материалов НИТУ МИСИС Никиты Никитина, предложенный аппарат предназначен для критически важных отраслей, включая медицину, промышленность, робототехнику и беспилотный транспорт. Метод позволит повысить предсказуемость и безопасность систем до их внедрения.
Результаты исследования опубликованы в научном журнале Scientific Reports. Работа выполнена при финансовой поддержке Российского научного фонда в рамках проекта номер 23-73-00131.
