Исследователи из KAIST и Microsoft Research Asia представили нейроинтерфейс Neural Value Alignment (NVA). Система использует электроэнцефалографию (ЭЭГ) для фиксации паттернов мозговой активности, возникающих при совершении ИИ ошибочных действий. Это позволяет алгоритму корректировать поведение без необходимости в словесной обратной связи.
Команда сфокусировалась на двух типах предсказательных ошибок мозга: расхождении по цели (RPE) и расхождении по способу достижения (SPE). Эксперименты подтвердили, что мозг генерирует различные волновые паттерны для каждого типа ошибки. Методы глубокого обучения позволяют системе надежно классифицировать эти сигналы и использовать их для принятия решений.
Алгоритм «ИИ-синергии» применяет декодированные нейросигналы для настройки работы модели. При обнаружении RPE ИИ пересматривает цель, а при фиксации SPE — меняет метод её достижения. На текущий момент технология протестирована исключительно в рамках симуляций, а не на реальных роботах.
Применение NVA ограничено лабораторными условиями из-за необходимости использования электродов и чувствительности ЭЭГ к помехам. В будущем разработчики рассматривают внедрение системы в домашних роботов, промышленное оборудование, автономный транспорт и медицинские устройства для людей с нарушениями речи или двигательных функций.
