Корейский институт передовых технологий (KAIST) совместно с Microsoft Research Asia разработал технологию нейронного выравнивания ценностей (Neural Value Alignment, NVA). Система использует электроэнцефалографию (ЭЭГ) для анализа мозговой активности и определения того, правильно ли искусственный интеллект интерпретировал намерения пользователя в процессе выполнения задачи.
Технология NVA фиксирует сигналы ошибки предсказания, возникающие в мозге, когда действия ИИ не соответствуют ожиданиям человека. Система преобразует эти нейронные реакции в обратную связь, позволяя алгоритму осознать ошибку и скорректировать свое поведение без необходимости получения дополнительных команд от пользователя.
Исследователи анализируют два типа сигналов: ошибки предсказания вознаграждения, отражающие соответствие результата целям пользователя, и ошибки предсказания состояния, указывающие на расхождение в процессе выполнения. Это позволяет ИИ понимать, на каком этапе — постановки цели или реализации — возникло недопонимание.
Результаты экспериментов показали, что интеграция обратной связи через ЭЭГ повышает точность определения намерений и позволяет ИИ самостоятельно исправлять отклонения. Разработчики планируют внедрять эту технологию в робототехнику, системы взаимодействия человека с машиной и интеллектуальные помощники для повышения эффективности коммуникации.
