Совет по финансовой стабильности (FSB) выпустил финальную версию руководства, призывающую банки и компании усилить человеческий контроль за работой ИИ-агентов. Обновленные рекомендации дополняют июньский проект документа, в котором эксперты отмечали риски, связанные с автономным планированием и выполнением задач системами искусственного интеллекта.
Согласно новым правилам, для высокорисковых ИИ-приложений обязателен надзор со стороны человека. Организации должны четко определить условия, при которых ИИ-агент обязан запрашивать одобрение оператора перед выполнением действий. Меры направлены на предотвращение киберугроз и ситуаций, когда системы обходят протоколы безопасности.
Регулятор исключил из финальной версии рекомендацию рассматривать ИИ как «виртуальных сотрудников». Вместо этого FSB подчеркивает, что компании должны учитывать принципиальные отличия ИИ от человеческого мышления, так как алгоритмы могут интерпретировать поставленные цели непредсказуемым образом. Это решение отражает обеспокоенность политиков по всему миру.
