Генеральный директор Microsoft Сатья Наделла предложил внедрить новую архитектуру доверия для передовых систем искусственного интеллекта. Ключевым элементом концепции стал «аварийный тормоз», позволяющий уполномоченным сотрудникам останавливать или завершать работу модели прямо во время выполнения задачи.
Инициатива направлена на контроль агентных систем, способных самостоятельно совершать цепочки действий. Наделла считает, что к продвинутому ИИ следует относиться как к потенциально скомпрометированной системе, применяя подходы, используемые для защиты от внутренних угроз.
Идею поддержал президент Microsoft Брэд Смит в сентябре 2026 года. Предложение перекликается с предупреждениями других лидеров индустрии, включая Илона Маска и Сэма Альтмана, на фоне растущих опасений по поводу потери контроля над сложными алгоритмами.
Предложение оставляет открытыми вопросы о том, кто именно получит права доступа к функции экстренной остановки и по каким стандартам будут проводиться независимые аудиты безопасности таких систем.
