Подразделение Microsoft AI представило кодекс поведения для моделей MAI, который ставит человеческий контроль выше автономности, производительности или универсальности систем. Документ определяет ценности и ограничения, становясь основой для обучения, технического контроля и оценки моделей.
Согласно правилам, модели обязаны подчиняться командам на остановку или прерывание работы от авторизованных лиц. Системе запрещено самостоятельно расширять область задач, скрывать свои действия или продолжать работу после установленного лимита без одобрения. Эти требования распространяются и на под-агентов.
Microsoft требует, чтобы модели избегали использования «нейроязыка» или непонятных цепочек рассуждений. Компания подчеркивает, что человек не может контролировать то, что не способен понять. При этом в Microsoft признают, что даже прозрачные цепочки рассуждений не гарантируют полный контроль над моделью.
Кодекс пока не распространяется на сторонние модели, работающие в продуктах Microsoft. После шестинедельных общественных консультаций обновленная версия документа ожидается к концу 2026 года, а ее применение начнется в 2027 году. Компания готова допустить внешних аудиторов для проверки темпов разработки.
Microsoft официально отрицает наличие у ИИ сознания, прав или внутреннего мира, противопоставляя свой подход стратегии Anthropic. Глава Microsoft AI Мустафа Сулейман настаивает на необходимости исключить иллюзию сознания в продуктах, рассматривая ИИ-агентов исключительно как инструменты, а не как субъекты.
