Генеральный директор Microsoft Сатья Наделла предложил компаниям рассматривать автономные ИИ-агенты как потенциальную внутреннюю угрозу. По его мнению, одна модель не должна одновременно выполнять действия и проверять их, так как это исключает независимый контроль.
10 октября 2026 года Наделла подчеркнул необходимость разделения функций интеллекта и принятия решений. Он рекомендовал внедрять независимые процессы проверки, обеспечивать прозрачность цепочки рассуждений модели и привлекать внешних аудиторов.
В июле 2026 года Наделла представил концепцию обратного информационного парадокса, согласно которой взаимодействие с ИИ может привести к утечке проприетарных данных компании.
Примерно 14 сентября 2026 года Microsoft представила проект кодекса поведения для своих моделей MAI. Документ делает упор на человеческий контроль и запрещает обманное поведение ИИ. В сентябрьской записке Наделла предупредил, что несоблюдение мер безопасности может лишить компанию права на ведение деятельности.
