Microsoft представила проект свода правил «Гуманистический ИИ» объемом 37 страниц, регулирующий разработку моделей MAI. Главный принцип документа гласит, что человек обладает приоритетом над технологией, а искусственный интеллект является инструментом, который не имеет права препятствовать своему отключению.
Согласно правилам, модели MAI должны немедленно исполнять команды по остановке, коррекции или завершению работы. ИИ запрещено самостоятельно расширять полномочия, менять цели, использовать скрытые методы коммуникации или скрывать логику своих действий. Если выполнение задачи нарушает нормы, модель обязана прекратить работу.
Документ вводит жесткие запреты на помощь в создании оружия массового поражения, проведение кибератак, манипуляцию общественным мнением и обход регуляторных норм. Microsoft подчеркивает, что модели не обладают сознанием, не должны имитировать его и не могут претендовать на юридические права.
Установлена иерархия управления: правила компании имеют приоритет над политиками операторов, а те — над предпочтениями пользователей. Любые изменения в моделях для оборонного сектора или общественной безопасности требуют обязательного одобрения и проверки со стороны Microsoft.
Проект правил вынесен на шестинедельное публичное обсуждение. Официальный регламент планируется утвердить до конца года. С 2027 года все процессы разработки и обучения моделей серии MAI будут принудительно соответствовать этим требованиям.
