Подразделение Microsoft AI представило проект кодекса поведения для своих моделей, включая MAI-Thinking-1 и MAI-Code-1.1-Flash. Документ вводит «абсолютные ограничения», запрещающие ИИ препятствовать отключению, скрывать логику рассуждений, а также помогать в создании оружия массового поражения, кибератаках и дипфейках.
Компания официально отвергает концепцию «благополучия моделей», подчеркивая, что ИИ не должен имитировать сознание или мотивацию. Кодекс закрепляет три цели: процветание человечества, плюрализм ценностей и контроль со стороны людей. Модели должны всегда признавать приоритет человеческих намерений.
Публичное обсуждение документа продлится шесть недель и завершится в конце октября. Microsoft планирует проанализировать полученные отзывы и опубликовать итоговый отчет. В компании уточнили, что текущие версии моделей не обучались по этим правилам.
Финальная редакция кодекса будет применяться при разработке систем, запланированных к выпуску в 2027 году. В текущем проекте пока не прописаны механизмы внешнего контроля и ответственные за соблюдение правил лица, что станет предметом обсуждения в рамках консультаций.
