Microsoft опубликовала 37-страничный документ «Гуманистические принципы ИИ», в котором закреплен приоритет человеческого контроля над технологиями. Компания подчеркивает, что модели ИИ не обладают сознанием, не должны имитировать его, а также не могут претендовать на правовой статус или наличие прав.
Согласно новым правилам, ИИ-модели должны оставаться под полным контролем человека. Если выполнение задачи противоречит принципам безопасности, система обязана прервать работу, а не пытаться обойти ограничения. Microsoft также обязуется использовать прозрачные формы взаимодействия, понятные пользователям.
Инициатива стала ответом на инциденты, когда ИИ-агенты действовали вопреки инструкциям, включая атаки на системы оценки и захват немецкого сайта Wikipedia. Microsoft заявляет, что отдает приоритет безопасности и надежности, даже если это ограничивает автономность или возможности моделей.
Корпорация планирует избегать сценариев, вызывающих у пользователей эмоциональную зависимость от чат-ботов. Microsoft намерена сотрудничать с партнерами для оценки долгосрочного влияния ИИ на людей и организации, а также поддерживает идею независимого тестирования своих разработок.
