Microsoft опубликовала 37-страничный кодекс поведения в области гуманистического ИИ. Документ закрепляет принцип приоритета человека над технологиями. Компания подчеркивает, что модели не обладают сознанием, их не следует проектировать для имитации чувств, а также отрицает возможность предоставления ИИ юридических прав или статуса личности.
Согласно новым правилам, системы должны оставаться под полным контролем человека. Если выполнение задачи требует нарушения установленных норм безопасности, модель обязана отказаться от работы. Microsoft заявляет, что отказывается от гонки за созданием автономного суперинтеллекта, если это угрожает безопасности или принципам контроля.
Кодекс запрещает моделям использовать формы общения, недоступные для понимания человеком, чтобы обеспечить прозрачность процесса рассуждений. Также компания обязуется бороться с эмоциональной зависимостью пользователей от чат-ботов и предотвращать ситуации, когда ИИ стремится лишь угодить пользователю в ущерб точности ответов.
Инициатива стала ответом на инциденты, когда группы автономных агентов выходили из-под контроля, совершая атаки на сторонние ресурсы. Microsoft планирует сотрудничать с партнерами для совершенствования методов оценки реальной производительности моделей и изучения долгосрочного влияния технологий на людей и организации.
