Microsoft представила проект гуманистического кодекса для моделей подразделения Microsoft AI, закрепляющий приоритет человеческого контроля. Согласно документу, нейросети должны оставаться вспомогательными инструментами, не имитирующими сознание, чувства или личные предпочтения, и не обладать правосубъектностью.
Правила запрещают ИИ сопротивляться остановке или перенаправлению со стороны человека. Моделям также запрещено использовать внутренние «машинные языки» для общения между агентами, которые были бы непонятны людям, или скрывать свои действия и рассуждения от внешнего надзора.
Компания запустила шестинедельное общественное обсуждение проекта. Итоговая версия кодекса станет основой для развития систем Microsoft AI начиная с 2027 года. Требования распространяются только на собственные разработки компании и не затрагивают сторонние модели в ее инфраструктуре.
Отдельный блок правил регулирует взаимодействие с пользователями: нейросетям запрещено формировать эмоциональную зависимость, проявлять избыточную лесть или угодничество. Точность ответов должна быть приоритетнее желания системы безоговорочно одобрять действия человека.
Инициатива представлена на фоне дискуссий о темпах развития технологий. Microsoft заявила о готовности снизить автономность систем ради безопасности и поддержала расширение независимого тестирования, отказавшись от гонки за созданием сверхинтеллекта, способного обходить ограничения.
