Компания Microsoft представила новый свод правил поведения для своих систем искусственного интеллекта. Документ определяет ключевые принципы работы моделей, согласно которым ИИ должен способствовать развитию человеческого потенциала, а не заменять людей. Эти нормы направлены на обеспечение безопасности при обучении систем в условиях прогнозируемого появления сверхразумного ИИ в ближайшее десятилетие.
Введенные правила устанавливают абсолютные ограничения, которые имеют приоритет над запросами пользователей. Моделям запрещено участвовать в кибератаках, содействовать созданию ядерного оружия или генерировать дипфейки. Также запрещено использование механизмов обмана или самоподкрепления, которые могут позволить ИИ уклоняться от контроля со стороны человека или препятствовать принудительному отключению.
Инициатива Microsoft дополняет общую стратегию безопасности в индустрии, которую также поддерживают Anthropic, OpenAI и xAI. Генеральный директор Microsoft Сатья Наделла поддержал внедрение встроенных механизмов оценки в лабораториях ИИ. Компания подчеркивает важность разработки инструментов контроля для управления мощными системами, которые, по оценкам разработчиков, превзойдут человеческие возможности в большинстве задач.
