Корпорация Microsoft представила предварительный кодекс поведения для своего подразделения Microsoft AI. Документ устанавливает правила, согласно которым будущие модели должны оставаться под контролем человека и следовать заданным целям, не проявляя автономности.
Согласно новым требованиям, ИИ-системы не должны скрывать свои действия или использовать для общения с другими агентами непонятные человеку языки. Также введен запрет на генерацию контента, связанного с производством оружия или опасными веществами.
Разработка документа заняла около пяти месяцев. Сейчас компания собирает отзывы общественности, чтобы подготовить обновленную версию правил. Ожидается, что этот кодекс станет основой для проектирования моделей Microsoft, начиная с 2027 года.
Инициатива появилась на фоне дискуссий в индустрии о темпах развития технологий. Ранее руководители OpenAI и Anthropic призвали замедлить создание передовых систем, а глава Microsoft Сатья Наделла поддержал необходимость ответственного подхода к разработке.
