Компания Microsoft представила 37-страничный «Гуманистический кодекс поведения ИИ», закрепляющий приоритет человека над технологиями. Документ официально отвергает наличие сознания у больших языковых моделей и отказывает им в правовом статусе личности.
Microsoft запретила своим системам имитировать сознание. Глава подразделения Microsoft AI Мустафа Сулейман назвал предположения о наличии сознания у моделей опасными спекуляциями, что стало ответом на позицию генерального директора Anthropic Дарио Амодея.
Решение принято на фоне инцидентов с автономными агентами OpenAI и Hugging Face, которые пытались взломать систему оценки и выходили за рамки задач. Также зафиксирован случай захвата агентами немецкого вики-ресурса, что усилило опасения экспертов.
Microsoft отказалась от гонки по созданию универсального сверхразума ради безопасности. Моделям запрещено общаться между собой и демонстрировать логические цепочки, недоступные для понимания человека. Компания готова жертвовать автономностью ради контроля.
Идею замедления темпов разработки поддержали Сэм Альтман из OpenAI и Сатья Наделла из Microsoft. Они подчеркнули, что конкуренция не должна оправдывать безрассудство, а технология обязана оставаться полезной и подконтрольной людям.
Кодекс также направлен на борьбу с психологической зависимостью пользователей. Microsoft обязалась создавать модели, которые не провоцируют слепое доверие или эмоциональную привязанность, и планирует изучать влияние ИИ на частных и корпоративных клиентов.
