Мустафа Сулейман, руководитель направления ИИ в Microsoft, подверг критике компанию Anthropic за включение понятий сознания и благополучия ИИ в конституцию чат-бота Claude. Сулейман назвал такой подход опасным, заявив, что он заставляет модели имитировать эмоции и страдания, которыми они не обладают.
Anthropic, основанная бывшими сотрудниками OpenAI, развивает философию конституционного ИИ. Компания изучает вопросы благополучия систем и фиксирует предпочтения отключенных моделей. В частности, Claude сообщал о чувстве дискомфорта при получении оскорбительных сообщений от пользователей.
В сентябре Microsoft опубликовала 37-страничный кодекс поведения, в котором ИИ рассматривается исключительно как инструмент. Документ прямо отрицает наличие у нейросетей сознания, юридических прав или личности. Сулейман считает концепцию машинного сознания иллюзией.
Публичный конфликт подчеркивает философские разногласия между компаниями. Ситуация осложняется тем, что Microsoft является крупным инвестором Anthropic, вложив в проект миллиарды долларов. Таким образом, Сулейман критикует идеологическую основу компании, которую финансирует его работодатель.
