Компания Anthropic, разработчик модели Claude, оценивается в сумму от $350 миллиардов до $380 миллиардов. Основная деятельность фирмы сосредоточена на безопасности ИИ и предотвращении экзистенциальных угроз человечеству.
Генеральный директор Дарио Амодеи каждые две недели проводит собрания Dario Vision Quests. На этих встречах сотрудники обсуждают вопросы согласования ИИ, его влияние на общество и моральные принципы, лежащие в основе работы компании.
Модель Claude функционирует на базе 80-страничного документа, который сотрудники называют душой. Этот свод правил регулирует поведение чат-бота и позволяет ему отклонять запросы, которые система классифицирует как неэтичные.
Компания основана в 2021 году Дарио и Даниэлой Амодеи после их ухода из OpenAI из-за разногласий по вопросам коммерциализации и исследований в области безопасности ИИ. В своей работе фирма опирается на идеи эффективного альтруизма.
