Компания Anthropic выбрала Accenture в качестве партнера для независимой оценки своих систем искусственного интеллекта. Специалисты Accenture будут участвовать в рабочих процессах лаборатории, контролируя соблюдение требований безопасности, проводя стресс-тестирование моделей и оценивая их соответствие человеческим ценностям.
В течение ближайших пяти лет компании планируют инвестировать не менее $1 млрд в развитие данного направления. На текущем этапе Anthropic обеспечивает прямое финансирование работы Accenture, однако в будущем компания рассчитывает на привлечение совместных или государственных источников средств.
Данное сотрудничество стало первым этапом плана главы Anthropic Дарио Амодеи по замедлению совершенствования передовых моделей ИИ. Инициативу поддержали Сэм Альтман из OpenAI и Илон Маск из xAI, в то время как глава Nvidia Дженсен Хуанг выразил скептицизм относительно необходимости дополнительного регулирования отрасли.
Партнерство с Accenture не является эксклюзивным. Anthropic ведет переговоры с некоммерческой организацией METR и другими потенциальными партнерами. Разработчик планирует делиться информацией о ходе проекта по мере привлечения новых оценщиков и изменения подходов к контролю за развитием технологий.
