Компания Anthropic начала сотрудничество с консалтинговым гигантом Accenture для внедрения сторонних специалистов по безопасности в свои рабочие процессы. Сотрудники Accenture будут проводить оценку моделей, заниматься «красными командами» и тестировать защитные механизмы ИИ.
Компании планируют инвестировать в проект не менее $1 миллиарда в течение пяти лет. После публикации новости акции Accenture выросли на 8% на внебиржевых торгах. Anthropic выбрала партнера за его опыт внедрения ИИ-решений в крупных корпорациях и госсекторе.
Anthropic ведет переговоры с некоммерческими организациями, включая METR, о запуске пилотных программ по оценке безопасности. Список внешних аудиторов будет расширен в ближайшие недели. Компания планирует развивать стандарты доступа для внешних экспертов.
В Anthropic подчеркивают, что привлечение сторонних оценщиков не снимает с разработчика ответственности за поведение моделей, а лишь делает процессы проверки более прозрачными. На данный момент единых отраслевых стандартов для подобного контроля не существует.
