Генеральный директор Anthropic Дарио Амодеи предложил внедрить в работу передовых ИИ-компаний независимых сторонних оценщиков безопасности. По его замыслу, такие специалисты должны получить доступ к внутренним риск-командам и право публиковать результаты своих проверок, по аналогии с надзором в банковской сфере.
Эксперты по банковскому регулированию, включая декана юридического факультета Университета Вайоминга Джули Андерсен Хилл, отмечают, что предложенная схема лишена реальных рычагов принуждения. В отличие от банковских инспекторов, которые могут закрыть бизнес или остановить операции, ИИ-оценщики смогут лишь проводить исследования без права блокировки выпуска моделей.
Исследователи ИИ, в частности Дебора Раджи, указывают на риск конфликта интересов. Поскольку компании сами выбирают оценщиков и определяют границы их доступа, существует опасение, что процесс превратится в имитацию аудита. Критики подчеркивают, что без независимого органа, определяющего квалификацию аудиторов, система теряет доверие.
Альберт Зиглер из компании XBOW, занимающийся оценкой моделей Anthropic и OpenAI, подтвердил, что у внешних экспертов нет права вето на выпуск продуктов. По его словам, даже при наличии доступа к системам, критические риски могут проявляться лишь при комбинациях условий, которые аудиторы не всегда способны воспроизвести в ходе тестирования.
Эксперты сходятся во мнении, что без четкой правовой базы и возможности налагать санкции за выявленные нарушения, инициатива рискует стать инструментом для создания видимости безопасности. По словам Хилл, если разработчики действительно опасаются катастрофических последствий ИИ, они должны допустить независимый надзор с реальной властью, вплоть до отключения систем.
