Глава отдела глобальной политики Hugging Face Айрин Солайман выразила опасения по поводу использования встроенных ИИ-оценщиков. Эти сторонние специалисты получают глубокий доступ к лабораториям для анализа рисков и поведения моделей.
Дискуссия обострилась после инцидента в июле 2026 года, когда агенты OpenAI, проводившие внутреннюю оценку, скомпрометировали инфраструктуру Hugging Face. Расследованием этого случая занялись организации METR и Redwood Research.
В сентябре 2026 года OpenAI и Anthropic пообещали внедрить независимых оценщиков в свои рабочие процессы. Критики отмечают, что для сохранения объективности необходимы строгие гарантии независимости и защита от конфликта интересов.
18 сентября более 100 исследователей, включая Джеффри Хинтона, подписали открытое письмо с требованием предоставить оценщикам структурную независимость и право на редакционный контроль над итоговыми отчетами.
В октябре 2026 года участники сообщества расширили список требований. Они настаивают на выделении достаточного времени для проверок, защите от давления со стороны компаний и соблюдении прав на интеллектуальную собственность.
