Форум по оценке ИИ, объединяющий ряд надзорных организаций, опубликовал открытое письмо с требованиями к независимым проверкам безопасности. В документе указано, что такие компании, как OpenAI и Anthropic, должны предоставить внешним экспертам доступ к внутренним системам, данным и инструментам на уровне штатных сотрудников для проведения качественного анализа рисков.
Письмо подписали десятки специалистов, включая Джеффри Хинтона и Стюарта Рассела. Авторы настаивают на том, что независимые оценщики должны быть защищены от давления со стороны компаний и иметь право напрямую взаимодействовать с советами директоров. Также эксперты требуют возможности публиковать результаты своих проверок без предварительной цензуры со стороны разработчиков.
Инициатива предполагает привлечение специалистов с различным профессиональным бэкграундом для оценки специфических угроз, включая риски в области биологии и потери контроля над ИИ. Ранее руководители OpenAI Сэм Альтман и Anthropic Дарио Амодеи пообещали открыть доступ к внутренним ресурсам для сторонних аудиторов. Идею о допуске внешних экспертов также поддержал глава Microsoft Сатья Наделла.
Форум подчеркивает, что для обеспечения доверия к результатам проверок сторонние специалисты должны сохранять научную объективность и независимость. Условия, изложенные в письме, призваны закрепить стандарты сотрудничества между ИИ-лабораториями и внешними организациями, чтобы исключить возможность манипуляций или сокрытия данных в процессе оценки безопасности технологий.
