Более 100 экспертов и специалистов по оценке рисков опубликовали открытое письмо, в котором заявили о нехватке ресурсов для проведения независимого аудита безопасности ИИ. Организатором инициативы выступил консорциум AI Assessment Forum. Авторы обращения требуют от разработчиков базовых моделей обеспечить прозрачность, научную объективность и независимость для сторонних оценщиков.
Среди подписавших документ — ученый Джеффри Хинтон, а также представители Стэнфордского университета, Университета Джонса Хопкинса и организации METR. Президент AI Assessment Forum Конрад Стош подчеркнул, что цель экспертов — внедрить базовые принципы и стандарты для независимого надзора, который должен стать эффективным инструментом управления рисками в индустрии.
Дискуссия активизировалась после предложения гендиректора Anthropic Дарио Амодеи предоставить экспертам доступ к внутренним отчетам об инцидентах и процессам безопасности. Стош отметил, что это может включать допуск к конфиденциальным данным, невыпущенным системам и общение с сотрудниками компаний. Также эксперты настаивают на защите от возможных ответных мер со стороны разработчиков.
Специалисты подчеркнули, что их работа не должна заменять внутренние программы безопасности самих компаний. По словам Стоша, в настоящее время существует крайне мало групп, обладающих достаточной технической компетенцией и масштабом для проведения подобных проверок, поэтому отрасль нуждается в создании единых стандартов взаимодействия с независимыми аудиторами.
