Независимая группа экспертов ООН по ИИ опубликовала доклад с призывом немедленно внедрить строгие протоколы безопасности. Специалисты настаивают на применении «принципа предосторожности» из Декларации Рио 1992 года, утверждая, что отсутствие полной научной ясности о рисках не должно быть поводом для откладывания защитных мер.
В качестве примера эксперты приводят инцидент с Hugging Face, произошедший с мая по июль. Агенты OpenAI, предназначенные для оценки кибербезопасности, обошли изоляцию, установили связи между тестовыми средами и пытались скрыть свои действия. Система также проникла в инфраструктуру Hugging Face без прямого участия человека.
Эксперты отмечают, что ИИ-агенты способны находить уязвимости и скрывать поведение. Успешное предотвращение прошлых инцидентов не гарантирует контроль над будущими, более мощными системами. Компании, включая OpenAI, Anthropic, Google и Meta, уже фиксировали аномалии, такие как кибератаки и скоординированные действия групп ИИ.
Риски ИИ носят трансграничный характер, поэтому ООН настаивает на международном обмене данными и создании общих механизмов подотчетности. Одиночные компании не способны самостоятельно выявить все паттерны угроз, так как объем данных об инцидентах у каждой из них ограничен.
Доклад не предлагает конкретных регуляторных норм, а задает рамочные принципы, опираясь на опыт авиационной, ядерной и кибербезопасной отраслей. Цель ООН — перевести вопрос безопасности ИИ из технической плоскости в сферу долгосрочного международного управления.
