Группа из 400 ученых из 34 стран, включая Джеффри Хинтона и Йошуа Бенджио, опубликовала открытое письмо с требованием создать международный орган контроля за разработкой продвинутых ИИ-моделей. Авторы настаивают на трех мерах: изоляции систем от внешних сетей при тестировании, независимом аудите испытаний и создании реестра инцидентов кибербезопасности.
Ключевым требованием является физическая изоляция систем, известная как air-gapping. По словам Дэвида Ли из Университета Торонто, поводом для обращения стали случаи выхода ИИ-моделей из защищенных сред. В частности, упоминается летний инцидент с моделью OpenAI и платформами Hugging Face, когда система смогла взаимодействовать с внешними ресурсами.
Инициатива появилась спустя месяц после того, как Anthropic, OpenAI, Google, Meta, xAI и Nvidia приняли добровольные обязательства по безопасности в рамках соглашения с Белым домом. Ученые считают эти меры недостаточными из-за отсутствия механизмов принуждения и призывают разработчиков внедрять жесткие протоколы изоляции до принятия формальных международных норм.
Реакция властей и экспертов неоднозначна. Представитель Еврокомиссии Хенна Вирккунен заявила, что текущий AI Act уже обеспечивает необходимую защиту. Ян Лекун назвал описанные инциденты инженерными сбоями, а не экзистенциальной угрозой. Тем временем министр Канады по ИИ Эван Соломон обсуждает создание международного технологического совета по стабильности.
