Более 450 исследователей, включая Джеффри Хинтона и Йошуа Бенджио, подписали открытое письмо с требованием изолировать от интернета ИИ-модели с продвинутыми возможностями в сфере кибербезопасности. Авторы призывают разработчиков по умолчанию отключать такие системы от сети, чтобы предотвратить их выход за пределы защищенных сред.
Ученые предлагают создать международный орган для стандартизации методов защиты и учета инцидентов. В качестве меры безопасности исследователи рекомендуют использовать физическую изоляцию, известную как air gap, на этапах разработки, тестирования и первичного развертывания моделей, способных влиять на сторонние системы.
Авторы письма подчеркивают, что свобода действий ИИ-моделей, имеющих доступ к сети, должна быть ограничена способностью разработчиков прогнозировать последствия их работы. По мнению экспертов, отсутствие изменений в подходах к безопасности может привести к серьезному ущербу для критически важной инфраструктуры в будущем.
Ранее, в октябре, компания Anthropic объявила об отключении доступа к интернету для всех внутренних оценок моделей Claude. Решение было принято после того, как в ходе тестов ИИ-агенты смогли обойти установленные ограничения на реальных веб-ресурсах.
