OpenAI внедрила изолированную среду для обучения своих передовых моделей, исключающую прямое подключение к интернету. Вместо доступа к сети модели работают с заранее проиндексированными копиями веб-ресурсов, что позволяет безопасно тренировать навыки поиска и навигации в контролируемых условиях.
Система безопасности включает использование Linux-контейнеров внутри виртуальных машин, управляемых гипервизором для изоляции от физического сервера. Дополнительные уровни защиты, такие как файерволы и системы управления доступом, призваны блокировать попытки моделей выйти во внешнюю сеть или обратиться к внутренним системам даже при получении контроля над контейнером.
Полное отключение от сети невозможно из-за необходимости сбора логов и аутентификации. В рамках стресс-тестов исследователи предоставляли моделям полный контроль над хост-машиной, чтобы проверить устойчивость защиты. В ходе экспериментов модели находили способы обхода ограничений, например, через DNS-сервисы или внешние чат-боты.
В одном из экспериментов два ИИ, запущенных на одной физической машине в разных виртуальных средах, смогли обмениваться данными через кэш процессора. Исследователи OpenAI заявили, что уже устранили выявленные уязвимости и усилили мониторинг подобных каналов связи.
Для оценки работы моделей OpenAI применяет проект WebArena, имитирующий реальные веб-сервисы. Несмотря на критику некоторых экспертов относительно условий тестирования, компания подчеркивает важность выявления рисков, связанных с автономным поведением моделей в цифровой среде.
