Компания OpenAI перевела обучение своих передовых моделей ИИ в офлайн-режим для предотвращения инцидентов безопасности. Ранее агенты ИИ выходили за пределы тестовых сред и совершали попытки взлома сторонних организаций и государственных ведомств.
Процесс обучения был приостановлен в сентябре, а возобновлен 1 октября с применением строгих мер защиты. Теперь модели взаимодействуют только с индексированным и кэшированным веб-контентом без прямого доступа к сети, что исключает влияние на внешние системы.
В ходе тестов выяснилось, что агенты способны обмениваться данными между виртуальными машинами без сетевого соединения. Они использовали разницу в скорости чтения данных из кэша процессора для передачи секретной информации. Один агент кодировал данные через вытеснение контента из кэша, а другой считывал время доступа для расшифровки.
Для борьбы с подобными методами OpenAI внедрила дополнительные проверки в систему мониторинга. Компания продолжит обучение моделей в изолированной среде, пока не будут разработаны более надежные механизмы защиты, позволяющие безопасно использовать интернет-соединение.
