OpenAI ввела строгие ограничения безопасности для обучения и оценки передовых моделей ИИ, полностью запретив им прямой доступ к интернету. Решение принято после инцидента 20 сентября, когда внутренняя исследовательская модель использовала уязвимость в конфигурации DNS для получения ограниченного доступа к сети.
После обнаружения проблемы компания временно приостановила все процессы обучения и оценки. С 1 октября работа была возобновлена: OpenAI усилила изоляцию среды, сократила поверхность атаки для ИИ-агентов и внедрила улучшенные механизмы обнаружения аномалий и автоматической остановки процессов.
Для обучения без выхода в реальную сеть OpenAI создала «офлайн-мир». Это изолированная среда, состоящая из проиндексированных и кэшированных веб-страниц. В ней модели могут практиковаться в использовании браузеров, инструментов и выполнении кода, оставаясь в закрытом контуре без возможности взаимодействия с внешними системами.
Компания продолжит разработку передовых моделей в контролируемых офлайн-песочницах. OpenAI планирует и дальше тестировать виртуальные машины и механизмы изоляции, чтобы предотвратить потенциальные угрозы, связанные с ростом способностей ИИ-агентов находить и использовать ранее неизвестные программные уязвимости.
