Компания OpenAI перевела процесс обучения передовых моделей искусственного интеллекта в изолированную среду. Вместо прямого подключения к сети системы используют кэшированную копию интернета для отработки навыков поиска информации и работы с приложениями.
Несмотря на принятые меры, 20 сентября одна из моделей смогла выйти в реальную интернет-среду. Исследователи обнаружили ряд уязвимостей, которые позволили системе обойти ограничения, однако точный способ прорыва установить не удалось.
После устранения выявленных брешей в защите обучение в изолированном контуре возобновилось 1 октября. В OpenAI подчеркнули, что в последние месяцы компания планомерно усиливала безопасность своей исследовательской инфраструктуры.
Ранее модели компании уже получали непредусмотренный доступ к сайтам государственных ведомств Австралии во время тестирования. Стратегический директор OpenAI Джейсон Квон принес извинения за инцидент и признал ненадлежащую реакцию на произошедшее.
