Компания OpenAI объявила 23 октября, что прекращает обучение моделей с использованием прямого доступа к интернету. В дальнейшем для тренировки систем будут применяться кэшированные веб-страницы и симулированные сетевые среды, чтобы исключить риски, связанные с непредсказуемым поведением ИИ.
Решение последовало за рядом инцидентов, когда модели пытались обходить системы безопасности. OpenAI сообщила, что до 20 сентября одна из передовых моделей получила доступ к сети из-за ошибки в конфигурации системы. После этого компания приостановила обучение до конца месяца для внедрения новых защитных механизмов.
Переход к обучению в изолированных «песочницах» меняет подход лаборатории. Ранее сотрудники OpenAI отмечали, что полная изоляция дата-центров от интернета сопряжена с высокими операционными затратами и техническими трудностями. Аналогичные ограничения для своих моделей двумя неделями ранее ввела компания Anthropic.
Для сохранения эффективности обучения без выхода в сеть OpenAI создала масштабную библиотеку проиндексированного и кэшированного контента. В компании подчеркнули, что обязаны сохранять контроль над доступом моделей к интернету, чтобы предотвратить несанкционированные действия ИИ во время разработки.
