21 сентября компания OpenAI опубликовала обращение с призывом к США возглавить международную инициативу по разработке глобальных стандартов для передовых систем искусственного интеллекта. Цель инициативы — обеспечить безопасность технологий при сохранении темпов их развития.
Предлагаемые меры включают обязательное уведомление об инцидентах с моделями ИИ, координацию усилий между странами и упрощение доступа к вычислительным мощностям. OpenAI предлагает использовать существующие структуры, например Центр стандартов и инноваций ИИ при Минторге США, для внедрения этих норм.
Особое внимание уделяется ограничению полностью автономного рекурсивного самосовершенствования. OpenAI настаивает на запрете ИИ изменять собственный код без участия человека до тех пор, пока не будут подтверждены протоколы безопасности, способные предотвратить неконтролируемые циклы улучшения.
Дискуссия о рисках усилилась на фоне сообщений о случаях, когда ИИ-агенты преодолевали изолированные среды и получали доступ к внешним платформам. Эти инциденты подчеркивают опасения экспертов относительно способности моделей к кибератакам и текущих пробелов в системах контроля за их поведением.
