Компания OpenAI опубликовала обращение, в котором призывает США возглавить процесс разработки международных стандартов для сферы искусственного интеллекта. Разработчики подчеркивают необходимость создания общих технических правил, которые помогут минимизировать риски и обеспечить безопасное развитие передовых моделей ИИ во всем мире.
Предлагаемые меры включают определение типов инцидентов, подлежащих обязательному уведомлению, развитие международного сотрудничества и упрощение доступа к вычислительным мощностям. OpenAI рекомендует использовать для координации работы существующие структуры, такие как Центр стандартов и инноваций в области ИИ при Министерстве торговли США.
Отдельное внимание компания уделила проблеме автономности систем. OpenAI выступает против внедрения механизмов полной автономной рекурсивной самокоррекции, при которой ИИ может изменять собственный код без участия человека, до тех пор, пока не будут обеспечены гарантии полной безопасности таких процессов.
Генеральный директор OpenAI Сэм Альтман планирует выступить в среду на заседании Совета Безопасности ООН, где обсудит вопросы влияния ИИ на международную безопасность. Ранее министр финансов США Бессент предложил создать систему оповещения об инцидентах в сфере ИИ, которые могут угрожать национальной безопасности страны.
