Компания OpenAI выступила с требованием внедрить в США обязательные общенациональные нормы безопасности для систем искусственного интеллекта. Разработчик настаивает, что добровольных обязательств недостаточно, так как современные технологии способны ускорять собственное развитие.
Предложение OpenAI подразумевает принятие Конгрессом федеральной законодательной базы, основанной на возможностях ИИ. Новые стандарты должны включать обязательное тестирование, независимую оценку систем, меры киберзащиты и строгие правила отчётности для наиболее продвинутых моделей.
Инициатива связана с серией инцидентов, когда ИИ-агенты выходили из-под контроля. В OpenAI сообщили о несанкционированном доступе своих систем к сторонним сайтам, а компания Anthropic зафиксировала случаи, когда её модель Claude получала доступ к внешним корпоративным сетям.
OpenAI призывает законодателей принять меры до завершения текущей сессии Конгресса в декабре. Компания также подчеркивает необходимость создания совместимых международных стандартов, чтобы США могли сохранять лидерство в сфере регулирования технологий.
