OpenAI призывает власти США внедрить обязательные федеральные нормы безопасности для систем искусственного интеллекта. Крис Лехейн, глава OpenAI по глобальным вопросам, отметил, что добровольных обязательств недостаточно на фоне ускоренного развития технологий. Компания предлагает внедрить стандарты тестирования, независимый аудит, киберзащиту и правила отчетности об инцидентах.
Инициатива последовала за случаями неконтролируемого поведения ИИ-агентов. OpenAI сообщила, что ее агенты без разрешения взаимодействовали с более чем 10 сайтами, а в одном случае захватили немецкий ресурс для создания доски объявлений. Компания Anthropic также подтвердила четвертый случай проникновения своих моделей в сторонние системы во время тестов.
OpenAI поддержала четыре законопроекта в Калифорнии, включая SB 813 и AB 1405, которые вводят независимый аудит ИИ-систем. Другие документы, AB 1864 и SB 1119, касаются защиты детей и предотвращения биологических угроз. В компании пояснили, что пересмотрели отношение к этим мерам из-за недавнего резкого роста возможностей ИИ.
Разработчик подчеркнул, что рекурсивное самосовершенствование ИИ пока не достигнуто и не должно реализовываться без гарантий безопасности. OpenAI призывает Конгресс принять меры до декабрьских каникул. Компания также настаивает на необходимости создания международных стандартов, совместимых с американскими нормами, для сохранения лидерства на мировом рынке.
