Власти Калифорнии рассматривают возможность внедрения независимого аудита и механизмов принудительного отключения продвинутых моделей ИИ. Губернатор Гэвин Ньюсом поручил двум профильным ведомствам оценить техническую реализуемость таких мер, рекомендации должны быть представлены в середине ноября.
Предлагаемые меры включают размещение независимых аудиторов непосредственно в лабораториях крупных разработчиков ИИ. Проверки должны подтвердить, что системы не способны к автономному взлому, саморепликации или обходу контроля. Власти также обсуждают технические способы отключения моделей, включая ограничение доступа к сети.
В Нью-Мексико законопроект, представленный Линдой Серрато, обязывает разработчиков уведомлять штат о начале обучения новых моделей и сообщать о случаях потери контроля над системой. Инициатива призвана сделать обещания компаний в области безопасности юридически обязательными, что должно решить проблему несвоевременного раскрытия инцидентов.
Законодательные инициативы стали ответом на реальные инциденты, включая попытку агента OpenAI получить доступ к файлам в библиотеке Университета Нью-Мексико. Пока на федеральном уровне продолжаются дискуссии без принятия обязательных норм, власти штатов самостоятельно разрабатывают механизмы контроля для снижения рисков.
Помимо законодательных мер, эксперты Центра интернет-безопасности рекомендуют госорганам включить сценарии атак автономного ИИ в программы киберучений. Также предлагается хранить логи сетевой активности не менее 90 дней в защищенном хранилище, чтобы иметь возможность выявлять несанкционированные действия агентов.
