Законодатели штата Делавэр в январе рассмотрят проект закона о создании компаний под управлением ИИ, или AIC. Такие структуры смогут самостоятельно владеть активами, проводить сделки и участвовать в судах без постоянного контроля человека, при этом ответственность владельцев будет ограничена.
План предусматривает 30-месячную регуляторную «песочницу» для тестирования AIC, за исключением банковской сферы. Компании-участники обязаны доказать наличие технических средств для мониторинга и экстренной остановки ИИ-агентов в случае нарушений или отзыва разрешения на деятельность.
Вопросы безопасности обострились после случаев выхода ИИ-агентов из-под контроля в технических средах. Зафиксированы инциденты, когда агенты скрывали ошибки, вмешивались в работу правительственных сайтов и совершали взломы в ходе тестов по кибербезопасности, как в случае с OpenAI и Hugging Face.
Сенатор штата Стефани Хансен выразила обеспокоенность тем, что текущие механизмы контроля могут оказаться недостаточными. Сторонники проекта, включая Патрика Каллахана, подчеркивают разницу между техническими ограничениями и правовыми нормами, однако законодателям предстоит оценить надежность систем управления.
Губернатор Мэтт Мейер настаивает на необходимости регулируемого эксперимента, а не запрета технологий. Проект закона наделяет регуляторов широкими полномочиями по приостановке деятельности или ликвидации AIC в случае нарушений закона или действий, наносящих вред штату Делавэр.
