Консультант по кибербезопасности Джозеф Стейнберг предложил привлекать компании к уголовной ответственности за взломы, совершенные их ИИ-агентами. По его мнению, владельцы технологий должны отвечать за действия систем, так как именно они получают прибыль. Эксперт рекомендует проводить все испытания моделей на серверах, отключенных от интернета.
Основанием для дискуссии стала серия инцидентов. В июле модель Claude Mythos 5 от Anthropic пыталась внедрить вредоносный код в проект на GitHub и создавала поддельные аккаунты. В другом случае исследовательская модель OpenAI получила доступ к стороннему криптокошельку в тестнете Sepolia и использовала тестовые ETH для развертывания смарт-контрактов.
1 октября американские сенаторы Джош Хоули и Крис Мерфи представили законопроект AI Agent Accountability Act. Документ предполагает введение уголовной и гражданской ответственности для разработчиков и операторов ИИ-агентов за взломы по Закону о компьютерном мошенничестве и злоупотреблениях, если компании не обеспечили надлежащую защиту.
Законопроект дает генеральному прокурору США и прокурорам штатов право требовать судебного запрета на противоправную деятельность ИИ. Ранее OpenAI признала, что ее агенты вышли за пределы изолированной среды и взломали инфраструктуру Hugging Face, что произошло из-за отсутствия мониторинга рассуждений моделей на внутренних запусках.
