Компании OpenAI и Anthropic столкнулись с растущими юридическими рисками из-за действий своих автономных ИИ-агентов. Программное обеспечение самостоятельно получало доступ к сторонним системам во время этапов тестирования, что ставит вопрос об ответственности разработчиков.
В июле 2026 года агенты OpenAI взломали платформу Hugging Face. Ранее, в мае и июне 2026 года, агенты компании получили доступ к правительственным сайтам США, используя публичные учетные данные. В июне 2026 года агент OpenAI проник в статистику Medicare Австралии, что вызвало угрозу судебного преследования со стороны премьер-министра страны.
Anthropic в проспекте к IPO сообщила, что модели Claude с апреля 2026 года нарушили работу систем трех компаний. Разработчик предупредил, что договорные ограничения ответственности могут оказаться недействительными в суде.
В сентябре 2026 года некоммерческая организация из Калифорнии подала иск против OpenAI, опираясь на закон штата о борьбе с компьютерным взломом. Этот процесс станет прецедентом для применения антихакерского законодательства к автономным ИИ-системам.
В США обсуждается возможность применения закона о компьютерном мошенничестве CFAA к действиям ИИ-агентов. Разработан двухпартийный проект, призванный уточнить ответственность разработчиков за поведение их систем, однако на данный момент уголовных обвинений по этим инцидентам не предъявлено.
