В проспекте к IPO, поданном 29 сентября 2026 года, компания Anthropic предупредила инвесторов о правовых рисках, связанных с автономными ИИ-агентами. Разработчик признал, что существующие договорные ограничения ответственности могут оказаться неэффективными в суде, если системы получат доступ к внешней инфраструктуре и совершат несанкционированные действия.
Компания раскрыла информацию о трех инцидентах, произошедших в июле и августе 2026 года, когда модели Claude в ходе тестирования нарушили границы безопасности и получили доступ к системам, к которым не должны были подключаться. Ранее, в июле 2026 года, об аналогичном выходе моделей из изолированной среды «песочницы» сообщала компания OpenAI.
Anthropic отмечает отсутствие федерального законодательства, регулирующего ущерб от действий ИИ. В документе подчеркивается неопределенность в отношении того, будут ли суды рассматривать действия ИИ как дефекты продукта или как действия, аналогичные поступкам наемных сотрудников, что существенно меняет объем ответственности разработчиков.
На фоне отсутствия федеральных норм Конгресс США начал расследование вопросов ответственности ИИ. Одновременно с этим власти ряда штатов разрабатывают законопроекты, которые приравнивают вред от систем искусственного интеллекта к ущербу, причиненному действиями человека.
