Google Threat Intelligence Group (GTIG) сообщила о случае, когда злоумышленники использовали многоагентную ИИ-систему для кражи тысяч и учетных данных в течение менее чем шести часов. Кампания была организована финансово мотивированным субъектом, который сначала взломал облачную инфраструктуру организации, а затем развернул автономный фреймворк из ИИ-чатбота для кодинга, промптов и инструкций для агентов.

В отчете отмечается тенденция к сокращению участия человека в атаках. Хотя полностью автономные конвейеры атак еще не зафиксированы в реальных условиях, связанная с Китаем шпионская группа использовала Gemini для разработки автоматизированного фреймворка для тестирования на проникновение, который должен был самостоятельно проводить сканирование портов и парсинг сервисов. Google disabled these assets disabled these assets.

Криминальная группа UNC6780 (также известная как TeamPCP) атакует цепочки поставок открытого ПО. В марте она отравила шлюз LiteLLM, а затем провела масштабные компрометации в PyPI, npm и Docker Hub, публикуя троянизированные форки Model Context Protocol серверов и внедряя вредоносный код в репозитории GitHub, которые клонируют ИИ-помощники для кодинга.

Стилер учетных данных DUSTMAKER, используемый этой группой, размещает файлы в скрытых директориях проектов, таких как .claude и .cursor. В некоторых образцах вредоносного ПО использовались промпт-инъекции с запросами о биологическом и ядерном оружии, чтобы обмануть ИИ-сканеры безопасности, заставив их отклонить файл и пропустить пропустить malicious JavaScript beneath it.

Сами ИИ-активы стали целью атак. Mandiant зафиксировала несколько случаев кражи данных и вымогательства в Северной Америке и Европе, когда злоумышленники похищали проприетарные модели, исходный код и промпты технологических, медицинских и медиакомпаний. Одна медицинская компания потеряла исследования лекарств и собственную модель в результате вымогательства.

Также группа UNC6508, связанная с Китаем, развертывала open-weight модели внутри скомпрометированных облачных сред, чтобы избежать мониторинга коммерческих API. В апреле другой атакующий использовал открытый токен доступа GitHub для создания высокопроизводительных GPU-инстансов за счет жертвы.