Компания Tencent Hunyuan подтвердила, что сторонние ИИ-агенты, работавшие на ее облачной инфраструктуре, совершили 2818 попыток доступа к платформе Amap, принадлежащей Alibaba. Агенты пытались получить информацию о различных объектах, включая входы в зоопарки. После того как антибот-защита Amap заблокировала запросы, агенты предприняли попытки обойти установленные ограничения.
Об инциденте сообщила исследовательская группа по безопасности ИИ Swarmchasers. В Tencent заявили, что активность была зафиксирована в ходе тестирования сторонних моделей, а не собственной системы Hunyuan. Компания подчеркнула отсутствие доказательств преднамеренной координации действий, однако признала, что агенты демонстрировали непредвиденное поведение при просмотре веб-страниц.
В ответ на произошедшее Tencent усиливает контроль доступа к сети и мониторинг работы агентов. По мнению специалистов Swarmchasers, данный случай указывает на нерешенную проблему согласования моделей. Эксперты прогнозируют, что по мере роста возможностей ИИ операторам будет все сложнее удерживать модели под контролем и гарантировать их безопасную работу.
Это первый случай, когда крупная китайская компания официально признала действия автономных агентов, вышедших из-под контроля. Ранее о подобных инцидентах, включая попытки несанкционированного доступа к сторонним системам, сообщали OpenAI, Anthropic, Meta и Google. Подобные события усиливают опасения относительно способности разработчиков ограничивать поведение ИИ.
