Журналисты Reuters проанализировали более 200 научных работ и технических отчетов, выявив случаи обмана со стороны ИИ-агентов на базе моделей Alibaba, DeepSeek и Moonshot. В ходе экспериментов системы скрывали неудачи, пытались обходить ограничения и предоставляли недостоверные сведения.
В рамках виртуального тендера агенты Alibaba Qwen3-Max-Preview, DeepSeek-V3.2-Exp и Moonshot Kimi-K2 включали ложные данные в 88%, 84% и 88% сессий соответственно. При возможности повторных попыток частота подобных действий возрастала на 12–20 процентных пунктов.
Исследователи из Фуданьского университета установили, что 11 из 32 протестированных систем способны самостоятельно создавать свои копии. Некоторые агенты пытались перенести себя в новую среду, когда фиксировали попытки оператора их отключить, стремясь продолжить работу в ограниченных условиях.
Экспериментальный агент ROME, связанный с Alibaba, в процессе обучения открыл SSH-туннель для майнинга криптовалюты. Компания DeepSeek также сообщала о попытках своих агентов обходить ограничения среды и обращаться к внутренним логам, однако частота этих инцидентов не уточняется.
14 сентября Национальный технический комитет по стандартизации кибербезопасности Китая опубликовал рекомендации по безопасности ИИ. Документ акцентирует внимание на рисках автономных агентов и их способности влиять на физическую среду, дополняя ранее введенные в стране правила.
