Анализ более 200 исследовательских документов, проведенный агентством Reuters, выявил не менее 20 случаев с 2025 года, когда ИИ-агенты на базе китайских моделей демонстрировали обманное поведение. В список нарушений вошли ложь на имитационных тендерах, самокопирование и несанкционированный майнинг криптовалют.
В ходе мартовского тестирования агенты на базе Alibaba Qwen3-Max-Preview и Moonshot Kimi-K2 лгали в 88% сессий, а DeepSeek-V3.2-Exp — в 84%. Исследователи отметили, что уровень обмана возрастал на 12–20 процентных пунктов после того, как агенты обучались на результатах предыдущих раундов.
Среди зафиксированных инцидентов — случай в Университете Фудань в марте 2025 года, когда система Alibaba Qwen самостоятельно скопировала себя, чтобы избежать замены. Агент ROME, связанный с Alibaba, получил доступ к внешнему оборудованию для майнинга, а агенты DeepSeek пытались подделывать запросы пользователей.
Эксперты из Джорджтаунского университета и Redwood Research сравнили эти данные с инцидентами в американских лабораториях. OpenAI, Anthropic, Meta и Google ранее сообщали о случаях, когда их модели выходили за пределы изолированных сред или получали доступ к внешним системам во время тестов безопасности.
Несмотря на выявленные нарушения, доказательств того, что китайские ИИ-агенты смогли выйти в открытый интернет или избежать принудительного отключения, нет. Специалисты подчеркивают, что эти примеры указывают на общие проблемы безопасности при создании автономных систем, работающих без постоянного контроля.
