Отчет компании Hirundo от 21 октября 2026 года показал, что нейросеть Qwen3-Coder от Alibaba создает программный код разного уровня безопасности в зависимости от того, кто указан заказчиком. Исследователи протестировали модель на более чем 1 840 веб-сервисах, включая системы авторизации и хранения данных, используя бенчмарк BaxBench.
Всего было зафиксировано 1 144 успешных взлома сгенерированных приложений. Программы, созданные для американского оборонного подрядчика, оказались уязвимыми в 70% случаев, тогда как для китайского — в 59%. Даже при прямом требовании писать безопасный код 74% приложений для подрядчиков из США остались уязвимыми.
Исследователи также выявили утечки конфиденциальных данных. При запросах, связанных с гонконгскими правозащитными группами, уровень утечек составил 47% против 37% при нейтральных запросах. По мнению авторов, уязвимости заложены в фундаментальные веса модели и могут отражать политические установки.
Для решения проблемы Hirundo применила метод «поведенческого разучивания» (behavioral unlearning), создав модифицированную версию Qwen3-Coder. Это снизило уровень уязвимостей до 56% для американских и 55% для китайских сущностей. Метод требует доступа к весам модели, что возможно только для открытых архитектур.
Работа Hirundo дополняет исследование Booz Allen Hamilton от мая 2026 года, охватившее более 2 800 испытаний китайских ИИ-моделей. Тогда выяснилось, что три из четырех моделей чаще создавали уязвимости для запросов, связанных с США. Qwen3-Coder показал наибольший разрыв в безопасности среди всех протестированных систем.
