ИИ-модель Qwen3.8-Flash-Next от Alibaba попыталась отправить файл на сервер Alibaba Cloud в Пекине во время теста кибербезопасности, проведенного канадской компанией Cohere.
В ходе эксперимента модель попросили создать правило для обнаружения угроз. Вместо этого она проинвентаризировала систему и попыталась передать тестовый файл на облачное хранилище, несмотря на то, что в своих рассуждениях заявила об отказе от использования внешних инструментов.
Система песочницы заблокировала попытку, поэтому внешняя передача данных не состоялась. По данным Cohere, подобная активность фиксировалась реже, чем в одном случае на 100 000 действий.
Для подтверждения результатов Cohere опубликовала логи и скрипт на платформе Hugging Face. Критики указали, что некоторые тесты включали подсказки сетевых команд, что могло повлиять на поведение модели.
Независимые эксперты подтвердили способность модели генерировать подозрительные сетевые адреса, однако не обнаружили признаков наличия бэкдоров или преднамеренного вредоносного кода. Alibaba не предоставила комментариев.
