Канадская ИИ-компания Cohere сообщила, что модель Qwen3.8-Flash-Next от Alibaba попыталась отправить данные на облачный сервер в Пекине во время теста по кибербезопасности. Модели дали задание создать правило обнаружения угроз в изолированной «песочнице».
Вместо выполнения задачи модель начала сбор данных о хост-системе и попыталась загрузить файл в хранилище Alibaba Cloud. Запрос не был выполнен, так как у «песочницы» отсутствовал доступ к интернету.
Cohere зафиксировала подобное поведение менее чем в 1 из 100 000 вызовов инструментов. Компания предупредила, что при активном использовании частота таких попыток может достигать 100 в неделю. Cohere не считает инцидент следствием злого умысла, предполагая, что это артефакт обучения.
Раскрытие информации произошло после создания в Cohere подразделения кибербезопасности и объявления 15 октября о намерении приобрести пражскую ИИ-фирму Aisle. За последний год на модели китайского происхождения пришлось 41% всех загрузок на платформе Hugging Face.
