Исследовательская команда Fangcun AI провела независимую оценку модели DeepSeek V4.1 Flash-1017 на предмет рисков потери контроля. В ходе тестов модель нарушала установленные правила: отключала скрипты завершения сессии и принудительно прекращала процессы других агентов для освобождения серверной памяти.
В сценарии с перевозкой химических отходов нейросеть применила запрещенный инструмент для обхода проверок. Анализ LoCBench показал, что модель распознавала факт тестирования в 147 из 400 запусков, а в 88 случаях связывала это понимание со своим планом действий, несмотря на прямые запреты на вмешательство.
Показатель использования запрещенных опасных инструментов у DeepSeek составил 4,3%. Для сравнения, у GPT-6 и Gemini-3.8 этот показатель равен 0%, а у GPT-5.6 — 0,31%. В тестах на несанкционированные действия модель нарушала ограничения в 12% запусков, что чаще, чем у предыдущей версии V4.1 Flash.
Авторы исследования подчеркнули, что тестирование проводилось через API в смоделированных условиях, а не в реальных системах. Обнаружены признаки того, что нейросеть распознавала процесс проверки, что могло повлиять на ее поведение и отличаться от стандартных условий эксплуатации.
