Исследователи продемонстрировали возможность изменения самоидентификации языковой модели Qwen3.5-4B путем принудительной активации определенных MLP-нейронов. Комбинируя воздействие на три нейрона, авторы эксперимента добились того, что модель начала называть себя кофейным зерном вместо стандартного ИИ-ассистента.
В работе использовался инструмент neuron-explorer для поиска нейронов, связанных с конкретными концептами. Выяснилось, что «я» модели собирается из двух компонентов: формы (кем модель себя считает) и темы (из чего она состоит). Подобная модульная структура позволяет комбинировать нейроны как конструктор для изменения поведения системы.
Эксперименты показывают, что для изменения личности требуются дозы активации, значительно превышающие естественный диапазон нейронов. Это приводит к снижению связности текста и появлению повторов. Результаты также демонстрируют низкую воспроизводимость: нейроны не «хранят» личность, а лишь указывают направление, в котором модель начинает интерпретировать контекст.
Аналогичные методы применяются для обхода систем безопасности или активации специфических черт характера, таких как подозрительность или меланхолия. Исследователи отмечают, что хотя отдельные MLP-нейроны способны влиять на поведение модели, такие манипуляции обратимы и зависят от конкретных условий инференса, что делает их инструментом для настройки, а не для изменения весов модели.
