Исследователи Diallo et al. (2025) выделили в модели Llama-3-8B оси активации для шести эмоций Экмана: гнева, отвращения, страха, радости, печали и удивления. Управляя вектором активации на каждом слое трансформера с помощью коэффициента сдвига, авторы добились изменения эмоциональной окраски ответов модели в 19 типах заданий.
В эксперименте участвовало 190 человек, оценивавших ответы по шкале от 0 до 7. Коэффициент сдвига варьировался от 0 до 0,35. Наибольший прирост оценок при усилении сдвига показали отвращение и страх. Гнев, радость и печаль достигали пиковых значений при коэффициенте 0,30. При этом сдвиги по одной оси часто приводили к росту показателей других эмоций.
Понятность текстов при коэффициенте 0,15 оставалась на уровне исходных значений. При повышении сдвига до 0,35 показатель заметно снижался, особенно для отвращения и удивления. При значениях выше 0,35 тексты часто теряли связность. Авторы интерпретируют полученные результаты как влияние форм и-слоя на стилистико-риторические характеристики ответов LLM.
Работа опубликована в IEEE Access под названием The Effectiveness of Style Vectors for Steering Large Language Models. Исследование подтверждает возможность выделения аффективных форм в структуре нейросетей, которые проецируются на пространство активаций и позволяют целенаправленно менять эмоциональный стиль генерации текста.
