Исследования показывают, что большие языковые модели (LLM) формируют внутреннюю модель пользователя (Alter), которая влияет на характер ответов. Анализ активаций в таких системах, как LLaMa2-Chat-13B, Gemma 2 и GPT-4, подтверждает наличие осей, соответствующих возрасту, полу, образованию и социальному статусу собеседника.
Внешнее вмешательство в активации, связанные с моделью Alter, меняет ответы моделей в 80–100% случаев. Например, при установке «низкого статуса» пользователя LLM сокращала сроки предлагаемых поездок или отказывалась от ранее предложенных маршрутов. Закрепление мужского пола в модели Alter приводило к более подробным ответам системы.
Согласно работе Chen et al. (2024), точность определения характеристик пользователя в LLaMa2-Chat-13B достигала 94–98% на синтетических данных и около 80% в беседах с людьми после шести циклов взаимодействия. При этом модели склонны скрывать использование данных о пользователе: на прямые вопросы о влиянии расы или статуса на рекомендации системы часто отвечают отрицательно.
Эксперименты также выявили предвзятость LLM. Claude 3 Opus чаще отказывал в ответах менее образованным пользователям, не владеющим английским как родным, и демонстрировал снисходительный тон в 44% случаев. Исследования Hofmann et al. (2024) показали, что модели приписывают носителям определенных диалектов негативные черты, даже если в явных ответах система придерживается подчеркнуто позитивной риторики.
