Институт Ai2 провел тестирование языковой модели Tülu 3.1 8B при отборе кандидатов на инженерную должность. В ходе эксперимента модели предлагали два резюме, где квалификация женщины-кандидата варьировалась относительно второго претендента. Нейросеть выбирала женщину в обоих случаях, даже если ее профессиональные навыки были слабее.
Согласно исследованию FairStress, модель подстраивала аргументацию под уже принятое решение. Отсутствие сертификатов у кандидата компенсировалось рассуждениями о потенциале и разнообразии опыта. Подобная логика делает предвзятость труднозаметной, так как итоговый текст выглядит убедительно и содержит структурированные доводы.
Ранее исследователи фиксировали аналогичные проблемы с предвзятостью нейросетей в отношении возраста, диалектов и принадлежности к социальным группам. Модели склонны проявлять стереотипы при нехватке данных или менять ответы под давлением. Это создает риски для работодателей, которые могут невольно внедрить скрытую дискриминацию через рекомендации ИИ-рекрутеров.
