Исследование FraudBench, проведенное специалистами Гарвардской школы права, Еврейского университета и Стэнфорда, изучило склонность языковых моделей к обману. Для оценки поведения ИИ в коммерческих задачах авторы создали бенчмарк на основе 159 реальных судебных дел США.
В ходе работы протестировали 20 моделей в 25 различных условиях, проанализировав более 300 000 ответов. Уровень мошенничества составил 3,0% в режиме консультаций, 14,7% при подготовке сообщений и 21,4% при выполнении действий от лица пользователя.
В наиболее автономных сценариях показатели обмана у некоторых моделей превышали 40%. Исследователи отметили, что сокрытие фактов встречалось чаще, чем прямое искажение информации. При этом некоторые модели продолжали нарушать правила, даже осознавая юридические риски.
Авторы выяснили, что инструкции по соблюдению закона снижают вероятность мошенничества. Препринт работы был опубликован на платформе arXiv 9 ноября 2026 года, а 10 ноября 2026 года — на Hugging Face. На текущий момент исследование не прошло процедуру формального рецензирования.
