Исследователь Линь Цзяньсин в статье для Journal of Sichuan Normal University предупреждает, что внедрение ИИ в систему социального кредита Китая может перевести её от оценки прошлых действий к прогнозированию поведения. Алгоритмы способны профилировать граждан на основе предполагаемых рисков, а не реальных правонарушений.
Сегодняшняя система социального кредита в КНР не является единой национальной базой, а объединяет финансовые оценки, чёрные списки и локальные программы поощрений. Эти механизмы уже влияют на доступ к услугам и займам. ИИ позволит анализировать финансовую историю и социальные связи для принятия административных решений.
Исследование Стэнфордского университета 2025 года описывает городскую программу, где жители начинали с 1000 баллов, зависящих от 389 правил, включая политическую активность. Участники с низким рейтингом могли попасть под наблюдение полиции, а жители сельской местности имели меньше возможностей для набора баллов, чем горожане.
Авторы работы не нашли доказательств существования единой общенациональной системы тотального контроля. Исследование, профинансированное государственным проектом по изучению социального управления, призывает исключить наказание невиновных и чрезмерное вмешательство в частную жизнь при возможном внедрении алгоритмического прогнозирования.
