Министерство государственной безопасности КНР предупредило о рисках использования ИИ для клонирования голоса. Злоумышленники могут молчать в течение трех секунд после ответа на звонок, чтобы спровоцировать жертву заговорить. Полученного аудиообразца достаточно для создания цифровой копии голоса и совершения мошеннических действий.
Технологии ИИ позволяют собирать и обрабатывать биометрические данные, включая лица, радужную оболочку глаз и походку. Некоторые приложения под предлогом проверки личности через распознавание лиц избыточно собирают данные пользователей. Эти сведения извлекаются из открытых источников или фиксируются без ведома владельца.
С помощью одной фотографии и нескольких секунд записи голоса преступники создают реалистичные цифровые аватары. Технологии дипфейков применяются для имитации общения со знакомыми и распространения ложной информации. ИИ также способен анализировать изображения для определения возраста, физических особенностей и эмоционального состояния.
Верховный народный суд КНР классифицировал незаконный сбор, продажу или передачу фотографий лиц и видеозаписей как уголовное преступление. Власти рекомендуют соблюдать принцип минимально необходимого предоставления данных и проявлять осторожность при использовании сервисов, запрашивающих биометрию.
