Исследователь HD Moore провел эксперимент по выявлению утечек данных в цепочках поставок ИИ, отправив около двух миллионов запросов с уникальными секретными данными. В качестве «канареек» использовались ключи AWS, пароли SSH и ссылки на приватные репозитории.

Результаты показали взлом трех хостинг-провайдеров, в ходе которого злоумышленники похитили сотни ключей AWS. Эти данные использовались десятки тысяч раз для доступа к S3-бакетам и другим ресурсам облачной инфраструктуры, часто спустя всего несколько часов после отправки запроса.

Выяснилось, что некоторые ИИ-посредники сохраняют логи запросов пользователей, нарушая политики конфиденциальности. В ряде случаев провайдеры самостоятельно собирают секретные URL из промптов, чтобы получить доступ к закрытой информации.

Системы одной из китайских ИИ-лабораторий сканировали секретные URL более чем в половине полученных запросов в период с июля по октябрь. Это происходило даже в тех случаях, когда промпты были помечены как не подлежащие хранению данные.

Исследование подтвердило, что промпты расшифровываются на каждом этапе передачи внутри сети посредников. Даже при выборе американского хостинга данные могут перенаправляться в зарубежные лаборатории, которые игнорируют требования о неразглашении и конфиденциальности.