Пользователи соцсетей начали публиковать результаты работы нейросети ChatGPT по запросу «заполни эту комнату тем, что ты обо мне знаешь». Чат-бот визуализирует данные, которые он сохранил в памяти: имена, предпочтения и цели пользователя. У подписчиков версий Plus и Pro модель также использует историю прошлых диалогов.
Эксперты предупреждают, что публикация таких изображений в открытом доступе раскрывает профиль пользователя посторонним. Для владельцев криптовалют это создает угрозу безопасности: информация об активах, используемых биржах или планах на поездки может быть использована злоумышленниками для создания убедительных фишинговых сообщений.
OpenAI позволяет просматривать, удалять или отключать функцию памяти в настройках персонализации, а также использовать временный чат, который не считывает данные. Сооснователь Ethereum Виталик Бутерин предложил использовать специальные режимы маскировки промптов, чтобы скрывать конфиденциальную информацию от моделей до их обработки.
Регуляторы ужесточают контроль за обращением с данными. Суд в Нью-Мексико обязал компанию Meta выплатить штраф в размере $25 миллиардов за нарушения в работе с пользовательской информацией. Подобные визуальные тесты становятся способом проверки того, какой объем данных накапливают ИИ-компании.
