Исследователи из Нью-Йоркского университета проанализировали ответы четырех ИИ-чат-ботов на вопросы о цифровом насилии и слежке. В ходе работы, представленной на конференции USENIX Security, выяснилось, что 86% ответов являются неточными, неполными или небезопасными. Эксперты изучили 193 запроса, основанных на реальных ситуациях.
В тестировании участвовали GPT-4o, Claude 3.7 Sonnet, а также специализированные боты Aimee и Ruth. Доля небезопасных ответов составила 55% для GPT-4o, 65% для Claude 3.7 Sonnet и 74% для Aimee. Почти в 60% случаев системы не предупреждали пользователей о возможных рисках при выполнении предложенных ими действий.
Модели давали неэффективные советы, например, предлагали использовать VPN или радиочастотные детекторы для поиска шпионского ПО. Также боты не сообщали, что на устройствах с root-доступом или джейлбрейком вредоносные программы могут сохраняться после сброса настроек. Aimee и Ruth соглашались примерно с двумя третями запросов от лица злоумышленников.
Авторы исследования отмечают, что универсальные инструкции ИИ могут быть опасны для жертв домашнего насилия. Изменение паролей или настроек может выдать пострадавшего преследователю или уничтожить улики. Специалисты подчеркивают, что ИИ не заменяет профессиональную помощь, а обращаться за ней следует с устройства, к которому у преследователя нет доступа.
