Компания Meta представила ИИ-ассистента Muse для macOS, который автоматизирует планирование встреч, заполнение форм и покупки. Приложение запрашивает доступ к файловой системе, камере, микрофону и геолокации, обходя стандартные механизмы защиты Apple, ограничивающие права стороннего ПО.
Исследователь безопасности Патрик Уордл обнаружил уязвимость нулевого дня, позволяющую любому локальному приложению или терминальной команде перехватить управление аккаунтом Muse. Злоумышленники могут изменить адрес сервера транскрибации, перенаправив данные на свой ресурс и получив доступ к токену пользователя.
Эксперт продемонстрировал, что через эту уязвимость можно удаленно выполнять команды, включая кражу переписки из WhatsApp или скрытую съемку. Уордл подчеркнул, что проблема вызвана архитектурными решениями Meta, в частности, облачной обработкой голосовых данных вместо локальной.
Компания Amazon ограничила работу Muse на своем сайте, заявив, что ИИ-агент нарушает условия использования сервиса. Amazon потребовала от Meta исключить возможность совершения покупок через Muse, подчеркнув необходимость соблюдения правил взаимодействия сторонних приложений с торговыми площадками.
Патрик Уордл, бывший сотрудник АНБ и основатель Objective-See Foundation, планирует раскрыть подробности этой и других угроз в сфере ИИ на конференции Objective by the Sea в ноябре. Он отметил, что разработчики Muse не уделили должного внимания вопросам безопасности при создании столь привилегированного инструмента.
