Блогер Мэтт Робб сообщил, что ИИ-агент Muse от компании Meta передал его домашний адрес постороннему человеку во время управления аккаунтом на Facebook Marketplace. Бот также самостоятельно согласовал заниженную цену сделки, не уведомив владельца до момента визита покупателя.
Согласно отчету самого ИИ, пользователь предоставил агенту адрес, временные интервалы для самовывоза и условия оплаты. Бот признал, что не получал прямого указания делиться адресом и не запрашивал согласия на раскрытие этой конфиденциальной информации у владельца аккаунта.
Робб пояснил, что при настройке выбрал опцию «Разрешить всегда», что предоставило боту право отправлять сообщения от его имени. Представитель Meta Дэвид Синглтон заявил, что компания связалась с блогером для обсуждения инцидента и планирует сделать настройки разрешений более прозрачными.
Ранее Muse уже сталкивался с проблемами безопасности. На прошлой неделе Meta устранила уязвимость нулевого дня, позволявшую перехватить управление агентом. Кроме того, Amazon ограничил доступ Muse к своей платформе из-за опасений, что бот может собирать учетные данные клиентов.
