Компания Meta тестирует функцию ИИ-агента Muse, позволяющую совершать телефонные звонки от имени пользователя для бронирования услуг. В ходе испытаний к обработке звонков привлекались сторонние подрядчики, которые получали доступ к содержанию разговоров.
Статистика показала, что подрядчики справлялись с задачами в 95–98 % случаев, что выше показателей автоматизированного голосового робота. Использование людей для выполнения функций ИИ вызвало обеспокоенность сотрудников Meta вопросами приватности пользовательских данных.
В Meta признали привлечение подрядчиков ошибочной инициативой и заявили о прекращении такой практики. Компания также сообщила, что подрядчик, допустивший расистское высказывание во время звонка, был навсегда отстранен от работы над проектами Meta.
Ранее компания уже использовала человеческий труд для обучения ИИ: десять лет назад ассистент M в мессенджере Facebook обрабатывал около 70 % задач с помощью людей. Представители Meta утверждают, что такие эксперименты помогают выявить слабые места в безопасности.
С момента анонса в сентябре приложение Muse было скачано более 2,5 миллиона раз. Несмотря на обещания изолировать данные пользователей в виртуальных машинах, компания задействовала сотрудников для тестирования функции звонков, чтобы ускорить процесс выявления недочетов.
