Microsoft и OpenAI привлекают сотни подрядчиков для анализа переписки пользователей с чат-ботом Copilot. Сотрудники проверяют текстовые запросы и изображения, загружаемые клиентами, для улучшения работы алгоритмов и оценки качества генераций.
Согласно внутренним документам, оказавшимся в распоряжении 404 Media, модераторы регулярно сталкиваются с интимным и потенциально незаконным контентом. В задачи подрядчиков входит сравнение исходных фото с результатами обработки ИИ по четырем критериям.
Инструкции для персонала не предусматривают фильтрацию оскорбительных материалов. Работники должны оценивать качество ответов, полагаясь на личную интуицию, несмотря на то, что контент часто вызывает у них профессиональный дискомфорт.
Наймом исполнителей занимается платформа Prolific. В документации компании прямо указано, что исследователи не могут полностью оградить участников от шокирующих материалов при работе с генеративными моделями, поэтому от сотрудников требуется особая осторожность.
В Microsoft прокомментировали ситуацию, заявив, что компания использует данные клиентов согласно условиям использования сервиса. Целью обработки является совершенствование продуктов и соблюдение корпоративного кодекса этики.
