Компания OpenAI привлекла сотни подрядчиков для анализа реальных диалогов пользователей с ChatGPT в рамках инициативы под названием Project Lily. Цель проекта — улучшить ответы чат-бота, снизив склонность модели к излишней лести и имитации человеческого поведения. Специалисты оценивают ответы нейросети по семибалльной шкале.
Подрядчики нанимаются через платформы Crossing Hurdles и Mercor, а оплата их труда превышает $50 в час. Перед тем как диалоги попадают к людям, они проходят через фильтр конфиденциальности, который должен удалять личные данные. Согласно внутренним документам, фильтр не всегда справляется с задачей, и чувствительная информация может быть доступна проверяющим.
Аудитория ChatGPT превышает 900 миллионов пользователей. Хотя в настройках можно отключить использование диалогов для обучения модели, эти изменения не затрагивают историю прошлых переписок. По умолчанию данные всех пользователей, не изменивших настройки вручную, могут быть использованы для обучения.
Ранее аналогичные методы проверки данных вызывали претензии к Apple, Amazon и Google. В 2023 году регуляторы Италии временно блокировали доступ к ChatGPT из-за вопросов конфиденциальности, что потребовало от OpenAI внесения правок для соответствия требованиям GDPR. Масштабы использования данных в рамках Project Lily остаются предметом обсуждения.
