Компания OpenAI привлекла сотни внешних подрядчиков для анализа реальных переписок пользователей ChatGPT в рамках проекта под кодовым названием Project Lily. Цель инициативы — повышение качества ответов нейросети через оценку намерений пользователей и проверку сгенерированных моделью реплик.
В процессе работы подрядчики выбирают задачи в специальной панели, где оценивают четыре варианта ответа чат-бота по шкале от 1 до 7. Инструкции требуют от ИИ естественности, полезности и отсутствия «ИИ-речи», включая неуместные эмодзи или имитацию эмоций. Проверка фактов в задачи рецензентов не входит.
Несмотря на использование инструмента Privacy Filter, фильтрация данных не всегда эффективна. Подрядчики могут видеть персональную информацию и сводки памяти о пользователе. При обнаружении чувствительных данных или рисков безопасности рецензенты обязаны эскалировать задачу.
Процесс обучения моделей через человеческий труд связан с настройкой «improve the model for everyone». Она включена по умолчанию для тарифов Free, Plus и Pro. Пользователи могут отключить её вручную, однако это не влияет на уже состоявшиеся диалоги. В тарифах Enterprise, Business и Edu настройка выключена изначально.
Один из подрядчиков, нанятый через фирму Crossing Hurdles, получал за работу более $50 в час. Практику привлечения людей для улучшения моделей также подтвердили в Anthropic и Google. Эксперты отмечают, что подобные процессы создают у пользователей ложное ощущение приватности при общении с ИИ.
