Компания OpenAI реализует внутреннюю инициативу под названием Project Lily, в рамках которой сотни наемных сотрудников вручную анализируют диалоги пользователей с ChatGPT. Цель проекта — повышение качества ответов нейросети через оценку взаимодействия.
Перед передачей данных модераторам система применяет фильтры конфиденциальности для удаления личной информации. Однако OpenAI признает, что механизм не всегда срабатывает эффективно, особенно в коротких диалогах, где могут сохраняться данные о местоположении и интересах.
В обязанности сотрудников входит оценка ответов модели по таким критериям, как релевантность, стиль общения и отсутствие излишней назидательности. Проверка фактов в задачи модераторов не входит. Оплата труда за эту монотонную работу превышает $50 в час.
Данные для анализа поступают от пользователей бесплатных, Plus и Pro версий ChatGPT, у которых активирована функция улучшения продукта. Это дает OpenAI право использовать переписку для обучения моделей и других внутренних целей, включая проверку внешними специалистами.
