В OpenAI действует внутренний проект под кодовым названием Project Lily, в рамках которого сотрудники вручную проверяют логи диалогов пользователей ChatGPT. Задача аудиторов — оценивать качество ответов нейросети, проверять их на соответствие стилистическим нормам и отсутствие надуманных личных историй или излишней антропоморфности.
Оплата труда аудиторов превышает $50 в час. Хотя OpenAI проводит анонимизацию данных перед передачей на проверку, компания признает, что личная информация может попадать к сотрудникам, особенно в коротких сессиях. В распоряжение проверяющих также попадают сводки пользовательских предпочтений, интересов и данные о местоположении.
Проект Lily не занимается проверкой фактической точности ответов или вопросами безопасности — эти задачи выполняют другие подразделения. Несмотря на то что OpenAI упоминает возможность ручной проверки в разделе FAQ, компания не раскрывает детали процесса чтения переписок в своих справочных материалах даже после недавних правок.
Настройки сбора данных для обучения моделей включены по умолчанию для большинства пользователей, за исключением корпоративных, бизнес- и образовательных тарифов. Удаление истории чатов не имеет обратной силы: данные, которые уже были обработаны и включены в наборы для обучения, остаются в системе и не подлежат автоматическому удалению.
