OpenAI внедряет невидимую маркировку текста в ChatGPT и Codex для пользователей из Евросоюза. Мера призвана обеспечить соответствие требованиям EU AI Act. Развертывание начнется в ближайшие недели для всех планов подписки в ЕС. Клиенты API по всему миру могут активировать функцию для ряда моделей уже сейчас.
Технология под названием textGrain меняет статистические закономерности выбора слов при генерации, не добавляя метаданные или видимые метки. Специальный детектор анализирует фрагменты текста для поиска водяного знака. В будущем OpenAI планирует опубликовать технические подробности и сделать технологию открытой.
Эффективность метода зависит от объема текста и правок. Для фрагментов из 400 токенов точность детектора составила 92%. Замена 10% слов на синонимы снижает показатель до 66%, а замена 25% слов — до 17%. В математических текстах, где выбор слов ограничен, результаты работы детектора оказались слабее.
Доступ к инструменту обнаружения пока ограничен: его получат только одобренные исследователи и экспертные организации. OpenAI подчеркивает, что метка не раскрывает личность пользователя, содержание промпта или историю диалога. Она также не подтверждает авторские права и не гарантирует точность информации.
Внутренние тесты на модели Astra не выявили значительного снижения производительности при использовании textGrain. Компания отмечает, что отсутствие метки не доказывает человеческое авторство, так как редактирование, перевод или сокращение текста могут сделать водяной знак нечитаемым для детектора.
