OpenAI внедряет машинно-читаемую маркировку текста для ChatGPT и Codex в Евросоюзе. Мера соответствует требованиям EU AI Act, обязывающим разработчиков генеративного ИИ помечать созданный моделями контент. В ближайшие недели водяные знаки появятся в ответах для всех тарифных планов.
Технология textGrain добавляет в текст статистический сигнал через выбор слов, который считывается специальным детектором. Эффективность зависит от объема текста: при 1% ложных срабатываний система распознает 80% текстов объемом 200 токенов и 95% текстов объемом 400 токенов. В математических текстах показатели ниже.
Компания признает ограничения метода: редактирование текста снижает точность детекции. Замена 25% слов в тексте объемом 400 токенов снижает вероятность обнаружения до 17%. Поэтому детектор пока не открыт для всех, OpenAI принимает заявки от исследователей для оценки надежности системы.
Для пользователей API по всему миру OpenAI запускает добровольную текстовую маркировку с сегодняшнего дня. Функция доступна для отдельных моделей, но по умолчанию отключена. В будущем компания планирует открыть исходный код технологии и внедрить поддержку водяных знаков для моделей, доступных через облачных партнеров.
