Компания OpenAI внедряет технологию textGrain для добавления невидимых статистических меток в текст, создаваемый моделями. Решение принято для соответствия требованиям закона ЕС об искусственном интеллекте, который обязывает маркировать сгенерированный контент. Функция станет доступна пользователям ChatGPT и Codex в Евросоюзе в ближайшие недели.
В отличие от Anthropic, сделавшей маркировку обязательной для всех пользователей Claude, OpenAI позволит клиентам API по всему миру самостоятельно решать, использовать ли водяные знаки. Инструмент также будет доступен через облачных партнеров, включая Microsoft Azure. В будущем компания планирует открыть исходный код технологии textGrain.
Эффективность детекции зависит от объема текста и его тематики. При проверке 400-токеновых фрагментов по психологии система распознавала метки в 95 процентах случаев при уровне ложноположительных срабатываний в 1 процент. При редактировании текста или использовании математических формул вероятность обнаружения маркировки существенно снижается.
По данным OpenAI, использование водяных знаков не влияет на качество работы моделей, что подтверждено тестами по восьми бенчмаркам, включая GPQA Diamond. Метка не подтверждает авторство или достоверность текста. Сейчас доступ к инструменту детекции ограничен и предоставляется только профильным организациям и исследователям по индивидуальным заявкам.
