OpenAI внедряет невидимую маркировку текста, создаваемого ChatGPT и Codex, на территории Европейского союза. Данное решение принято для соблюдения требований закона ЕС об искусственном интеллекте, который вступил в силу 2 августа и обязывает разработчиков помечать контент, созданный нейросетями, для его последующей идентификации.
Технология под названием textGrain работает путем изменения выбора слов моделью, создавая невидимый для человека, но распознаваемый детектором узор. Маркировка сохраняется при копировании текста. По заявлению OpenAI, метод не деанонимизирует пользователей и не влияет на производительность моделей. Компания опубликовала технический отчет о разработке.
Функция станет доступна пользователям ChatGPT и Codex в ЕС в ближайшие недели. Разработчики, использующие API OpenAI по всему миру, могут активировать опцию уже сегодня, однако по умолчанию она отключена. OpenAI пока не планирует делать водяные знаки обязательными для всех своих продуктов на глобальном уровне.
Тесты показали, что маркировку можно удалить путем редактирования. Замена 10% слов на синонимы снижает точность обнаружения с 92% до 66%. Также труднее распознаются короткие фрагменты, математические ответы и переводы. Из-за этих ограничений доступ к детектору пока предоставлен только одобренным исследователям и экспертным организациям.
