OpenAI внедряет систему маркировки контента, созданного ChatGPT, для пользователей из Европейского союза. Это решение продиктовано требованиями закона EU AI Act, вступившего в силу в августе, который обязывает разработчиков помечать материалы ИИ-моделей для их последующего обнаружения специальными инструментами.
Технология под названием textGrain встраивает в текст скрытые закономерности выбора слов, незаметные для человека. OpenAI предоставит доступ к детектору ограниченному числу исследователей и организаций, а остальные смогут подать запрос на одобрение. Метод работает аналогично другим существующим стандартам, таким как SynthID.
Тесты показывают, что эффективность обнаружения достигает 92 процентов. Однако показатель резко падает при редактировании контента: изменение 10 процентов текста снижает точность почти на 30 процентов, а изменение 20 процентов — почти на 75 процентов. Эффективность также ниже для коротких или переведенных текстов.
В отличие от компании Anthropic, которая внедрила маркировку глобально, OpenAI ограничивает использование textGrain по умолчанию только территорией ЕС в приложениях ChatGPT и Codex. Для пользователей API функция останется опциональной. Развертывание системы в Европе ожидается в ближайшие недели.
