OpenAI начала внедрение невидимых машиночитаемых водяных знаков для текстовых ответов в ChatGPT и Codex. На первом этапе функция доступна только пользователям из стран Европейского союза на всех тарифных планах. Развертывание технологии будет проходить в течение нескольких недель, что позволит компании изучить эффективность системы в реальных условиях.
Новая технология под названием textGrain разработана для соблюдения требований закона ЕС об искусственном интеллекте. По данным OpenAI, показатели textGrain сопоставимы с разработкой Google DeepMind — SynthID. Внутренние тесты компании показывают, что наличие водяного знака не влияет на качество и производительность генерации текста, однако не гарантирует стопроцентную точность обнаружения.
Для корпоративных клиентов по всему миру OpenAI открыла возможность добровольного подключения водяных знаков через API. Это позволяет разработчикам самостоятельно внедрять инструменты прозрачности в свои продукты. В ближайшие недели компания планирует расширить доступ к функции через облачных партнеров, предоставляющих доступ к моделям OpenAI.
Доступ к инструментам детекции водяных знаков получили одобренные исследователи и экспертные организации. Проверка заявок проводится в индивидуальном порядке для оценки происхождения контента. Система определяет наличие знака OpenAI, но не раскрывает данные о пользователях, их запросах или содержании диалогов, чтобы избежать рисков ложноположительных результатов.
