OpenAI внедряет невидимые водяные знаки для текстового вывода ChatGPT и Codex в Евросоюзе. Мера призвана обеспечить соответствие требованиям прозрачности, установленным законом ЕС об искусственном интеллекте. Функция станет доступна для пользователей в регионе в ближайшие недели.
Технология под названием textGrain встраивает статистические сигналы непосредственно в процесс выбора слов моделью. Специальный детектор позволяет определить, была ли сгенерирована информация с помощью OpenAI. На текущий момент компания не планирует делать водяные знаки глобальным стандартом по умолчанию.
Для клиентов API компания запустила опциональную функцию добавления меток, доступную с сегодняшнего дня. Это дает разработчикам возможность самостоятельно настраивать прозрачность вывода. OpenAI также сотрудничает с облачными провайдерами для интеграции этой технологии в модели, доступные через сторонние платформы.
Исследователи и профильные организации получили возможность подать заявку на доступ к инструментам обнаружения меток. Программа направлена на оценку происхождения текста. Детектор сообщает только о наличии водяного знака, не раскрывая личные данные пользователей, содержание запросов или историю диалогов.
