Компания Google представила веб-сервис SynthID Detector для распознавания видео, аудио и изображений, созданных или отредактированных с помощью нейросетей. Инструмент стал общедоступным, однако для его использования требуется авторизация через учетные записи Google, OpenAI или Apple.
На текущий момент сервис поддерживает контент, созданный моделями Google, OpenAI, Nvidia и Kakao. В ближайшие недели Google планирует расширить функциональность, добавив поддержку изображений, созданных с помощью инструментов Apple, включая Image Playground.
Технология SynthID была разработана Google в 2023 году. Она добавляет в контент незаметный водяной знак. Ранее доступ к инструментам для проверки таких меток был ограничен и предоставлялся преимущественно журналистам и профессионалам медиаиндустрии.
Эффективность детектора ограничена, так как он распознает только контент с водяными знаками SynthID. Инструмент не определяет материалы, созданные моделями Anthropic, xAI или тысячами открытых китайских нейросетей, которые не используют данную систему маркировки.
Детектор также не способен отличить полностью сгенерированный контент от частично отредактированного. Он не может выделить конкретные измененные фрагменты, что подчеркивает отсутствие единого отраслевого стандарта для верификации контента, созданного искусственным интеллектом.
