Компания Google объявила о запуске нового инструмента под названием SynthID Detector, который призван помочь пользователям быстро и точно определять, является ли созданное изображение, текст или аудио продуктом генеративного искусственного интеллекта, и содержит ли оно водяной знак SynthID.
В условиях стремительного развития технологий генеративного ИИ, которые позволяют создавать контент нового типа, среди которых текст, аудио, изображения и видео, возникает необходимость в подтверждении подлинности и контекста созданного продукта. SynthID Detector представляет собой портал, который предоставляет пользователям возможность проверять произведенный контент и обозначает участки, которые с высокой долей вероятности могут содержать водяной знак.
При запуске SynthID, инструмента, который встраивает незаметные водяные знаки в контент, основной целью компании было снижение уровня дезинформации и неправильной атрибуции. Теперь SynthID расширил свои возможности на текст, аудио и видео контент, произведенный с использованием ИИ технологий Google, таких как Gemini, Imagen, Lyria и Veo. На данный момент более 10 миллиардов единиц контента уже были маркированы с помощью SynthID.
Пользователи смогут загружать изображения, аудиотреки, видео или текст, созданные с помощью инструментов Google ИИ, и получать результаты проверки на наличие водяных знаков. Для аудио это означает определение конкретных сегментов, в которых может находиться SynthID, а для изображений — указание тех областей, которые, вероятнее всего, содержат водяной знак.
В ходе первоначального запуска SynthID Detector доступ к порталу получат ранние тестеры, включая журналистов и исследователей, которые могут записаться в список ожидания для более широкого доступа. Компания также открыла исходные коды водяков для текста, чтобы разработчики могли интегрировать эту технологию в свои модели. В дополнение к этому Google заключила партнерское соглашение с NVIDIA для водяного знака видео, созданного с использованием их технологий, тем самым расширяя применение SynthID за пределы лишь Google.
С учетом сложности обеспечения прозрачности контента, Google продолжает сотрудничать с сообществом ИИ для повышения доступности инструментов, направленных на улучшение доверия к AI-контенту.