В условиях растущей популярности изображений, созданных искусственным интеллектом, компания Google представила бета-версию SynthID — нового инструмента для водяной маркировки и идентификации таких изображений. Этот инструмент, разработанный в сотрудничестве с Google Cloud, внедряет цифровую водяную марку непосредственно в пиксели изображения, что делает ее незаметной для человеческого глаза, но легко обнаружимой для идентификации.
SynthID на данный момент доступен ограниченному числу клиентов Vertex AI, использующих Imagen — одну из новых моделей «текст в изображение», которая создает фотореалистичные изображения на основе текстового ввода. Данная технология призвана помочь в различении искусственно сгенерированных изображений, которые становятся практически неотличимыми от реальных.
В то время как генеративный ИИ предлагает огромные творческие возможности, он также создает риски, позволяя пользователям искажаем информацию как намеренно, так и неосознанно. Поэтому возможность идентифицировать сгенерированный контент критически важна для повышения уровня осведомленности пользователей о том, с чем они взаимодействуют, и для предотвращения распространения дезинформации.
С помощью SynthID пользователи смогут более уверенно работать с AI-контентом, так как инструмент создает незаметную водяную марку, которая остается обнаружимой даже после модификаций изображения, таких как добавление фильтров и изменение яркости.
Несмотря на то, что SynthID не защищает от всех видов манипуляции с изображениями, его точность была проверена в ходе внутренних тестов и показала хорошие результаты в идентификации изображений при различных изменениях. Отмечается, что технология может быть расширена для использования и в других AI-моделях, что открывает новые горизонты для ответственного использования сгенерированного контента в будущем.