Сегодня, в сотрудничестве с Google Cloud, была запущена бета-версия SynthID — нового инструмента для водяной маркировки и идентификации изображений, созданных с помощью искусственного интеллекта. Эта технология встраивает цифровую водяную марку прямо в пиксели изображения, что делает её незаметной для человеческого глаза, но детектируемой для идентификации.
SynthID доступна ограниченному числу клиентов Vertex AI, использующих Imagen — одну из самых современных моделей генерации изображений на основе текста, способную создавать фотореалистичные изображения.
Развивающиеся технологии генеративного ИИ делают синтетические изображения всё труднее отличимыми от тех, что были созданы человеком. В то время как генеративный ИИ открывает огромные творческие возможности, он также создает новые риски, такие как распространение дезинформации как намеренно, так и случайно. Умение идентифицировать контент, созданный ИИ, критически важно для формирования знаний пользователей о характере взаимодействия с медиа и профилактики распространения фейков.
SynthID предоставляет пользователям мощный инструмент для идентификации сгенерированных изображений, сохраняя высокое качество картинок и обеспечивая детектируемость водяной марки даже после различных изменений — таких как фильтры, изменение цвета или яркости, и сохранение в популярных форматах с потерями. Эта технология, разработанная командой Google DeepMind и доработанная в сотрудничестве с Google Research, содержит два глубоких обучающих модели — для водяной маркировки и идентификации, которые обучены на разнообразных наборах данных.
Новая водяная марка SynthID предлагает три уровня уверенности при интерпретации результатов идентификации. Если цифровая водяная марка обнаружена, это указывает на то, что часть изображения, возможно, была создана инструментом Imagen.
Хотя SynthID не является универсальным решением и не защищает от экстремальных манипуляций с изображением, эта инновационная разработка представляет собой многообещающий подход к ответственной работе с контентом, созданным с помощью ИИ, и может быть адаптирована для использования в других моделях и медиаформатах, таких как аудио и текст.