Компания Google объявила о расширении функциональности своего инструмента SynthID, который предназначен для водяного знака текстов и видео, созданных с помощью искусственного интеллекта. В условиях растущей популярности генеративных ИИ-технологий, предоставляемых миллионам пользователей, важно эффективно идентифицировать контент, созданный ИИ, чтобы предотвратить распространение дезинформации и мошенничества.
С помощью нового метода, SynthID теперь может добавлять водяные знаки в текст, созданный в приложении Gemini, а также в видео, используя модель Veo. Новый функционал SynthID для текста совместим с существующими моделями генерации текста и предназначен для масштабного применения, в то время как версия для видео добавляет неприметный водяной знак ко всем кадрам сгенерированного видео, не влияя на его качество или скорость генерации.
По словам специалистов Google, на данный момент SynthID является важным шагом в создании более надежных инструментов для идентификации контента, сгенерированного ИИ. В будущем, планируется сделать код водяных знаков для текста открытым, что позволит разработчикам интегрировать эту технологию в свои модели.
Метод SynthID способен эффективно функционировать даже в условиях изменений, таких как изменение текста или его перевод на другой язык. Однако он менее эффективен в случаях, когда используется простой фактографический контент. Новый инструмент также может быть использован совместно с другими методами идентификации ИИ, чтобы обеспечить более надежную защиту от злоупотреблений.
Кроме того, в соответствии с последними тенденциями в области видео, все видео, созданные моделью Veo на платформе VideoFX, теперь будут водяными знаками SynthID. Данная инициатива направлена на повышение информированности пользователей о том, когда они имеют дело с контентом, созданным ИИ, и на профилактику распространения недостоверной информации.
Ожидается, что в этом сезоне будет опубликован более подробный исследовательский документ о технологии водяных знаков текста, а также обновленная версия инструментов для ответственного использования генеративного ИИ, доступная для разработчиков.