Google открыла SynthID Detector для всех: сервис определяет ИИ-контент на фото, видео и аудио

Google сделала SynthID Detector общедоступным инструментом для проверки контента, созданного с помощью искусственного интеллекта. Теперь любой пользователь может загрузить изображение, видео или аудиофайл и проверить, содержит ли он невидимую цифровую водяную метку SynthID.

Сервис ранее находился в тестовом режиме и был доступен журналистам, исследователям и другим специалистам. С 7 октября Google расширила доступ до всех пользователей по всему миру. На данный момент интерфейс SynthID Detector работает на английском языке.

Как работает SynthID Detector

В отличие от универсальных ИИ-детекторов, SynthID Detector не пытается самостоятельно определить по содержимому, создан ли файл человеком или нейросетью. Сервис ищет специальную цифровую водяную метку SynthID, которая незаметно встраивается в медиаконтент при его создании с помощью поддерживаемых ИИ-инструментов.

Такая метка не видна пользователю и рассчитана на сохранение после распространения файла и различных изменений. Для проверки достаточно загрузить файл в сервис, после чего система определит наличие SynthID.

Новая версия поддерживает контент, созданный не только технологиями Google. В экосистему SynthID уже входят несколько крупных разработчиков ИИ:

• Google;
• OpenAI;
• NVIDIA;
• Kakao.

Apple также готовится добавить поддержку SynthID. Google не называет точную дату интеграции, но указывает, что она появится в ближайшее время.

Это не универсальный детектор искусственного интеллекта

У SynthID Detector есть важное ограничение: отсутствие водяной метки SynthID не означает, что файл обязательно создан человеком. Сервис способен обнаружить только тот ИИ-контент, в который была встроена поддерживаемая технология SynthID.

Кроме того, инструмент не предназначен для определения разницы между полностью сгенерированным и отредактированным с помощью ИИ материалом. Поэтому результат проверки нельзя воспринимать как абсолютное доказательство происхождения изображения, видео или аудио.

Именно это является главным практическим ограничением технологии. Если изображение создано моделью без SynthID, обычный файл не превратится в «ИИ-контент» только потому, что Google не нашла соответствующую метку. Поэтому SynthID Detector правильнее рассматривать как инструмент проверки происхождения определенного класса материалов, а не как универсальную систему поиска дипфейков.

Google уже проверяет более миллиона файлов в день

SynthID постепенно становится частью более широкой системы проверки происхождения цифрового контента. Google уже встроила соответствующие функции в Search, Gemini и Chrome. По данным компании, встроенные инструменты ежедневно обрабатывают более 1 млн запросов на проверку контента.

Масштаб использования самой технологии также значительно вырос. По данным Google, с момента запуска SynthID было промаркировано более 180 млрд изображений и видео, а объем промаркированного аудио достиг эквивалента 240 тыс. лет звучания.

Почему это важно для пользователей

Расширение доступа к SynthID Detector происходит на фоне стремительного роста количества изображений, видео и аудиозаписей, созданных генеративными моделями. Для обычного пользователя главным преимуществом становится возможность самостоятельно проверить подозрительный файл, не полагаясь только на визуальную оценку.

Для украинских пользователей инструмент также может оказаться полезным при проверке материалов, распространяемых в социальных сетях и мессенджерах. Однако результат проверки стоит рассматривать вместе с другими признаками достоверности: источником публикации, датой создания материала, контекстом и независимыми подтверждениями.

Особенно это важно для новостей и сообщений о событиях, где один визуальный файл может быстро разойтись по нескольким площадкам. Наличие SynthID способно дать дополнительную информацию о происхождении материала, но отсутствие метки само по себе не подтверждает его подлинность.

SynthID становится отраслевым стандартом

Google постепенно превращает SynthID из собственной технологии в более широкую систему маркировки ИИ-контента. Поддержка со стороны OpenAI, NVIDIA и Kakao увеличивает количество материалов, которые можно проверять через единый инструмент, а будущая интеграция Apple должна дополнительно расширить эту экосистему.

При этом параллельно развиваются другие стандарты происхождения цифрового контента, включая C2PA Content Credentials. В отличие от SynthID, такие технологии предназначены не только для выявления ИИ-генерации, но и для фиксации истории создания и редактирования файла. Поэтому в перспективе более надежная проверка контента, вероятно, будет опираться сразу на несколько механизмов.

Таким образом, открытие SynthID Detector для всех пользователей является важным шагом в борьбе с непрозрачностью ИИ-контента, но не универсальным решением проблемы дипфейков. Сервис хорошо подходит для проверки материалов, поддерживающих SynthID, однако отсутствие соответствующей метки не может служить доказательством того, что файл создан человеком.

Источник: macrumors