Систему легко обойти. Детектор Meta не смог распознать большинство изображений, созданных ИИ, после обрезки

Об этом пишет издание Reuters .

На прошлой неделе Meta представила генератор изображений Muse Image. В создаваемые им изображения компания встраивает невидимую цифровую маркировку Content Seal. В Meta заявляли, что она должна сохраняться даже после обрезки, сжатия, изменения размера или создания скриншота.

Для обнаружения этой маркировки компания также начала тестировать специальный детектор. В ходе первой проверки, проведенной агентством Reuters, он правильно распознал все 40 изображений, созданных Muse Image.

Однако после обрезки изображений до половины или трети от исходного размера результат ухудшился. Детектор смог правильно распознать как созданные искусственным интеллектом лишь 55% изображений.

Проблема обнаружения контента, созданного искусственным интеллектом, становится все более актуальной из-за распространения дипфейков. По данным компании по кибербезопасности DeepStrike, в 2023–2025 годах количество дипфейков, созданных с помощью ИИ и размещенных в интернете, ежегодно росло примерно на 900%.

В то же время системы распознавания такого контента до сих пор часто ошибаются. Предыдущие исследования также показали, что обычные пользователи определяют контент, созданный ИИ, примерно с той же точностью, что и при случайном угадывании.

С помощью Content Seal и нового детектора Meta пытается решить эту проблему. Разработка этих технологий является частью масштабных инвестиций компании в искусственный интеллект.

Запуск Muse Image также вызвал вопросы касательно конфиденциальности. Пользователи Instagram выяснили, что модель могла использовать фотографии из публичных профилей без явного согласия их владельцев. Впоследствии Meta убрала эту функцию.

Следующим крупным ИИ-продуктом компании должен стать генератор видео Muse Video.