Цифровые подписи. Claude начнет помечать тексты ИИ невидимыми водяными знаками
Anthropic внедряет невидимые водяные знаки для текстов, созданных Claude. Специальный машиночитаемый сигнал будет встраиваться непосредственно в слова, позволяя определить использование чат-бота.
Об этом пишет издание Gizmodo .
Новые модели Claude, запущенные в ЕС 2 августа, поддерживают эту систему с момента запуска. При этом Anthropic планирует использовать маркировку не только в Европе, но и в своих продуктах по всему миру.
Водяной знак невидим для пользователя и не должен влиять на содержание, качество или читаемость текста. Поскольку сигнал содержится непосредственно в самом тексте, он может сохраняться при копировании и вставке, а в некоторых случаях — даже после редактирования.
Anthropic также работает над инструментами, с помощью которых пользователи и сторонние разработчики смогут проверять тексты на наличие такой маркировки.
В то же время компания предупреждает, что эта система не является безошибочным способом определения происхождения текста. Наличие водяного знака означает лишь то, что текст мог быть обработан Claude. Например, пользователь мог написать его самостоятельно, а затем воспользоваться чат-ботом для перевода, редактирования или сокращения.
Отсутствие метки также не доказывает, что текст не был создан с помощью ИИ. Сигнал может исчезнуть после значительного редактирования, перефразирования, перевода или объединения текста с другими материалами. В случае с очень короткими отрывками информации может быть недостаточно для надежного обнаружения.
Anthropic объясняет нововведение требованиями к прозрачности использования искусственного интеллекта в Европейском союзе. Компания присоединилась к другим крупным разработчикам ИИ, внедряющим технологии для определения происхождения контента.
Google уже использует SynthID для невидимой маркировки текста, созданного ИИ. OpenAI применяет технологии определения происхождения контента для изображений и аудио, но публично не объявляла об отдельной системе маркировки текста.
Anthropic также будет добавлять цифровые подписи в метаданные поддерживаемых файлов, в частности SVG, PNG и JPG. Они будут основаны на открытом стандарте C2PA и смогут указывать, что файл был обработан Claude, а также вносились ли в него изменения после этого.