OpenAI внедрит водяные знаки для ChatGPT и Codex в ЕС — The Verge
OpenAI в течение ближайших недель начнет внедрять невидимые машиночитаемые водяные знаки в текстовые ответы ChatGPT и Codex для пользователей в Европейском Союзе. Функция под названием textGrain будет доступна пользователям, имеющим право на ее использование, на всех тарифных планах в ЕС.
Компания не будет делать текстовую маркировку глобальным стандартом на момент запуска. OpenAI объяснила региональный подход необходимостью получить опыт практического использования технологии и отзывы пользователей.
Маркировка для API
Как сообщает The Verge, клиенты API OpenAI по всему миру уже могут добровольно выбирать водяные знаки для текстовых ответов отдельных моделей. Компания отмечает, что это позволит клиентам самостоятельно определять, как применять маркировку с учетом собственных обязательств по прозрачности и пользовательского опыта.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
OpenAI также работает с облачными партнерами, чтобы в течение ближайших недель сделать водяные знаки доступными для ответов моделей, к которым обращаются через их сервисы.
Ограничения технологии
По оценке OpenAI, textGrain по результатам тестов соответствовал или превосходил другие подходы, в том числе SynthID for text от Google DeepMind. Компания опубликовала результаты ИИ-бенчмарков, которые указывают на аналогичную производительность моделей с маркировкой и без нее.
В то же время OpenAI подчеркнула, что textGrain не гарантирует надежного обнаружения. Водяной знак не подтверждает точность текста, не определяет его владельца, не показывает объем человеческого вклада и не доказывает авторство человека. Одобренные исследователи и профильные организации могут подать заявку на доступ к детектору.
