Правила прозрачности. OpenAI добавит невидимый водяной знак к тексту и коду в ЕС

Об этом пишет издание Engadget .

OpenAI будет использовать собственную систему textGrain. Она добавляет к выбору слов моделью невидимый статистический сигнал, который специальный детектор может обнаружить, чтобы определить наличие водяного знака.

В компании заявили, что по результатам испытаний textGrain не уступает другим подобным подходам (в частности, SynthID для текста) или превосходит их. В то же время OpenAI признает, что высокая эффективность в идеальных условиях не гарантирует надежного распознавания при реальном использовании.

В частности, короткие тексты распознавать сложнее: уровень успешного обнаружения составляет около 80%. Система также демонстрирует худшие результаты при работе с материалами вроде математических текстов. Редактирование уже созданного текста тоже может снизить эффективность обнаружения.

OpenAI планирует сделать технологию открытой, чтобы другие разработчики могли её совершенствовать и адаптировать.

Водяной знак не будет включен для всех результатов по умолчанию. Он будет применяться к соответствующему текстовому контенту, созданному ChatGPT и Codex в Европейском союзе. Для отдельных моделей пользователи смогут самостоятельно согласиться на использование маркировки.

Первоначально доступ к программному обеспечению для обнаружения водяных знаков получат только одобренные исследователи и специализированные организации. При этом детектор не будет определять личность пользователя и не будет раскрывать его запросы или историю переписки.

Такие изменения связаны со статьей 50 Закона ЕС об искусственном интеллекте. Она требует, чтобы поставщики генеративных систем ИИ делали создаваемый ими текст пригодным для машинного распознавания в качестве контента, созданного ИИ.

Новые компании, выходящие на рынок, уже должны соблюдать это требование. Для компаний, работавших ранее — в частности, OpenAI, Anthropic, Microsoft, Google и Meta, — крайний срок выполнения правил установлен на 2 декабря.