OpenAI додасть невидимі водяні знаки до тексту ChatGPT

OpenAI почала впроваджувати невидимі водяні знаки для тексту, який генерує ChatGPT. Нова технологія отримала назву textGrain і спочатку буде доступна користувачам у Європейському Союзі. Водяний знак не буде видно під час читання, але спеціальний детектор зможе аналізувати текст і визначати наявність сигналу, пов’язаного з моделями OpenAI. Про це повідомляє theverge.com.

Технологія з’явиться не лише в ChatGPT, а й у Codex. OpenAI планує протягом найближчих тижнів активувати textGrain для відповідних користувачів усіх тарифів у ЄС. Компанія пояснює рішення необхідністю виконання вимог закону ЄС про штучний інтелект (EU AI Act), який передбачає машинозчитуване маркування контенту, створеного генеративним ШІ.

Цікаво, що watermark не додає до тексту прихованих символів, пробілів чи незвичайної пунктуації. Натомість textGrain змінює статистичний характер вибору слів під час генерації. За словами OpenAI, це дозволяє створити сигнал, який можна виявити спеціальним детектором. Водночас компанія визнає, що технологія не гарантує стовідсоткового визначення тексту, створеного ШІ.

Особливо важливим є те, що редагування може послабити водяний знак. У тестах OpenAI заміна 10% слів синонімами знизила рівень виявлення сигналу приблизно з 92% до 66%, а заміна 25% слів – до 17%. Короткі тексти та матеріали з обмеженим вибором слів також визначаються гірше. Тому textGrain не можна використовувати як абсолютний доказ того, що конкретний текст написав ШІ.

На старті OpenAI не відкриватиме детектор для всіх охочих. Доступ до нього отримають схвалені дослідники та профільні організації. Водночас клієнти API по всьому світу вже можуть добровільно ввімкнути водяні знаки для окремих моделей. Компанія також заявляє, що планує відкрити технологію textGrain для спільноти, а її глобальне використання поки не стане стандартом.

Источник: itechua.com