OpenAI буде маркувати тексти ChatGPT невидимими водяними знаками в ЄС
OpenAI найближчими тижнями почне додавати невидимі водяні знаки до текстів, створених ChatGPT і Codex у Європейському Союзі. Компанія робить це для виконання вимог Закону ЄС про штучний інтелект (EU AI Act).
Маркування поширюватиметься на відповідних користувачів ChatGPT і Codex на всіх тарифних планах, але на старті лише в ЄС. Для користувачів API OpenAI вже відкрила можливість добровільно увімкнути водяні знаки для окремих моделей у будь-якій країні. За замовчуванням ця функція буде вимкнена.
Як буде працюватиме водяний знак
Це не буде видимий символ чи спеціальна позначка в тексті. Технологія під назвою textGrain непомітно змінює статистичний характер вибору слів і частин слів під час генерації.
Водяний знак працює шляхом непомітного коригування вибору слів моделлю, залишаючи шаблон, якого читачі не бачать, але який може виявити спеціальний детектор. Оскільки він міститься безпосередньо в словах, водяний знак зберігається в тексті під час його копіювання та вставлення.
Водночас у компанії заявили, що водяний знак не дає змоги ідентифікувати користувача і що після його увімкнення компанія не виявила суттєвих змін у продуктивності своїх моделей.
Також слід зауважити, що водяний знак після редагування можна видалити. В одному з тестів заміна 10% слів синонімами знизила показник виявлення приблизно з 92% до 66%. Компанія також зазначила, що короткі уривки, математичні відповіді та перекладений текст складніше виявляти.
Як зауважує TechCrunch, оголошення з’явилося через два місяці після того, як Anthropic заявила про намір маркувати водяними знаками текст, створений її моделлю Claude, причому компанія планує застосовувати це маркування в усьому світі. Це рішення викликало негативну реакцію деяких користувачів Claude, які стверджували, що саме вони надали «інструкції, контекст і рішення», тоді як Claude був лише «інструментом».
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER та WhatsApp, сторінку у Facebook, в Instagram та в Х, щоб бути в курсі найважливіших подій.
