OpenAI заблокувала дві масштабні операції впливу Росії та Ірану з використанням ChatGPT
Компанія OpenAI повідомила про виявлення та блокування двох масштабних операцій впливу, які незалежно проводили Росія та Іран. Про це OpenAI написала у своєму блозі.
«Нещодавно ми заблокували дві операції впливу — одну з Росії та одну з Ірану, — які поєднували наші моделі з традиційнішими методами й технологіями для підтримки ретельно вибудуваних структур під прикриттям. Через ці структури вони поширювали серед цільових аудиторій меседжі про геополітику та конфлікти, приховуючи їхнє справжнє походження», — повідомили у компанії.
За даними OpenAI, в межах іранської операції використовувалися сім вигаданих «журналістів», від імені яких пропонувала розлогі статті малим і середнім онлайн-виданням у всьому світі. Крім розлогих статей, іранська операція генерувала серії коментарів для соцмереж, переважно на теми війни між США та Іраном.
В межах російської операції також використовувалася щонайменше одна вигадана особа на ім’я Мія Кларк, через що OpenAI назвала цю кампанію «Темна Кларк».
«Ми заблокували групу пов’язаних акаунтів ChatGPT із Росії. Вони використовували ChatGPT для різних завдань, пов’язаних із прихованими операціями впливу, спрямованими на країни Латинської Америки. Значна частина цієї діяльності, схоже, мала на меті підірвати репутацію України в регіоні, а частина — вплинути на місцеві політичні процеси, особливо в Аргентині та Болівії. Оператори використовували ChatGPT для трьох основних завдань: написання внутрішніх звітів про свою діяльність (і чужу, яку могли правдоподібно приписати собі), створення контенту для своїх операцій та підготовки звітів про роботу самопроголошеної «дослідницької платформи» в Латинській Америці — Центру соціологічних досліджень (SRC). Вони контролювали SRC через вигадану особу на ім’я Мія Кларк; за цим ім’ям ми назвали операцію «Темна Кларк». Оскільки ми не дозволяємо доступ до наших моделей із Росії, вони підключалися до наших сервісів через VPN», — йдеться у повідомленні OpenAI.
OpenAI оцінила обидві операції як надзвичайно успішні порівняно зі звичайними кампаніями впливу.
Зокрема, зазначається, що фейки «Темної Кларк» поширилися достатньо широко, а один фейк, який, за словами учасників операції, вони запустили в Перу, навіть посилив напруженість у публічних відносинах між Україною та Польщею.
«Найпоказовіший випадок — заява учасників операції, що вони обманом змусили перуанську школу провести захід, на якому згадували Бандеру. Згодом про це повідомляли і в Латинській Америці, і в Європі; схоже, це також викликало коментар щонайменше одного польського депутата Європарламенту», — розповіли в OpenAI.
Нагадаємо, напередодні президентських виборів у Польщі Росія активізувала спецоперацію Doppelganger («Двійник»), яка є однією з наймасштабніших та найтриваліших інформаційних кампаній Кремля, що спрямована на країни ЄС і НАТО