Как работали виртуальные журналисты?
Журналистка София Дельгадо из Южной Флориды, казалось, имела чрезвычайно успешный год. Издание South Florida Standard, которое она помогала запускать, демонстрировало впечатляющую производительность. Темы охватывали широкий спектр – от бюджета законодательного собрания Флориды до системной халатности в государственных психиатрических больницах. Однако вся эта деятельность была лишь искусной имитацией, пишет Futurism.
Как пишут источники, трое репортеров публиковали по три материала ежедневно, без выходных. Даже в Пасхальное воскресенье команда умудрилась выдать четыре статьи. И если вам кажется, что это очень мало, по сравнению с количеством материалов, которые постоянно пишут журналисты других изданий, в том числе и в Украине, то стоит заметить, что это были не обычные статьи с рерайтом и ссылкой на кого-то, а полноценные расследования, интервью и исследования, то есть то, что невозможно сделать быстро, проанализировал 24 Канал.
Как выяснилось во время совместного расследования The Florida Trib и подкаста Question Everything, София Дельгадо и другие "местные журналисты" издания никогда не существовали в реальности. Они были продуктами искусственного интеллекта с фальшивыми портретами и вымышленными биографиями, насыщенными клише о Южной Флориде. Сами же статьи часто оказывались переработанными материалами настоящих медиа, которые пропускали через ИИ-инструменты для превращения в "уникальный" контент.
Явно, что тот, кто стоит за этим, не заботится о правде,
– прокомментировала ситуацию Келли Макбрайд, старший вице-президент Института Пойнтера, которая подчеркнула, что единственный способ бороться с этим – найти того, кто реально контролирует ключи от сайта.
С помощью профессора журналистики Университета Южной Флориды Кейси Фрешетта, расследователи обнаружили цифровые следы, ведущие к целой сети подобных ресурсов. Оказалось, что South Florida Standard имеет "сестринские" сайты: Charleston Sentinel в Южной Каролине и San Francisco Download в Калифорнии. Все они имели идентичный программный код и общий список "репортеров", имена которых странным образом совпадали с именами лиц, осужденных за мошенничество.
Что это было?
Конечной точкой расследования стала компания по управлению репутацией The Discoverability Company, основанная Дрю Чепином. Чепин, бывший генеральный директор стартапа, который в 2021 году признал себя виновным в мошенничестве с инвесторами, теперь помогает клиентам "исправлять" их цифровую историю.
Как выяснилось, он использует ИИ-сайты для создания так называемого "контрнаратива", который должен вытеснить негативные результаты поиска Google на задворки сети.
Ваш лучший подход здесь – действительно вытеснить старое дерьмо. Похороните его. Возьмите под контроль нарратив,
– объяснял Дрю Чепин во время вебинара для группы поддержки бизнес-руководителей, прошедших через тюрьму.
Чепин наконец признался, что создал 17 подобных сайтов по всей стране, которые сгенерировали более 3 500 ссылок и привлекли 44 000 посетителей. Технология настолько проста, что создание полноценного "медиа" с миссией, списком сотрудников и статьями занимает всего 15 – 20 минут и стоит около 10 долларов за доменное имя.
Фактически таким образом он формировал определенный заказной нарратив о своих клиентах, генерируя новые материалы, которые в дальнейшем могли попадать в поисковую выдачу или в ответы чат-ботов.
Какие последствия?
Такая деятельность наносит серьезный ущерб медиапространству. Питер Шорш, издатель Florida Politics, чьи материалы регулярно воровали ИИ-боты, назвал это "плагиатом с помощью ИИ". Он предостерегает, что следующее поколение ботов будет учиться на этих мусорных сайтах, создавая "копию копии копии копии факса, присланного на ваш телефон".
Ситуация осложняется кризисом традиционных СМИ. По данным NewsGuard, количество так называемых "розовых слизей" (pink slime) – низкокачественных сайтов, маскирующихся под локальные новости – в США уже превысило количество ежедневных газет: 1 265 против 1 213 по состоянию на июнь 2024 года. С 2005 года страна потеряла почти 2 900 газет и около 43 000 журналистов.
ИИ и эти фальшивые сайты не улавливают никаких нюансов реальной политики,
– прокомментировал Питер Шорш.
Случай с South Florida Standard стал ярким примером того, как легко можно разрушить независимую журналистику, создавая цифровые подделки, угрожающие нашему информационному пространству, заключает 24 Канал. После того, как The Florida Trib начала задавать неудобные вопросы, South Florida Standard и его "родственники" исчезли из сети.
Вам также будет интересно узнать: почему искусственный интеллект считают опасным для современной журналистики
Искусственный интеллект считают опасным для современной журналистики прежде всего из-за проблемы достоверности. Большие языковые модели, вроде ChatGPT или аналогичных систем, не "понимают" факты в человеческом смысле. Они прогнозируют слова на основе статистических закономерностей в текстах, на которых были обучены. Из-за этого возникает одна из главных проблем современного генеративного ИИ – так называемые "галлюцинации". Речь идет о ситуациях, когда система уверенно придумывает события, цитаты, источники, научные работы или даже людей, которых не существует.
Для журналистики это особенно опасно, потому что профессия базируется на проверке фактов, доверии аудитории и репутации издания. Если журналист использует ИИ без тщательной проверки материала, в статье могут появиться вымышленные цитаты экспертов, несуществующие статистические данные или ложные утверждения. Проблема заключается еще и в том, что ИИ формулирует выдумки очень убедительно. Человек, который не проверяет информацию, может даже не заметить ошибки.
Дополнительную опасность создает скорость работы ИИ. Медиа работают в режиме постоянной погони за новостями и первенством их публикации, поэтому редакции могут соблазниться дешевым и быстрым производством контента. Но генерация большого количества текстов без фактчекинга быстро превращает журналистику в поток информационного шума. В такой среде становится сложнее отличать реальные новости от вымыслов.
Отдельной проблемой является то, что языковые модели могут "наследовать" ошибки и предубеждения из данных, на которых их обучали. Они способны повторять дезинформацию, конспирологию или манипулятивные нарративы, если такие тексты присутствовали в учебных наборах данных. В журналистике это создает риск распространения ложной информации уже не отдельными авторами, а в промышленных масштабах.
Какие есть прецеденты?
Опасения относительно ИИ в медиа усилились после нескольких громких скандалов. Один из самых известных случаев произошел со Sports Illustrated. В конце 2023 года издание обвинили в публикации материалов, созданных искусственным интеллектом и подписанных вымышленными авторами со сгенерированными фотографиями. Расследование показало, что профили таких "журналистов" фактически не существовали. После огласки часть материалов удалили, а ситуация превратилась в большой репутационный скандал, вспоминает CBS News.
Еще раньше проблемы возникли у технологического медиа CNET, которое экспериментировало с ИИ-генерированными финансовыми статьями. После проверок в текстах обнаружили значительное количество ошибок. Аналогичные трудности были и в сети газет Gannett, где автоматически созданные спортивные тексты содержали странные формулировки и фактические неточности, пишет Fortune.
Во многих случаях журналистов или редакции разоблачали именно из-за характерных "галлюцинаций". Например, в текстах попадались цитаты людей, которые никогда такого не говорили, или ссылки на статьи и документы, которых не существовало. Это стало своеобразным маркером использования генеративного ИИ без надлежащей редакторской проверки.
Стоит отметить, что похожие проблемы регулярно возникают и в академической среде, где системы придумывают цитаты из книг или научных работ.
Проблема галлюцинаций касается не только текстовых моделей. Даже системы автоматического распознавания речи могут придумывать фразы, которых человек не говорил. Исследователи обнаружили, что некоторые системы транскрипции создавали целые предложения, которых не было в аудио ,как выяснило исследование, появившееся на arXiv. Для журналистики это также критично, поскольку редакции все чаще автоматизируют расшифровку интервью и пресс-конференций.
Каким может быть этическое и правильное использование ИИ в журналистике?
Несмотря на риски, полный отказ от ИИ в журналистике вряд ли возможен. Большинство крупных редакций уже используют такие системы как вспомогательный инструмент, а Google даже разрабатывает отдельный сервис именно для журналистов. Вопрос заключается в этическом и контролируемом использовании технологии.
- Правильное использование ИИ в журналистике предусматривает, что окончательную ответственность всегда несет человек. Искусственный интеллект может помогать со сбором информации, транскрипцией интервью, переводом, анализом больших массивов данных, поиском тем или созданием черновиков текстов. Но каждый факт, цитата и цифра должны проходить проверку редактором или журналистом.
- Этическим подходом также считается прозрачность. Если материал создавался или редактировался с применением ИИ, аудитория имеет право это знать. Часть медиа уже начала добавлять примечания об использовании ИИ-инструментов в работе над текстами или иллюстрациями.
- Еще одним важным принципом является запрет на полностью автоматическое создание новостей без человеческого контроля. ИИ хорошо работает как ассистент, но плохо подходит на роль автономного журналиста. Он не имеет собственного опыта, не понимает контекста событий, не может оценить моральные последствия публикации или проверить правдивость собеседника так, как это делает человек.
В перспективе журналистика, вероятно, изменится не из-за полной замены журналистов искусственным интеллектом, а из-за трансформации профессии, пишет 24 Канал. Значение будут иметь не скорость написания текста, а качество проверки информации, репутация автора, доступ к источникам и способность проводить расследования. На фоне массового потока ИИ-контента именно доверие к конкретному медиа или журналисту может стать главной ценностью.