ИИ появился в эпоху разрушения общественного доверия — TIME
Искусственный интеллект вошел в период, когда общественные механизмы установления истины и доверия уже существенно ослаблены, пишет автор книги The Trust Code Тиффани Синь Ю Ван в материале TIME. По ее мнению, самые сложные когнитивные технологии в истории развиваются на фоне фрагментированной информационной среды, где снизилось доверие к институтам, медиа и общим способам проверки фактов.
От постправды к утрате доверия
Автор различает понятия «постправды» и «эпохи после доверия». Oxford Dictionaries в 2016 году определил «постправду» как обстоятельства, при которых эмоции и личные убеждения влияют на формирование общественного мнения сильнее, чем объективные факты. В то же время «эпоха после доверия», согласно определению Ван, означает более глубокую проблему — утрату общих процедур, с помощью которых общество определяет, что считать реальностью.
За последние два десятилетия информационная экосистема изменилась от модели, в которой материалы отбирали редакторы и распространяло ограниченное число посредников, к среде, где любой может публиковать, усиливать, искажать или фабриковать информацию. Алгоритмы начали оптимизировать контент под клики, вовлеченность и сенсационность. Как отмечает Ван, почти восемь из десяти человек преимущественно получают новости через алгоритмические системы, включая ленты социальных сетей, поисковики и агрегаторы.
В США доверие к федеральному правительству упало с более чем 70% в конце 1950-х годов до менее чем 20% сейчас, а менее трети американцев выражают хотя бы некоторое доверие к средствам массовой информации. Автор также указывает на падение доверия к религиозным институтам, финансовым системам, медицинским организациям и науке.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
ИИ и масштабирование искажений
Ван напоминает, что фотография почти два столетия воспринималась как доказательство реальности. Однако в начале 2023 года сгенерированное ИИ изображение Папы Римского Франциска в белой пуховой куртке широко распространилось в социальных сетях, и многие люди сначала приняли его за настоящее. В течение двух лет изображения, голоса и видео, созданные ИИ, стали настолько убедительными, что вопрос изменился с умения распознать подделку на возможность доверять увиденному.
Автор ссылается на исследование Duke и Нью-Йоркского университета, согласно которому контакт с противоположными политическими взглядами в социальных сетях может усиливать поляризацию. Другое исследование, опубликованное в журнале Science, установило, что ложные новости распространяются онлайн существенно быстрее и шире, чем достоверные.
В отличие от предыдущих технологий, которые расширяли человеческие возможности, ИИ может генерировать аргументы, обобщать информацию, давать рекомендации и создавать тексты, код или музыку. Такие модели выявляют закономерности и корреляции в данных, но не понимают истину так, как люди. Они обучаются на новостях, публикациях в социальных сетях, оцифрованных книгах, архивах, политических спорах, научных открытиях и дезинформации, воспроизводя не только знания, но и существующие искажения и конфликты.
