Скрытые риски алгоритмов. ИИ меняет то, как люди воспринимают реальность

Об этом пишет издание Gizmodo.

Автор книги считает, что алгоритмы одновременно анализируют пользователей, собирают их данные и формируют контент, который удерживает внимание.

Паглен начинает с вопроса о том, как люди воспринимают обычные вещи, например яблоко. По его мнению, восприятие никогда не бывает полностью объективным, ведь на него влияют личные воспоминания, ассоциации и жизненный опыт. Он ссылается на картину бельгийского художника Рене Магритта «Это не яблоко», которая показывает разницу между самим предметом и его изображением.

Автор отмечает, что раньше люди могли быть уверены: картины, фотографии или другие изображения создал другой человек. Теперь всё больше контента генерирует искусственный интеллект, и это меняет взаимодействие между автором, изображением и зрителем.

Паглен пишет, что современные модели ИИ обучаются на больших массивах данных, которые могут содержать человеческие предубеждения. Кроме того, каждое взаимодействие пользователя с искусственным интеллектом — от разговоров с чат-ботами до нажатия на рекламные объявления — помогает алгоритмам лучше понять его предпочтения, поведение и психологические особенности. По словам автора, люди не просто наблюдают за ИИ — он также анализирует их.

В книге утверждается, что алгоритмы не являются нейтральными. По мнению Паглена, они создаются для сбора данных и максимального удержания внимания пользователей. Умные устройства могут отслеживать сон и физическую активность, приложения — покупки и другие привычки, а чат-боты — реакции людей и их эмоциональное состояние.

Автор считает, что такие системы открывают возможности для психологического воздействия, которые ранее были доступны преимущественно государственным программам. В книге он называет современный этап развития технологий «обществом психологических операций», где алгоритмы используют машинное обучение, когнитивную психологию и анализ поведения для воздействия на людей.

Паглен также упоминает бывшего сотрудника военной разведки США Ричарда Доти, который в 1970—1980-х годах распространял ложную информацию об НЛО, чтобы скрыть военные разработки. Автор объясняет, что Доти не навязывал новые убеждения, а усиливал уже существующие представления людей. По его мнению, современные алгоритмы работают по схожему принципу, подстраивая информацию под взгляды конкретного пользователя.

Паглен также упоминает явление, которое в СМИ неофициально называют «психозом ИИ». Так описывают случаи, когда чат-боты постоянно подтверждают уже существующие убеждения пользователя, из-за чего они могут казаться всё более реальными. По словам автора, алгоритмы делают это значительно точнее и персонализированнее, чем когда-либо ранее.

Он отмечает, что современные чат-боты, в частности ChatGPT, общаются с людьми так, как будто это делает другой человек. При этом даже компании-разработчики не всегда могут полностью объяснить, как именно модели приходят к своим ответам.

В отличие от психологических операций прошлого, современные алгоритмы работают в первую очередь ради привлечения пользователей. Социальные сети и рекламные системы подбирают контент так, чтобы люди проводили как можно больше времени на платформах.

В заключение Паглен призывает более внимательно относиться к собственной конфиденциальности. Он считает, что люди должны сознательно создавать пространство, где их данные не собираются автоматически, иначе почти каждый аспект жизни может превратиться в источник информации для алгоритмов и коммерческих сервисов.