Влияние дипфейков. Контент, созданный ИИ, может формировать ложные воспоминания и искажать человеческую память

Об этом пишет издание Gizmodo.

Команда исследователя из Массачусетского технологического института (MIT) Патти Маэс изучила, как фотографии, измененные с помощью ИИ, влияют на память. Участникам эксперимента показывали снимки, а после перерыва часть из них повторно просматривала оригиналы, тогда как другие — версии, отредактированные искусственным интеллектом.

При последующей проверке памяти люди, видевшие измененные изображения, чаще неправильно вспоминали оригинальные фотографии. При этом они были чрезмерно уверены в своих ошибочных воспоминаниях.

Проблема связана с особенностями человеческой памяти, которая подвержена внушению и может меняться под влиянием новой информации. Предыдущие психологические исследования также свидетельствуют о том, что дезинформация способна влиять на решения людей даже после опровержения ложных утверждений, в частности в политической сфере.

Другие исследования подтверждают, что ИИ может формировать ложные воспоминания не только с помощью изображений. В частности, работа, опубликованная в прошлом году, показала, что дипфейки и тексты, созданные искусственным интеллектом, могут убедить людей в том, что вымышленные политические скандалы действительно имели место. Это также снижало готовность участников голосовать.

Опасность заключается не только в намеренном распространении дезинформации. Генеративный ИИ может ошибаться и выдумывать факты — такие ошибки называют галлюцинациями. Если люди будут доверять результатам работы системы без надлежащей проверки, ложная информация может повлиять на их суждения, даже когда она противоречит известным им фактам.

Это особенно важно в связи с распространением ИИ в государственных учреждениях, банках, больницах и военной сфере. Один из подходов к снижению рисков предполагает, что люди будут проверять результаты работы алгоритмов перед принятием решений. Однако исследования показывают, что пользователям бывает сложно самостоятельно выявлять ошибки искусственного интеллекта.

На данный момент не существует универсального способа, который помог бы полностью решить эту проблему. Ученые работают над методами обучения, призванными улучшить способность людей распознавать дипфейки и другой контент, созданный искусственным интеллектом. В то же время технологические компании разрабатывают автономные системы, способные выполнять задачи без постоянного контроля со стороны человека.

Последствия чрезмерного доверия к таким технологиям могут быть трагическими. Как отмечает Gizmodo со ссылкой на сообщение Bloomberg, внутреннее расследование Министерства обороны США установило, что чрезмерная зависимость от системы искусственного интеллекта компании Palantir отчасти привела к удару по начальной школе в Иране в начале 2026 года. Система рекомендовала школу в качестве цели для атаки из-за устаревших данных. Согласно приведенным в материале данным, в результате удара погибли более 150 человек, в том числе не менее 123 детей.