Как искусственный интеллект создает ложные воспоминания: новое научное исследование

Если дать человеку неверный пересказ события, он нередко начинает «вспоминать» то, чего не было. И неважно, написала текст машина или живой автор. К такому выводу пришли исследователи из Джорджтаунского и Вашингтонского университетов. Их работа ставит под сомнение привычную уверенность, что ошибки нейросети легко поймает человек, который перечитает текст.

Цифры, которые настораживают

Участники, которым показали точный пересказ, верно назвали дорожный знак в 83,6% случаев. Тем, кто читал текст с ложной деталью, это удалось лишь в 44,8% случаев, то есть почти вдвое реже. Одна выдуманная подробность оказалась достаточной, чтобы память дала сбой у каждого второго.

Детали эксперимента

В эксперименте участвовали 328 взрослых жителей США. Они посмотрели 25-секундный ролик, где происходит авария. Спустя сутки им предложили прочитать текстовое описание ролика, составленное ChatGPT. В части вариантов говорилось, что на перекрёстке стоял знак «Стоп», в части «Уступи дорогу», причём в одних версиях это совпадало с видео, а в других нет. После чтения участники отвечали, какой знак они видели.

Роль «автора» оказалась незначительной

Учёные проверили и другую гипотезу: вдруг людям легче поверить машине. Тем, кто читал текст с ошибкой, одним сообщали, что его написал ИИ, другим что человек. В первой группе верно ответили 46,3%, во второй 43,4%. Разница невелика, так что вывод о большей убедительности ИИ-текстов эксперимент не подтвердил. Зато подтвердилось главное: ложная деталь в чужом рассказе искажает память независимо от источника.

Сами нейросети тоже ошибаются

Отдельный этап был посвящён качеству пересказов. ChatGPT и Gemini попросили описать два коротких видеосюжета. Все 20 полученных описаний содержали ошибки, от 7 до 21 в одном тексте. В среднем модели пропускали 51,6% существенных деталей, а в 95% текстов не упоминалось главное событие: машина сбивает пешехода.

Риск особенно велик там, где ИИ превращает видео- и аудиозаписи в рабочие документы, то есть в полиции и в медицине. Сотрудник, проверяющий такой отчёт, может не заметить неточность и со временем принять её за собственное воспоминание о событии.

Полагаться на автоматические пересказы и расшифровки без проверки опасно: ошибка может перекочевать в память читателя. Нейросети часто упускают важное и путают детали, а люди склонны принимать прочитанное за пережитое. Поэтому в ответственных сферах результаты ИИ нужно сверять с первоисточником и держать под строгим контролем.

Не пропустите интересное!

Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!

Мы в Facebook Мы в Instagram Мы в Telegram