Исследование показало, что ошибки в резюме статей уродуют человеческие воспоминания
Рецензируемое исследование в США, опубликованное Джорджтаунским университетом и Вашингтонским университетом, показало, что неточные резюме статей и видео, созданные искусственным интеллектом, могут влиять на то, как люди запоминают события. Как сообщает The National, такие изложения нередко упускают критически важные детали или неверно описывают содержание.
Упущенные детали и ложные воспоминания
В отчёте AI-Enabled Human Memory Manipulation отмечается, что в среднем резюме упускали 51,6% ключевых деталей по всем использованным запросам и моделям. Исследователи проверили несколько ИИ-моделей, в том числе ChatGPT компании OpenAI и Gemini от Google.
Особенно неточными модели оказались при описании анимированного видео об аварии с участием автомобиля и пешехода. Исследователи установили, что содержание ИИ-резюме влияло на последующие ответы участников о том, что они увидели.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Результаты эксперимента
Правильно ответили 83,6% участников, прочитавших точное изложение видео. Среди тех, кто ознакомился с вводящим в заблуждение резюме, правильный ответ дали 44,8% респондентов.
Аспирантка Вашингтонского университета Яэль Айгер, помогавшая руководить исследованием, выразила обеспокоенность возможным использованием технологий видеорезюмирования полицейскими ведомствами без тщательного тестирования и осознания риска ошибок. Ассистентка-исследовательница, профессор Джорджтаунского университета Маттеа Сим заявила, что результаты должны помочь определить ситуации, в которых от ИИ-резюме следует отказаться, прежде всего в критически важных случаях.
Исследование представят в Швеции в октябре на конференции по вопросам искусственного интеллекта, этики и общества, организованной Ассоциацией содействия развитию искусственного интеллекта.
