ИИ не знал, кто баллотируется. ChatGPT распространял ложные данные перед выборами 2024 года в США
Недавнее исследование показало, что за несколько дней до выборов в США в 2024 году ChatGPT распространял ложную информацию, уверяя пользователей, что Джо Байден до сих пор баллотируется на второй срок.
За десять дней до президентских выборов 2024 года в США, приведших к возвращению Дональда Трампа в Белый дом, и спустя три месяца после того, как Камала Харрис возглавила список кандидатов от Демократической партии, популярный чат-бот ChatGPT все еще утверждал пользователям, что Джо Байден продолжает борьбу за должность. Эта серьезная ошибка подробно проанализирована в новом исследовании с участием специалистов из Массачусетского университета в Амхерсте и Университета Северной Каролины в Чапел-Хилле. Авторы уверены, что она серьезно повлияла на политические процессы в США.
Результаты работы опубликованы в научном издании Information, Communication & Society.
В ходе научного аудита версии ChatGPT-4o mini, которая на тот момент являлась бесплатным стандартом для пользователей, ученые проанализировали 592 подтвержденных заявления, сделанных искусственным интеллектом 25 октября 2024 года. Оказалось, что 9,6% из них были неточными. Кроме дезинформации по Байдену, модель ошибочно заявляла, что губернатор Северной Каролины Рой Купер баллотируется на переизбрание, хотя срок его полномочий уже истек. Кроме того, в 18% случаев система использовала размытые формулировки типа «возможно» или «в целом отвечает», а также опускала важные детали о попытках отменить результаты выборов 2020 года.
Исследователи также выделили категорию ответов, которую охарактеризовали как «бред» или попытку восполнить информационные пробелы. Модель демонстрировала неспособность распознавать политически переосмысленные и поляризованные термины, а в других случаях копировала предвыборные документы школьных советов с точностью до одинаковых формулировок. Соавтор работы, профессор медиаправа Хису Чан, отмечает, что, несмотря на блестящие результаты в академических тестах, подобные технологии не создавались для поддержки демократических институтов. Главным приоритетом коммерческих компаний остается прибыль, а не общественное благо.
Авторы подчеркивают, что хотя с 2024 года алгоритмы были обновлены, оптимизма по поводу следующих избирательных кампаний нет, особенно на фоне замены традиционного поиска в интернете генеративными ответами. Искусственный интеллект не способен полноценно прорабатывать актуальный контекст только на основе прошлых баз данных, если его разработка не достоверна. По мнению ученых, в эпоху развития технологий роль профессиональной и фактчекинговой журналистики становится еще более критичной для защиты общества от дезинформации.