От фальшивого Байдена до цифрового Болсонару: как искусственный интеллект становится участником выборов
Еще несколько лет назад дипфейки в политике казались скорее технологической страшилкой: смонтированное видео, где кандидат говорит то, чего никогда не говорил, фальшивая фотография или поддельный голос. В 2024 году эта угроза стала реальностью во время президентских выборов в США.
А в 2026-м политика сделала еще один шаг вперед — теперь искусственный интеллект может не просто подделывать кандидата, а фактически заменять его во время избирательной кампании.
В конце июля бывший президент Бразилии Жаир Болсонарунеожиданно «появился» на старте президентской кампании своего сына Флавиу. Самого политика там не было. Болсонару находится под домашним арестом и ограничен в возможности публично коммуницировать, однако перед сторонниками выступил его созданный искусственным интеллектом цифровой аватар.
В отличие от классического дипфейка, авторы даже не скрывали использование ИИ. Аватар сообщил аудитории, что он создан искусственным интеллектом, после чего призвал сторонников поддержать Флавиу Болсонару. Оппоненты уже оспорили использование такого видео в избирательном суде.
UA.News рассказывает, как искусственный интеллект постепенно превратился из инструмента для создания политических дипфейков в полноценного участника избирательных кампаний и как AI уже использовали для манипуляций во время выборов в США в 2024 году.
Болсонару нет на сцене, но его аватар ведет агитацию
Жаир Болсонару лично не участвует в президентских выборах в Бразилии. Но политический капитал бывшего президента остается важным активом для кампании его сына Флавиу, который борется за президентское кресло.
Именно здесь технология открыла возможность, которой раньше просто не существовало.
Во время презентации кампании 25 июля на экране появился цифровой Болсонару. Его AI-аватар заявил, что никакая тюрьма не заставит замолчать начатое ими политическое движение, а затем призвал сторонников принять его сына в качестве преемника.
Проблема имеет не только технологический, но и юридический характер. Болсонару запрещено публично коммуницировать, однако непонятно, распространяется ли такой запрет на созданное кем-то другим цифровое воспроизведение его образа.
Коалиция левых и левоцентристских партийобратилась в избирательный суд. Она утверждает, что бразильские правила запрещают синтетический контент, способный воспроизводить реального человека для влияния на волеизъявление избирателей.
Команда Флавиу Болсонару отрицает это. Ее аргумент прост: зрителей не пытались обмануть, ведь им прямо сказали, что перед ними ИИ. Кроме того, видео, по версии команды Болсонару, не является классическим дипфейком.
Президент Высшего избирательного суда Бразилии Кассиу Нунес Маркес заявил, что использование AI в кампании само по себе допустимо, а нарушением оно становится тогда, когда технологию используют для причинения вреда. Саму деталь суд еще должен оценить.
Таким образом, политическая кампания в Бразилии фактически стала одним из первых крупных тестов на вопрос, как далеко можно зайти в использовании цифровой копии реального политика.
Но сама проблема возникла значительно раньше.
«Вам звонит Байден»: как ИИ уже пытался повлиять на голосование в США
В начале 2024 года американские избиратели получили наглядную демонстрацию того, насколько дешевой и доступной стала политическая манипуляция с помощью искусственного интеллекта.
21 января — всего за два дня до демократических праймериз в Нью-Гэмпшире — тысячам потенциальных избирателей начали поступать автоматические телефонные звонки.
В трубке они слышали голос тогдашнего президента США Джо Байдена.
«Байден» убеждал демократов не голосовать на праймериз и «сохранить» свой голос для президентских выборов в ноябре.
Настоящий Джо Байден такого обращения никогда не записывал.
Какустановила Федеральная комиссия по связи США — FCC, голос был создан с помощью генеративного искусственного интеллекта. Организатором кампании был политический консультант Стив Крамер.
Масштаб операции особенно показателен. По документам FCC, только вечером 21 января система инициировала 9581 звонок потенциальным избирателям Нью-Гэмпшира.
Кроме самого голоса, организаторы использовали еще один трюк — caller ID spoofing. На телефонах получателей отображался номер, связанный с человеком, который ранее возглавлял Демократическую партию штата и был причастен к кампании по поддержке Байдена.
То есть схема состояла сразу из двух уровней доверия: знакомый голос президента и номер человека из местной демократической среды.
Но самой удивительной оказалась цена технологической части операции.
Поматериалам FCC, для создания голоса использовали сервис ElevenLabs. Человек, сделавший запись, получил за работу около 150 долларов.
Фактически за сумму, меньшую стоимости бюджетного смартфона, стало возможно создать голос президента США и запустить его почти десяти тысячам потенциальных избирателей накануне голосования.
Позже FCCоштрафовала Крамера на 6 миллионов долларов за незаконную кампанию с роботизированными звонками и подмену caller ID.
После этого случая американский регулятор отдельно подтвердил, что голоса, созданные искусственным интеллектом, подпадают под ограничения законодательства в отношении искусственных и предварительно записанных голосовых сообщений.
Но выборы 2024 года показали, что одним фальшивым Байденом проблема не ограничивается.
Трамп, которого никогда не фотографировали
Другой показательный пример появился еще в начале американской президентской кампании.
В социальных сетях распространяли фотографии Дональда Трампа вместе с группами темнокожих американцев. На изображениях они улыбались, обнимали кандидата и фотографировались вместе с ним.
На самом деле этих встреч не было.
Изображениябыли созданы генераторами на основе искусственного интеллекта. Картинки не были связаны напрямую с официальной кампанией Трампа, однако часть пользователей распространяла их как реальные фотографии.
Таким образом создавалось впечатление гораздо большей поддержки кандидата среди темнокожих американцев, чем могло существовать на самом деле.
Этот случай хорошо демонстрирует другую проблему политического ИИ.
Для манипуляции уже необязательно заставлять кандидата говорить что-то скандальное. Иногда достаточно создать реальность, которой никогда не существовало.
Кандидат может якобы посетить завод, встретиться с ветеранами, обнять фермера, пообщаться с военными или оказаться среди представителей определенной этнической или социальной группы.
Одна AI-картинка не обязательно изменит результат выборов. Но тысячи таких изображений могут постепенно создавать у избирателя определенное представление о кандидате.
И делать это теперь можно практически в промышленных масштабах.
Россия и Иран также использовали ИИ в избирательной кампании США
Еще более серьезной проблемой стали внешние кампании влияния.
В сентябре 2024 года американская разведка сообщила, что Россия и Иран уже используют генеративный ИИ для усиления операций, направленных против американских избирателей.
Пооценке Офиса директора национальной разведки США, Россия создала наибольший объем связанного с американскими выборами AI-контента среди основных иностранных акторов. Речь шла о текстах, изображениях, аудио и видео.
Российские кампании использовали такие материалы для дискредитации отдельных политиков, продвижения конспирологических нарративов и обострения общественных споров, в частности вокруг иммиграции.
Иран, по данным американской разведки, использовал ИИ для создания публикаций в социальных сетях и написания материалов для сайтов, маскировавшихся под новостные ресурсы.
Китай также применял AI в более широких информационных операциях, хотя американская разведка тогда не увидела конкретной китайской кампании, направленной непосредственно на результат президентских выборов.
Отдельной историей стала российская операция Doppelganger.
В сентябре 2024 годаМинистерство юстиции США сообщило о выемке 32 интернет-доменов, которые использовались в российской кампании скрытого влияния.
По версии американских властей, связанные с Россией структуры создавали сайты, имитировавшие известные американские медиа, использовали фальшивые аккаунты, рекламу, инфлюенсеров и контент, в том числе созданный с использованием искусственного интеллекта.
Одной из целей этой системы было снижение международной поддержки Украины, усиление внутренних противоречий в западных странах и влияние на американскую аудиторию.
Накануне самих выборов американские спецслужбы уже напрямую обвиняли Россию в создании фальшивых политических видео.
В частности,Офис директора национальной разведки США сообщал о ролике, в котором якобы показывалось незаконное голосование граждан Гаити в штате Джорджия. Американские власти назвали его российской дезинформацией.
Технология в данном случае не создала принципиально новый вид пропаганды. Она сделала старую пропаганду дешевле, быстрее и масштабнее.
От deepfake к цифровому кандидату
Именно поэтому история Болсонару отличается от большинства случаев 2024 года.
Тогда главная опасность выглядела так: кто-то использует ИИ, чтобы выдать неправду за подлинные слова политика.
Теперь возникает другая модель: сам цифровой образ политика становится легальным или полулегальным участником кампании.
И это гораздо более сложная проблема.
Если deepfake пытается обмануть избирателя, то AI-аватар может честно сообщить: «Я создан искусственным интеллектом».
А после этого — агитировать. Для технологии здесь открывается огромное пространство.
Политик может записать несколько часов своего голоса и видео, а модель сможет генерировать практически неограниченное количество обращений.
Один кандидат физически может находиться лишь в одном городе. Его цифровая копия — одновременно в сотнях.
Утром она может обратиться к фермерам одного региона, днем — к предпринимателям другого, вечером — к студентам, причем каждой аудитории говорить о тех темах, которые больше всего интересуют именно ее.
Следующий шаг — интерактивность. Вместо заранее записанного ролика у избирателя может появиться возможность поговорить с AI-кандидатом.
Технически для этого уже не нужно ждать появления какой-то принципиально новой технологии. Голосовые модели, генерация видео, большие языковые модели и цифровые аватары уже существуют по отдельности. Остается лишь объединить их.
А если AI-кандидат скажет что-то незаконное
Именно здесь начинается юридическая территория, к которой большинство избирательных законов просто не готовились.
Предположим, штаб создает официального AI-аватара кандидата. Модель проводит сотни тысяч персональных разговоров с избирателями.
Во время одного из них AI обещает конкретному человеку государственные деньги за голос. Или делает клеветническое заявление о конкуренте. Или озвучивает позицию, которая противоречит официальной программе кандидата.
Кто это сказал? Кандидат? Штаб? Разработчик модели? Компания, предоставившая технологию? Или это просто «ошибка ИИ»? Сегодня четкого универсального ответа на эти вопросы нет.
Даже Соединенные Штаты во время кампании 2024 года регулировали политические дипфейки преимущественно на уровне отдельных штатов.
Поданным Национальной конференции законодательных органов штатов США, в 2024 году сразу целыи ряд штатов принял правила относительно использования искусственного интеллекта и синтетического контента на выборах.
Калифорния, Алабама, Колорадо, Флорида, Нью-Гэмпшир, Орегон, Юта, Висконсин и другие штаты вводили требования маркировать синтетические политические материалы или ограничивали распространение вводящих в заблуждение дипфейков накануне выборов.
Но даже идеальная маркировка решает лишь проблему обмана.
Она не отвечает на другой вопрос: что делать, когда политик сам разрешил создать собственную цифровую копию?
Политик может перестать быть человеком «в единственном экземпляре»
Именно это может стать главным изменением следующих избирательных циклов. На протяжении столетий у политика существовало естественное ограничение — его собственное время.
Он не мог провести десять митингов одновременно. Не мог лично поговорить с миллионом избирателей. Не мог дать персональный ответ каждому человеку. Искусственный интеллект убирает это ограничение.
Цифровой кандидат потенциально может вести миллионы параллельных диалогов. Причем разговаривать с каждым избирателем немного по-разному.
Для человека, переживающего из-за инфляции, он будет говорить о ценах. Для предпринимателя — о налогах. Для студента — об образовании. Для военного — об обороне.
А если добавить к этому данные о возрасте, месте проживания, интересах и поведении пользователя в интернете, политическая реклама может превратиться в почти персональную агитацию.
Не одна предвыборная программа для 30 миллионов граждан. А условно 30 миллионов немного разных версий одной программы для 30 миллионов людей.
И контролировать такую систему журналистам, избирательным комиссиям и оппонентам будет гораздо сложнее, чем телевизионную рекламу или речь на митинге.
Самая большая опасность — возможно, даже не в том, что мы поверим фейку
Есть еще один эффект, который может оказаться опаснее самих дипфейков.
Если фальшивых фотографий, голосов и видео становится слишком много, общество постепенно перестает доверять любому цифровому доказательству.
Это создает парадокс. Раньше политик боялся, что кто-то создаст его фальшивое видео. Теперь политик может использовать само существование дипфейков в качестве защиты, если появится настоящий компромат.
Неприятная аудиозапись? «Это ИИ». Скандальное видео? «Deepfake». Запись разговора? «Клонированный голос».
В исследованиях информационных манипуляций это явление называют liar's dividend — своеобразным «дивидендом лжеца». Чем больше общество знает о возможности цифровой подделки, тем легче человеку отрицать даже подлинные доказательства.
