ИИ уже обсуждают в Совете Безопасности ООН: почему искусственный интеллект становится новым фактором глобальной безопасности

Еще несколько лет назад основные споры вокруг искусственного интеллекта касались работы, образования и автоматизации. Люди обсуждали, какие профессии могут исчезнуть, заменит ли ChatGPT часть офисных сотрудников и насколько быстро генеративные системы войдут в повседневную жизнь.

Теперь дискуссия выходит далеко за пределы технологической индустрии. ИИ всё чаще упоминается в одном ряду с понятиями, традиционно относящимися к сфере международной безопасности: война, кибератаки, дезинформация, стратегическое сдерживание и глобальная конкуренция между государствами.

23 сентября Совет Безопасности ООН провел отдельное заседание, посвященное искусственному интеллекту и международной безопасности. Сам факт того, что эта тема попала в повестку дня органа, главной задачей которого является поддержание международного мира, хорошо показывает, насколько изменилось отношение к технологии.

К дискуссии привлекли не только дипломатов. Среди приглашенных были один из самых известных исследователей машинного обучения Йошуа Бенжио и руководители ведущих компаний, создающих современные системы ИИ. То есть вопрос о будущем искусственного интеллекта уже обсуждают на одном уровне с вопросами войн, конфликтов и стратегических рисков.

UA.News рассказывает, почему ИИ перестают воспринимать лишь как очередную технологическую революцию, как он меняет представления о войне и безопасности и почему миру приходится создавать для него новые правила практически с нуля.

Совет Безопасности ООН говорит об ИИ уже не как о технологическом эксперименте

Искусственный интеллект появился в повестке дня Совбеза не впервые.

Первое официальное заседание Совета Безопасности ООН, посвященное искусственному интеллекту, состоялось 18 июля 2023 года. Уже тогда генеральный секретарь ООН Антониу Гутерриш подчеркивал, что развитие этой технологии может принести человечеству значительную пользу, но в то же время создать совершенно новые риски.

В своем официальном заявлении перед Советом безопасности он говорил о возможности использования ИИ для кибератак, распространения дезинформации, преступной деятельности и военных операций.

Тогда многие из таких сценариев еще воспринимались как предупреждение о будущем. За последующие годы возможности моделей существенно выросли. Они лучше работают с кодом, анализируют изображения и видео, обрабатывают огромные массивы информации и могут выполнять целые последовательности задач.

Именно поэтому разговор постепенно изменился. Вопрос уже не только в том, на что когда-нибудь будет способен ИИ. Гораздо важнее понять, как использовать уже существующие возможности и где они начинают создавать риск не для отдельного пользователя, а для целого государства.

Один и тот же ИИ может работать и на бизнес, и на армию

Одна из главных особенностей искусственного интеллекта заключается в том, что его чрезвычайно сложно четко разделить на гражданский и военный.

У ракеты или танка есть очевидное назначение. С программным обеспечением всё иначе. Одна и та же модель может помогать предпринимателю готовить презентацию, программисту писать код, студенту разбираться в сложной теме или ученому анализировать данные. Но те же самые способности могут использоваться для работы с разведывательной информацией, военной логистикой или спутниковыми снимками.

Именно поэтому ИИ становится классической технологией двойного назначения. Его нельзя просто запретить по аналогии с отдельными типами вооружений, поскольку подавляющая часть возможностей имеет вполне мирное применение. В то же время чем мощнее становятся модели, тем шире становится перечень задач, которые можно использовать и в обороне.

Это создает серьезную проблему для регулирующих органов. Ограничения должны снижать риски, но при этом не блокировать огромное количество полезных гражданских применений.

ИИ меняет войну не только благодаря автономному оружию

Наиболее очевидный образ военного ИИ — автономный дрон, который самостоятельно находит цель и атакует её без команды оператора. Но реальное влияние технологии гораздо шире.

Современная война ежедневно генерирует колоссальные объемы информации: видео с беспилотников, спутниковые фотографии, данные радаров, радиоперехваты, координаты, сообщения из открытых источников и информацию о перемещении техники.

Человек не способен быстро проанализировать всё это вручную. Алгоритм может. ИИ может находить нужные объекты на сотнях изображений, сравнивать данные за разные периоды, отслеживать изменения, выявлять закономерности и помогать военным быстрее формировать общую картину.

Поэтому одно из главных изменений касается не самого оружия, а скорости. Если раньше между получением информации и принятием решения проходили часы, то современные системы потенциально могут сократить это время до минут. А сторона, которая обрабатывает информацию быстрее противника, получает значительное преимущество.

Именно это может постепенно дать старт новой гонке — не только за количеством танков, ракет или беспилотников, но и за скоростью обработки данных и принятия решений.

Если ИИ ошибся, возникает вопрос: кто отвечает

Есть проблема, которая становится особенно сложной в военной сфере, — ответственность. Традиционная цепочка командования относительно понятна. Есть человек, отдавший приказ, есть тот, кто его выполнил, и можно установить, на каком уровне было принято конкретное решение.

С алгоритмом всё сложнее. Если система неправильно определила объект, ошибочно классифицировала угрозу или дала неверную рекомендацию, кто несёт ответственность?

Разработчик, создавший модель? Компания, которая её поставила? Командир, получивший рекомендацию? Оператор, нажавший кнопку? Или государство, разрешившее использовать такую систему?

Проблема ненадежности моделей существует даже в обычных чат-ботах. Причины, по которым крупные языковые модели продолжают генерировать убедительные, но неправильные ответы, остаются одной из задач для разработчиков.

В гражданском секторе ошибка может означать неверный ответ или финансовые потери. В военной системе последствия могут быть несравненно более серьезными. Именно поэтому проблема ИИ в сфере безопасности касается не только того, на что способна технология, но и того, как определять ответственность за ее решения и ошибки.

Дезинформацию теперь можно производить почти в промышленных масштабах

Отдельный риск, который Гутерриш выделял ещё во время первого заседания Совбеза по ИИ, — информационные манипуляции.

Генеративные системы резко удешевили создание текстов, изображений, голосов и видео. Раньше для проведения крупной информационной кампании требовалась команда авторов, дизайнеров, переводчиков, монтажеров и администраторов сотен аккаунтов. Теперь значительную часть этой работы можно автоматизировать.

И речь идет не только о дипфейках. ИИ позволяет создавать тысячи вариантов одного и того же сообщения, переводить их на десятки языков, менять тональность и адаптировать материалы к разным аудиториям.

В результате информационная операция может масштабироваться примерно так же, как программное обеспечение. Особенно опасным это становится во время кризисов.

Если в момент резкого обострения отношений между государствами появится реалистичное поддельное видео президента, министра обороны или военного командующего, даже быстрое опровержение не обязательно остановит последствия.

За несколько минут информацию могут подхватить социальные сети, СМИ, финансовые рынки и другие государства. Фальшивку можно удалить или опровергнуть. Но решения, принятые под её влиянием, вернуть назад гораздо сложнее.

Кибератаки выходят на новый уровень автоматизации

Еще одно направление, где ИИ может оказать прямое влияние на международную безопасность, — киберпространство.

Во время первой дискуссии Совбеза отдельно прозвучало предупреждение об угрозах для цифровых систем и критической инфраструктуры. ИИ здесь имеет двойной эффект.

Для защитников он может анализировать сетевой трафик, находить аномалии, выявлять подозрительную активность и помогать устранять уязвимости. Для злоумышленников те же инструменты могут упрощать подготовку атак.

Особенно важным становится развитие ИИ-агентов — систем, способных не просто отвечать на один запрос, а самостоятельно выполнять последовательность действий. В перспективе такие программы могут автоматизировать часть поиска уязвимостей, тестировать различные способы проникновения и адаптировать свои действия к результатам предыдущих попыток.

Это не означает, что любой человек автоматически превратится в высококлассного киберпреступника. Но ИИ может сократить объем знаний, ресурсов и времени, необходимых для выполнения сложных технических задач.

Для современных государств это особенно важно, поскольку энергетика, банки, связь, транспорт, больницы и государственное управление всё сильнее зависят от цифровых систем.

Развитие ИИ постепенно превращается в еще одну гонку между государствами

Даже если страны признают риски, связанные с новыми моделями, это не означает, что они готовы добровольно замедлять их развитие. Причина проста: технологическое отставание также может представлять угрозу.

Если одно государство существенно ограничит свои самые мощные ИИ-системы, оно должно быть уверено, что конкуренты поступят так же. В противном случае осторожность может превратиться в стратегический недостаток.

Поэтому вокруг ИИ постепенно формируется логика, знакомая по другим технологическим гонкам. Самые мощные модели требуют огромных дата-центров, передовых полупроводников, дешёвой электроэнергии, капитала и большого количества высококвалифицированных инженеров.

Из-за этого конкуренция в сфере ИИ автоматически пересекается с борьбой за производство чипов, энергетические ресурсы и технологические цепочки. Именно поэтому лидерство в ИИ всё чаще может восприниматься государствами не просто как коммерческий успех, а как стратегическое преимущество.

ИИ отличается от традиционного оружия ещё и тем, что его создают частные компании

Есть ещё одна особенность, которая делает регулирование искусственного интеллекта необычайно сложным. Ядерное оружие, стратегические ракеты или военная авиация преимущественно контролируются государствами.

В случае с ИИ значительная часть технологического прогресса происходит в частном секторе. Именно компании строят крупнейшие дата-центры, обучают новые модели, привлекают лучших исследователей и решают, когда выпускать новые системы.

Это означает, что технология, которая потенциально может влиять на глобальную безопасность, не находится под таким же прямым государственным контролем, как традиционные стратегические вооружения.

Поэтому перед правительствами возникают вопросы, которых раньше практически не существовало. Кто должен проверять самые мощные модели перед запуском? Должны ли компании сообщать государствам об опасных возможностях систем? Можно ли ограничивать публичный доступ к отдельным функциям? Что делать, если модель создана в одной стране, вычислительная инфраструктура расположена в другой, а пользуются ею по всему миру?

Обычных национальных правил для такого рынка может оказаться недостаточно.

Мир пытается создать правила для технологии, которая меняется быстрее, чем дипломатия

Именно здесь возникает определённая параллель с ядерной эпохой. Сравнивать ИИ с ядерным оружием напрямую некорректно. Искусственный интеллект — универсальная технология, которая может использоваться в медицине, образовании, программировании, науке и бизнесе.

Но после появления ядерного оружия международной системе также пришлось создавать совершенно новые механизмы контроля: договоры, инспекции, правила нераспространения и каналы экстренной связи.

В случае с ИИ этот процесс уже начался. В сентябре 2024 года государства-члены ООН приняли Глобальный цифровой договор, который предусматривает международное сотрудничество в сфере управления искусственным интеллектом.

В 2025 году Генеральная Ассамблея также определила механизмы работы Независимой международной научной группы по вопросам ИИ и Глобального диалога по управлению ИИ.

Однако здесь международная система сталкивается с фундаментальной проблемой. Дипломатия работает годами. Технологические циклы — месяцами. Пока государства согласовывают формулировки нового документа, индустрия может выпустить несколько поколений моделей с совершенно другими возможностями.

Поэтому будущее регулирование, вероятно, должно будет устанавливать не только правила для конкретных технологий, но и более широкие принципы, которые останутся актуальными даже после появления новых систем.

Главный спор будет не о том, насколько умным станет ИИ

На этом фоне вопрос о том, сможет ли машина однажды стать «умнее человека», постепенно отходит от сугубо практической дискуссии. Для международной безопасности гораздо важнее другое: какое место ИИ займет внутри критически важных систем.

Где-то алгоритм останется обычным инструментом. Где-то он станет помощником, предлагающим несколько вариантов решения. А где-то технология может обрести настолько большую автономность, что участие человека станет минимальным.

Именно границы такой автономности, вероятно, станут одним из главных предметов международных споров. Государствам придется определять, где использование ИИ остается обычной автоматизацией, а где оно уже создает неприемлемый риск.

И именно поэтому отдельное заседание Совета Безопасности ООН, посвященное искусственному интеллекту, выглядит вполне закономерным. ИИ больше не касается только технологических компаний, программистов или пользователей чат-ботов. Он постепенно становится частью экономической конкуренции, обороны, кибербезопасности, информационной политики и международных отношений.

Поэтому в ближайшие годы главным вопросом может стать не то, насколько мощными будут новые модели.

А то, успеют ли государства договориться о правилах их использования до того, как эти системы станут настолько привычными, что устанавливать границы будет уже значительно сложнее.