Як для ядерної зброї: США та Китай пропонують запровадити жорсткі обмеження для військового ШІ
Експерти закликали встановити червоні лінії для автономних систем і кризовий зв'язок двох держав.
Американські та китайські експерти з безпеки запропонували запровадити для штучного інтелекту запобіжники, подібні до тих, що діють у ядерній сфері. Вони попереджають, що автономні системи можуть спровокувати небезпечну ескалацію між США та Китаєм, якщо помилкові дії ШІ сприймуть як навмисну атаку. Рекомендації оприлюднили незадовго до запланованих міжурядових переговорів щодо ШІ та очікуваної зустрічі президента США Дональда Трампа і голови КНР Сі Цзіньпіна, повідомляє Reuters.
Автори документа — старша наукова співробітниця Брукінгського інституту Мелані Сіссон і доцент Фуданського університету Тяньцзяо Цзян. На їхню думку, ризики вже виходять за межі конкуренції за чипи та передові моделі й дедалі більше нагадують проблеми контролю над озброєннями.
Експерти вважають, що автономна система може випадково втрутитися в мережі ядерного командування або запустити військову кібероперацію. У такому разі керівництво держав може отримати лише кілька хвилин, щоб вирішити, чи йдеться про збій, чи про реальний напад іншої країни.
«Червоні лінії»
Однією з ключових рекомендацій стало запровадження чітких обмежень для використання ШІ у сфері ядерної безпеки. Мелані Сіссон наголосила, що лише люди повинні ухвалювати рішення про початок кібератак із використанням ШІ проти систем ядерного командування, управління та зв'язку іншої держави або її стратегічної інфраструктури.
Тяньцзяо Цзян запропонував закріпити «червоні лінії», які заборонятимуть ШІ самостійно ухвалювати рішення про застосування ядерної зброї чи автономно атакувати ядерні системи. Крім того, він закликав окремо захистити критично важливу інфраструктуру, зокрема енергетику, фінансовий сектор і систему охорони здоров'я.
Окремою пропозицією стало вироблення спільного визначення поняття «значущий контроль з боку людини». На думку автора, це допоможе уникнути ситуації, коли Вашингтон і Пекін використовують однакові формулювання, але фактично дозволяють різний рівень автономності машин. Ця ідея спирається на домовленість, яку президент США Джо Байден і Сі Цзіньпін підтримали в листопаді 2024 року: остаточний контроль над рішеннями щодо застосування ядерної зброї мають зберігати люди.
Гаряча лінія для інцидентів зі ШІ
Ще однією рекомендацією стало створення окремої військової гарячої лінії між США та Китаєм для випадків, пов'язаних із автономними системами. Цзян попередив, що автоматизовані кібератаки можуть розвиватися настільки швидко, що люди просто не встигнуть втрутитися.
За сценарієм експерта, оборонна система однієї країни може автоматично відповісти на підозрілу активність, а інша сторона сприйме цю реакцію як навмисний напад і завдасть удару у відповідь. Лінія прямого зв'язку дала б змогу швидко повідомити, що незвичайна операція була випадковою, несанкціонованою або ще розслідується.
Водночас деякі експерти сумніваються, що такий механізм буде достатньо ефективним. Старша наукова співробітниця Школи передових міжнародних досліджень Університету Джонса Гопкінса Карла Фрімен нагадала, що під час інциденту з китайською повітряною кулею у 2023 році Пекін не відповідав на дзвінки американських військових. За її словами, жорстка бюрократична система Китаю не дозволяє офіцерам нижчої ланки самостійно контактувати зі США без схвалення керівництва.
Позиції Вашингтона і Пекіна
Жодна зі сторін поки що офіційно не підтримала рекомендації Брукінгського інституту та Університету Цінхуа. Водночас Китай дедалі активніше включає питання ШІ до своєї системи контролю над озброєннями.
Нещодавно Міністерство державної безпеки Китаю попередило про загрози ШІ для політичної, інституційної та ідеологічної стабільності країни. Очільник відомства Чень Ісінь заявив, що іноземні супротивники можуть використовувати алгоритми для ведення «когнітивних воєн», дестабілізації суспільства за допомогою діпфейків і ботоферм, а також автоматизованого пошуку вразливостей у комп'ютерних мережах.
У Міністерстві закордонних справ КНР питання ШІ входять до компетенції Департаменту контролю над озброєннями, який також відповідає за ядерну зброю, нерозповсюдження та ракетні програми. Посол Китаю з питань роззброєння Шень Цзянь заявив на засіданні ООН у Женеві, що військовий ШІ може підірвати стратегічну стабільність і підвищити ризик прорахунків, а зброя має залишатися під контролем людини.
У США аналогічного єдиного центру для питань військового ШІ немає. Ці питання розподілені між Радою національної безпеки Білого дому, Державним департаментом, Пентагоном та іншими відомствами. Водночас Агентство національної безпеки США готує наймасштабнішу за десятиліття внутрішню реорганізацію, яка передбачає створення п'яти нових спеціалізованих центрів із ключовим фокусом на штучний інтелект, протидію Китаю та кібербезпеку.
Попри обговорення запобіжників, обидві країни не хочуть ухвалювати заходи, які можуть сповільнити власний розвиток у сфері ШІ. Дональд Трамп раніше заявляв, що надто широкі обмеження можуть дати перевагу Китаю, тоді як Пекін розглядає частину американських технологічних обмежень як спробу зберегти домінування США.
Источник: zn.ua