США и Россия исключили из проекта соглашения ООН пункт об этическом использовании оружия с ИИ — WP
Представители США и России во время работы в ООН над глобальным договором, регулирующим использование летального оружия на основе ИИ, вычеркнули из документа ряд защитных мер. Об этом сообщает The Washington Post со ссылкой на три источника, знакомые с ходом переговоров, и документы, с которыми ознакомились журналисты.
Как сказано в материале, переговоры проходили в начале сентября в Женеве при участии сотен дипломатов. При этом американские и российские представители"около 15 часов неустанно работали над документом", удаляя ряд положений, которые должны были гарантировать контроль при использовании ИИ, рассказали собеседники журналистов.
По словам источников WP, из документов удалили формулировки, требовавшие от систем «предсказуемого» и «надежного» функционирования, а также пункт, обязывающий учитывать этические соображения при использовании оружия на основе ИИ. Представители США и России также исключили положение, требующее, чтобы люди проверяли военные цели, определенные ИИ, перед нанесением удара.
«Это может означать, что машины смогут принимать решения, от которых зависят жизнь и смерть, без участия человека. Практические последствия очевидны: больше вреда для гражданского населения, меньше ответственности и более быстрое скатывание к более рискованной, автоматизированной войне», — отметила Верити Койл, заместитель директора по вопросам вооружений в отделе кризисов, конфликтов и вооружений организации Human Rights Watch.
Изменения вносились на закрытом заседании и при выключенных камерах, сказано в материале.
«Вашингтон и Москва задействовали свою армию из примерно 10 юристов каждая — почти вдвое больше, чем дипломатическое присутствие других делегаций — для внесения изменений, которые происходили настолько быстро, что у меньших по численности делегаций закружилась голова», — пишет WP.
По словам Койл, команду США возглавляют дипломаты Госдепартамента, представители Пентагона и юристы, «готовые защищать военную автономию США».
Как отмечают журналисты, США и Россия фактически стремятся ослабить глобальные правила регулирования смертоносного оружия на основе ИИ. Пентагон сейчас стремится быстро эту технологию в свою стратегию ведения боевых действий. По данным WP, американские военные использовали чат-бот Anthropic для определения почти 1000 целей для нанесения ударов в первые 24 часа войны с Ираном. Израиль также активно использует ИИ в своих военных операциях в Секторе Газа.
WP пишет, что переговоры в ООН относительно летального автономного оружия не имеют обязательной юридической силы, но они могут открыть путь к заключению знакового договора. Этот договор будет иметь обязательную юридическую силу, если страны-члены на это согласятся, и станет самой продвинутой глобальной инициативой для регулирования оружия с ИИ на поле боя.
Переговоры в Женеве в начале сентября показали, что США и Россия «станут серьезным препятствием на пути прогресса», сказали WP три источника.
«Они обладают полномочиями блокировать любой существенный прогресс, достигнутый подавляющим большинством государств, которые хотят продвинуться вперед в заключении обязывающего договора», — сказала Николь ван Ройен, исполнительный директор глобальной неправительственной коалиции Stop Killer Robots.
В ноябре страны соберутся в Женеве, чтобы обсудить, могут ли переговоры закончиться созданием юридически обязывающего договора.
Госдепартамент США, ООН и МИД страны-агрессора РФ не ответили на запросы журналистов.
Руководители технологических компаний в последнее время призывают мировых лидеров к сотрудничеству для создания модели глобального управления ИИ. За последние несколько месяцев компании, занимающиеся созданием ИИ, сообщали, что их боты самостоятельно взламывали серверы других организаций и что злоумышленники в Йемене и Иране использовали чат-боты для попыток создания оружия или нападения на американских военных.
Президент США Дональд Трамп в сентябре выступил против усиления контроля над ИИ и потребовал «не резать курицу, несущую золотые яйца».