Подпишитесь на нас в Google США и Россия добиваются исключения ряда положений из международного договора о правилах использования искусственного интеллекта. В частности, Вашингтон и Москва выступают против идеи жесткого человеческого контроля над использованием автономного оружия с искусственным интеллектом. Об этом пишет The Washington Post со ссылкой на трех человек, осведомленных о ходе закрытых переговоров, а также на документы, которые оказались в распоряжении издания.
Переговоры по соответствующему соглашению на уровне ООН состоялись в начале сентября в Женеве. Сотни дипломатов работали над документом, который потенциально может стать первым международным соглашением о применении летального автономного оружия. По данным The Washington Post, на заключительном этапе переговоры стали особенно напряженными.
В течение примерно 15 часов американские и российские представители вносили многочисленные изменения в текст. Из документа убрали требование, чтобы автономные системы работали "предсказуемо" и "надежно", а также положение о необходимости учитывать этические соображения при применении ИИ в оружии. Кроме того, стороны исключили норму, которая предусматривала проверку человеком военных целей, определённых искусственным интеллектом, перед нанесением удара.
Как рассказывают собеседники издания, закрытое заседание проходило без камер и представителей гражданского общества. Американская и российская делегации привлекли по около десяти юристов каждая – почти вдвое больше, чем у других участников переговоров. Из-за быстроты внесения изменений меньшие делегации, по словам источников, не успевали следить за процессом.
"Это была смерть от тысячи порезов бумагой", – сказал один из собеседников The Washington Post.
Как отмечает издание, всё это происходит на фоне всё более активного использования искусственного интеллекта в военной сфере. По данным The Washington Post, американские военные уже применяли чат-бота Anthropic для определения почти 1 тысячи целей в течение первых суток войны с Ираном. Израиль также широко использовал ИИ во время военных операций в Газе.
Правозащитники предупреждают о возможных последствиях недостаточного регулирования. "Это может означать, что машины смогут принимать решения о жизни и смерти без человеческого контроля", – отметила Верити Койл из правозащитной организации Human Rights Watch.
В то же время в США продолжается пересмотр собственных правил в отношении автономного оружия. Документ, принятый Пентагоном в 2023 году при администрации Джо Байдена, предусматривал использование человеческого суждения при проверке автономных и полуавтономных систем, а также требовал соблюдения законов войны и соответствующих международных договоров. В июне 2026 года Дональд Трамп поручил обновить эти правила в течение 90 дней, однако по состоянию на конец сентября новая версия не была обнародована.
Параллельно в ООН пытаются определить дальнейшую судьбу международных переговоров. В ноябре страны вновь соберутся в Женеве, чтобы обсудить возможность перехода к официальному мандату или юридически обязательному договору.
Опасность искусственного интеллекта
Как писал УНИАН, Билл Гейтс предупредил, что искусственный интеллект может стать инструментом политиков со злыми намерениями и привести к миллиардам смертей. Вместе с тем Гейтс назвал искусственный интеллект важнейшей технологией в истории, способной принести как равенство, так и новую несправедливость.
Также мы сообщали, что Украина и Россия ведут технологическую гонку, разрабатывая разведывательно-ударные системы с использованием искусственного интеллекта, которые сочетают сбор данных, их обработку и нанесение ударов. Такие комплексы сокращают время между обнаружением цели и её поражением, а также могут влиять на решения командиров, оставляя человека лишь формально в контуре принятия решений.