США и Россия добились серьезного смягчения проекта документа ООН о применении искусственного интеллекта в смертоносном оружии. Из текста исчезли положения о человеческом контроле, надежности систем и этических ограничениях.
Американские и российские дипломаты во время закрытых переговоров в Швейцарии добились исключения из проекта ООН нескольких ключевых положений, регулирующих использование искусственного интеллекта в военной сфере. Об этом сообщает The Washington Post со ссылкой на участников переговоров.
По данным издания, в последний день встречи делегации США и России почти 15 часов подряд вносили изменения в документ. Собеседники газеты утверждают, что из проекта исчезло требование о том, чтобы системы с ИИ работали предсказуемо и надежно, а также учитывали этические принципы при применении смертоносного оружия.
Наиболее заметным изменением стало исключение нормы, согласно которой человек должен был проверять цели, выбранные искусственным интеллектом, до нанесения удара.
Переговоры проходили в закрытом формате — без камер ООН и представителей гражданского общества. По информации Washington Post, каждая из двух делегаций привлекла около десяти юристов, из-за чего небольшие страны не успевали отслеживать стремительно меняющиеся формулировки.
Ни Госдепартамент США, ни МИД России, ни представители ООН не ответили на запросы журналистов о комментариях.
Ослабление проекта происходит на фоне активного внедрения искусственного интеллекта в военные технологии. США уже используют ИИ для анализа информации и выбора потенциальных целей, а Израиль широко применяет подобные системы в военных операциях в секторе Газа.
В Human Rights Watch предупреждают, что отказ от жестких международных ограничений повышает риск передачи машинам решений, от которых зависят жизнь и смерть людей. По словам заместителя директора направления по оружию Верити Койл, это может привести к росту числа жертв среди гражданского населения и снижению ответственности за применение силы.
Пока обсуждаемый документ не имеет обязательной юридической силы. Следующий раунд переговоров состоится в ноябре в Женеве, где страны обсудят возможность превратить нынешние договоренности в официальный международный мандат или юридически обязательный договор.
Как ранее сообщало интернет-издание From-UA.org, ИИ чуть не спровоцировал войну США и Китая: в Пентагоне анализируют и готовят выводы.