Пекин смещает фокус на риски ИИ для нацбезопасности — Dawn
В Китае всё больше внимания уделяют рискам искусственного интеллекта для национальной безопасности, в частности его способности содействовать кибератакам. Глава китайского разведывательного ведомства на этой неделе предупредил, что технология может поставить под угрозу безопасность государства, сообщает Dawn.
Ранее китайские политики прежде всего сосредотачивались на непосредственных рисках применения ИИ, в том числе дипфейках и безопасности детей. В то же время рост возможностей ведущих моделей по взлому систем меняет оценку этих угроз в Пекине.
Сообщения об уязвимости WeChat
Недавно небольшая команда программистов из Калифорнии заявила, что с помощью ИИ создала кибернетического «червя». По их словам, в случае запуска он мог бы скомпрометировать миллионы аккаунтов в китайском приложении WeChat.
Основатель американского технологического хедж-фонда Interconnected Capital Кевин Сюй заявил, что в вопросах безопасности ИИ между Китаем и США больше общего, чем различий. По его оценке, последствия деятельности агентных ботов ИИ без человеческого контроля для кибербезопасности относились бы к главным опасениям китайских властей.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Конкуренция и возможность сотрудничества
На фоне глобальной дискуссии об опасностях ИИ растёт давление на председателя КНР Си Цзиньпина и президента США Дональда Трампа, чтобы они обсудили угрозы для обеих стран во время личной встречи в четверг. Сунь Чэнхао из Центра международной безопасности и стратегии Университета Цинхуа считает, что оба государства вырабатывают более реалистичное и общее понимание рисков, что усиливает потребность в сотрудничестве.
В то же время соперничество двух стран в этой сфере может усложнить координацию совместных оценок безопасности моделей ИИ или создание систем оповещения о кризисных ситуациях. Трамп, комментируя призывы ведущих лабораторий США скоординированно замедлить передовые разработки, заявил, что США опережают Китай в ИИ и он стремится сохранить это лидерство. Сунь Чэнхао отметил, что Китай опасается использования понятия «безопасность» как инструмента ограничения его технологического развития.
Китай уже регулирует использование ИИ, в частности запрещает создавать сгенерированные технологией аватары, воспроизводящие внешность человека без его согласия. Генеральный директор пекинской консалтинговой компании Concordia AI Брайан Цзе сказал, что китайская политика в отношении ИИ в большей степени направлена на нынешний вред обществу и людям.
