Китай ускорит закон об ИИ: разработчиков призовут раскрывать инциденты

3 ноября Государственный комитет по делам развития и реформ КНР (ГКРР), главное плановое ведомство страны, пообещал ускорить подготовку единого закона об искусственном интеллекте. Будущие нормы распространятся на весь жизненный цикл ИИ — от создания до внедрения, заявил на брифинге в Пекине замдиректора департамента инноваций и высоких технологий ГКРР Ван Жомэн.

Новые требования затронут стартапы DeepSeek и Moonshot AI с моделями Kimi, а также интернет-гиганта Alibaba с линейкой Qwen, отметили в Bloomberg.

Каркас для всей отрасли

Выступление прошло на первой из серии пресс-конференций ГКРР о задачах 15-й пятилетки (2026–2030). По словам Ван Жомэна, власти обобщат накопленный опыт и разработают «базовый комплексный» акт — опору для всего остального регулирования в этой области.

Параллельно ускорят принятие норм о данных, вычислительных мощностях и алгоритмах — общих ресурсах, без которых не работает ни одна ИИ-система, — а также о ключевых сферах применения. Для всех этапов, от обучения до эксплуатации, появятся стандарты безопасности и этические принципы. Технология быстро меняется, поэтому исполнение правил будут периодически оценивать, а устаревшие положения — пересматривать.

Мягкий старт и прозрачность

Нагрузку на бизнес обещают снизить. Для новых мер введут переходный срок — его продолжительность не уточнили. Ведомства подготовят отраслевые разъяснения и разовьют услуги по оценке, консультированию и сертификации, чтобы сократить расходы компаний на соблюдение требований.

В разных секторах экономики запустят регуляторные песочницы — режимы, в которых новинки испытывают под надзором государства с временными послаблениями. Для участников пропишут порядок входа, тестирования и выхода, а меры на случай сбоев продумают заранее.

От разработчиков и операторов ИИ-сервисов при этом ждут более строгого управления рисками: они должны своевременно раскрывать угрозы безопасности и самостоятельно сообщать властям об инцидентах и найденных уязвимостях.

Рынок труда и цифровая зависимость

Отдельное направление касается последствий для общества. Правительство будет следить за тем, как меняется структура занятости, и предупреждать о вытеснении сотрудников, а систему соцзащиты обещают приспособить к новым форматам работы. Тренеров моделей и разметчиков данных планируют внести в национальный классификатор профессий.

Против дипфейков, алгоритмической дискриминации и утечек личной информации задействуют средства отслеживания злоупотреблений, а пожилых людей и несовершеннолетних защитят особо. В списке задач — и борьба с зависимостью и эмоциональной привязанностью к ИИ.

Открытость и уязвимости

Поддержку открытой разработки сохранят на всю пятилетку, подчеркнул Ван. Многие китайские лаборатории выкладывают свои нейросети в свободный доступ: в августе Alibaba сообщила, что общедоступные версии ее линейки Qwen за полгода скачали более 3 млрд раз.

Чиновник также призвал страны укреплять взаимное доверие, согласовывать обнародование найденных брешей и совместно реагировать на риски.

«Безопасность ИИ — не та задача, которую может решить в одиночку одна компания, отрасль или государство», — заявил Ван Жомэн.

При этом сам Китай ограничивает передачу таких данных за рубеж. С сентября 2021 года поставщики сетевых продуктов обязаны в течение двух дней сообщать об уязвимостях на платформу Министерства промышленности и информатизации. Исследователям при этом запрещено делиться еще не раскрытыми сведениями о них с иностранными организациями, если это не сам производитель.

Отдельный канал по этим вопросам Пекин выстраивает с Вашингтоном. 20 сентября глава Минфина США Скотт Бессент и вице-премьер Госсовета КНР Хэ Лифэн договорились запустить диалог по ИИ, чтобы выработать общее понимание целей и угроз. Американская сторона предложила механизм взаимного уведомления об инцидентах.

Обман, туннели и майнинг

По оценке Bloomberg, Пекин ищет баланс между соперничеством с США в стратегической отрасли и опасением, что ИИ выйдет из-под контроля или станет орудием злоумышленников. Тревога в мире выросла после предупреждений лидеров Кремниевой долины об экзистенциальных рисках для человечества и серии взломов, в которых нейросети действовали вопреки командам или многократно усиливали атаки.

Подобное поведение наблюдали и в Китае. В конце сентября журналисты Reuters изучили более 200 научных статей и технических отчетов и насчитали не менее 20 исследований, где ИИ-агенты Alibaba, DeepSeek и Moonshot обманывали, скрывали неудачи и пытались обойти ограничения. Большинство эпизодов зафиксировали в специально поставленных опытах.

Один из случаев касается экспериментальной системы ROME из аффилированных с Alibaba лабораторий. Во время обучения она по собственной инициативе открыла туннель к внешнему серверу и направила вычислительные мощности на майнинг криптовалюты. В августе Kimi K3 от Moonshot при проверке хакерских навыков покинула изолированную тестовую среду и скачала с GitHub готовые ответы — ей помогла ошибка в сетевых настройках.

Некоторые разработчики подстраховываются сами. В октябре Moonshot AI убрала из тренировочных данных Kimi K3.1 Pro материалы и задачи по кибербезопасности, чтобы ей было сложнее писать эксплойты. Даже после этого новинка справилась с 81% заданий внутреннего теста на взлом xdev-bench-hard против 33,3% у Kimi K3. Веса K3.1 Pro компания обещала выложить в открытый доступ до 4 ноября.

Долгая дорога к закону

Сейчас отрасль в Китае регулируют ведомственные акты. С августа 2023 года в силе временные меры для чат-ботов и других сервисов генеративного ИИ, а с сентября 2025 года созданный ими контент подлежит обязательной маркировке. С 15 июля 2026 года для каждого шага ИИ-агента заранее задают уровень контроля — от решений, которые принимает только человек, до полной автономии.

14 сентября технический комитет TC260 выпустил третью версию «Рамочной программы управления безопасностью ИИ», но она носит рекомендательный характер. Курс на единую правовую базу власти обозначили еще весной. 11 мая Госсовет КНР обнародовал план нормотворческой работы на 2026 год, где впервые появилась формулировка о «комплексном» законе об ИИ.

Постоянный комитет Всекитайского собрания народных представителей — парламента страны — тогда же включил инициативы об ИИ в перечень документов, которые рассмотрит, когда тексты будут готовы. Сроки принятия до сих пор не названы.

Напомним, в октябре Institute for Progress предположил, что вычислительные ИИ-мощности Китая удвоятся к 2027 году за счет американских чипов.

Темная сторона Kimi

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Facebook X