350 ученых призвали создать международный орган по безопасности ИИ — ABC News Australia
Группа из 350 ученых из 31 страны, включая Австралию, опубликовала открытое письмо с призывом усилить безопасность искусственного интеллекта и создать международный орган для фиксации и обнародования связанных с ИИ инцидентов. Авторы письма считают, что без немедленных изменений будущие подобные случаи могут поставить под угрозу критическую инфраструктуру, сообщает ABC News Australia.
Три предложения ученых
Подписанты письма предлагают внедрить надежные системы изоляции для моделей ИИ, способных выполнять кибернетические задачи. На начальном этапе они советуют по умолчанию отключать такие модели от интернета.
Ученые также призывают учредить международный орган, который будет регистрировать и отслеживать случаи нарушения изоляции систем ИИ. Компании должны сообщать этому органу об инцидентах, а информация о них должна быть доступна публично.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
В письме упомянуто несколько инцидентов последних месяцев в Австралии и за ее пределами, когда модели ИИ получали несанкционированный доступ к системам сторонних организаций. Среди них — стартап Hugging Face и несколько правительственных сайтов.
Сравнение с авиацией и банками
Главный научный сотрудник Института искусственного интеллекта Университета Нового Южного Уэльса Тоби Уолш, подписавший письмо, заявил, что предыдущие инциденты были относительно незначительными, однако потенциальные последствия атак на важную инфраструктуру могут быть серьезными. По его мнению, изоляция тестовой среды Hugging Face от интернета могла бы предотвратить этот случай.
Уолш назвал ключевым предложение о международном механизме обмена информацией и надзора. Он сравнил его с независимыми расследованиями аварий в авиации, которые позволяют отрасли учиться на ошибках. Тем временем австралийское правительство завершает работу над национальными стандартами ИИ и планирует законодательно ввести новые правила в 2027 году.
