Новая угроза. ИИ упрощает кибератаки, поэтому для защиты тоже нужно использовать искусственный интеллект — эксперт

Об этом пишет издание The Guardian.

Эксперт по кибербезопасности Брюс Шнайер отмечает, что кибератаки существовали задолго до появления современного генеративного искусственного интеллекта. Однако теперь главное изменение заключается в том, что для осуществления сложных атак требуется всё меньше специальных знаний.

По словам автора, раньше для успешного взлома компьютерных систем требовалась высокая квалификация. Со временем появились готовые инструменты, которые позволяли проводить атаки даже людям с минимальными навыками. Искусственный интеллект ещё больше ускоряет этот процесс.

Современные модели ИИ могут при минимальных указаниях самостоятельно проникать в компьютерные сети, похищать данные, запускать программы-вымогатели и выводить системы из строя. Опытные хакеры используют их более эффективно, но такие модели способны автономно выполнять всё больше задач.

Шнайер напоминает, что ещё в 1998 году представители хакерской группы L0pht заявляли в Конгрессе США, что могут вывести из строя Интернет за 30 минут. Отчасти это было преувеличением, но тогда для подобных атак требовались глубокие технические знания.

В то же время существовали так называемые «script kiddies» — люди, которые почти ничего не разбирались в компьютерной безопасности, но использовали готовые инструменты, созданные другими. Когда такие программы стали доступны, количество потенциальных злоумышленников резко возросло.

По мнению эксперта, ИИ делает этот процесс ещё более масштабным. Люди без специальной подготовки получают возможность выполнять сложные задачи, которые раньше были доступны только профессионалам.

Автор также считает, что встроенные ограничения, которые крупные компании устанавливают в своих моделях для предотвращения злоупотреблений, вряд ли станут долгосрочным решением. По его словам, открытые модели, которые можно запускать на собственных компьютерах, постепенно достигают уровня самых мощных коммерческих систем и не будут иметь таких ограничений.

Не сработает, по его мнению, и попытка лишить модели возможности выполнять потенциально опасные задачи. Автор объясняет, что знания, помогающие находить уязвимости и устранять их, могут использоваться и для атак. Именно поэтому ИИ необходим не только злоумышленникам, но и защитникам.

В совместном заявлении Five Eyes подчеркнули, что большинство рекомендаций по кибербезопасности давно известны, но сейчас они стали значительно актуальнее. Организации отметили, что развитие передовых моделей ИИ происходит настолько быстро, что представления о киберрисках могут устаревать не за годы, а за несколько месяцев. Они призвали использовать искусственный интеллект для раннего выявления уязвимостей, повышения качества программного обеспечения, мониторинга подозрительной активности и более оперативного реагирования на киберинциденты.