Половина руководителей по кибербезопасности считают ИИ-системы наиболее уязвимыми к кибератакам

Международная консалтинговая компания PwC обнародовала результаты исследования кибербезопасности, согласно которым системы искусственного интеллекта стали одним из наиболее проблемных направлений защиты корпоративной цифровой инфраструктуры.

В основу отчета положен опрос 3934 руководителей бизнеса и технологических направлений из 71 страны.

Результаты показали, что компании активно внедряют технологии искусственного интеллекта, однако их готовность противодействовать связанным с этим киберугрозам остается недостаточной.

В частности, половина руководителей, ответственных за кибербезопасность, считают именно защиту ИИ-систем наибольшим пробелом в своей организации.

При этом речь идет об оценке готовности компаний к потенциальным атакам, а не о статистике фактически совершенных киберпреступлений. Исследование не устанавливает, что ИИ-системы подвергаются наибольшему количеству атак по сравнению с другими технологиями.

Почему защита искусственного интеллекта стала проблемой для бизнеса

Распространение ИИ-решений в корпоративной среде создает дополнительные требования к защите данных, контролю доступа и управлению технологическими рисками.

В отличие от традиционных программных систем инструменты искусственного интеллекта могут взаимодействовать с большими массивами корпоративной информации, внешними источниками данных и посторонними технологическими платформами.

Это создает дополнительные потенциальные точки уязвимости, особенно, если компании внедряют новые инструменты без надлежащей оценки рисков.

Среди характерных угроз для ИИ систем — манипулирование входными данными и инструкциями, несанкционированный доступ к конфиденциальной информации, компрометация интегрированных сервисов и использование уязвимостей сторонних поставщиков.

В то же время такие риски не означают, что каждая система искусственного интеллекта обязательно менее защищена, чем традиционное программное обеспечение.

Уровень ее безопасности зависит от архитектуры решения, настроек доступа, качества контроля и организации процессов киберзащиты.

По данным PwC, компании все чаще привлекают внешних поставщиков для обеспечения безопасности ИИ и облачной инфраструктуры.

Это позволяет получать специализированную экспертизу, однако повышает значение контроля за рисками, связанными с посторонними технологическими партнерами.

Компании не определились, кто должен отвечать за риски ИИ

Отдельной проблемой, выявленной исследованием, стало отсутствие единого подхода к распределению ответственности за безопасность искусственного интеллекта.

В разных организациях управление соответствующими рисками возлагается на разные должности и подразделения.

В частности, этим могут заниматься директор по информационным технологиям (CIO), технический директор (CTO), руководители технологических направлений, специализированные руководители по вопросам ИИ или директор по информационной безопасности (CISO).

Такое разнообразие управленческих моделей само по себе не является нарушением, однако при отсутствии четкого разграничения полномочий может усложнять принятие решений и реагирование на инциденты.

В PwC отмечают, что вопросы защиты данных, управления рисками и обеспечения устойчивости необходимо учитывать еще на этапе проектирования и внедрения ИИ-решений.

Это предполагает не только использование технических средств защиты, но и определение ответственных лиц, правила работы с данными и процедур контроля.

86% руководителей ожидают рост бюджетов на кибербезопасность

Несмотря на проблемы с готовностью к новым угрозам, бизнес планирует увеличивать инвестиции в цифровую защиту.

Согласно результатам опроса PwC, 86% респондентов ожидают роста бюджетов кибербезопасности.

В то же время, 58% руководителей назвали искусственный интеллект одним из главных приоритетов соответствующих затрат.

Это свидетельствует о том, что развитие ИИ влияет не только на технологические стратегии компаний, но и структуру их расходов на управление рисками.

Увеличение финансирования может быть направлено на совершенствование систем мониторинга, защиту корпоративных данных, проверку безопасности ИИ-моделей и подготовку специалистов.

В то же время, само по себе наращивание бюджетов не гарантирует повышения уровня защиты без эффективного управления и оценки результативности внедренных мероприятий.

Риски ИИ могут влиять на глобальную финансовую систему

Проблема кибербезопасности искусственного интеллекта выходит за пределы отдельных компаний и приобретает значение для финансовой стабильности.

Ранее глава Совета по финансовой стабильности (FSB) Эндрю Бейли заявил, что влияние ИИ на кибербезопасность представляет неотложную угрозу для глобальной финансовой системы.

По его оценке, развитие технологий искусственного интеллекта способно существенно изменить скорость, масштаб и экономические параметры кибератак.

В частности, автоматизация может уменьшать затраты на подготовку отдельных видов атак и позволять злоумышленникам быстрее масштабировать свои операции.

Для финансовых учреждений дополнительные риски связаны с высокой зависимостью от цифровой инфраструктуры, обработкой конфиденциальных данных и взаимосвязанностью платежных и банковских систем.

В этом контексте результаты исследования PwC демонстрируют необходимость одновременного развития технологий искусственного интеллекта и механизмов контроля над их безопасностью.

Ключевой задачей для бизнеса становится не только внедрение новых ИИ-инструментов, но и обеспечение их надежности, защищенности и управляемости в течение всего периода использования.