Штучний інтелект: нові дірки в безпеці вже близько

Сім експертів з кібербезпеки, опитаних Reuters, вважають, що зростання кількості програмних вразливостей, виявлених за допомогою штучного інтелекту (ШІ), неминуче призведе до нових інцидентів, подібних до тих, що спричинили збої в роботі урядових сайтів по всьому світу цього тижня.

Дослідження, проведене американською компанією VulnCheck, яка спеціалізується на розвідці кіберзагроз, показує, що ШІ стимулює зростання кількості виявлених програмних вразливостей, і за останній рік їх кількість зросла вдвічі порівняно з попереднім.

“Я знаю, що в іншому критично важливому програмному забезпеченні є ще багато серйозних вразливостей… Думаю, наступні два роки ми щотижня будемо відчувати, що небо падає”, – зазначив генеральний директор Cloudflare, компанії, що займається цифровою інфраструктурою, Метью Прінс. Він прогнозує, що наступні місяці будуть надзвичайно напруженими для індустрії кібербезпеки, оскільки ШІ поступово виявлятиме довгострокові приховані недоліки в інтернет-інфраструктурі.

Цього тижня урядові сайти в Європі та інших регіонах зазнали збоїв через вразливість у PHP – старому мові програмування, широко використовуваному в інтернеті. Оператори сайтів терміново виправляли програмне забезпечення, щоб запобігти масштабним атакам хакерів, які могли б скористатися вразливістю. Деякі оператори, боячись не встигнути з виправленнями, вирішили тимчасово закрити сайти, відновивши їх роботу лише після забезпечення безпеки.

Дослідник VulnCheck Патрік Гаріті зазначив, що екстрені виправлення, спричинені вразливістю PHP, зробили і без того неспокійну індустрію кібербезпеки ще більш завантаженою. Цього тижня також були виявлені вразливості в Node.js, який є альтернативою PHP, і в програмі для потокового передавання даних Plex. Крім того, ШІ-шлюз LiteLLM та платформа розробки Railway потрапили в інциденти безпеки.

Індійський орган сертифікації цифрових ключів eMudhra був помічений у використанні надзвичайно незахищених криптографічних ключів, що може поставити під загрозу користувачів в інтернеті. “Якщо за один тиждень сталося чотири-п’ять таких інцидентів, то в майбутньому їх буде тільки більше. Будь-яка система, безпосередньо підключена до інтернету, потребуватиме все частіших екстрених заходів безпеки”.

Сучасне програмне забезпечення має величезні кодові бази, і помилки часто приховуються в несподіваних місцях. Деякі з цих недоліків можуть стати відправною точкою для хакерських атак.

Раніше виявлення програмних помилок вимагало значних технічних знань, а перетворення їх на інструменти для злому систем зазвичай займало тижні або навіть місяці роботи досвідчених фахівців. Довгий процес розробки давав захисникам час для виправлення вразливостей та поступового випуску оновлень програмного забезпечення.

ШІ руйнує часові рамки

Моделі ШІ можуть цілодобово аналізувати програмний код, виявляти вразливості та створювати експлойти за лічені години. Шон Фрай, технічний директор RunSafe Security, американської компанії з кібербезпеки, зазначив, що моделі ШІ вже продемонстрували, як галузь кібербезпеки зміниться: “Фундаментальні зміни, безперечно, стосуються часу. Змінився не тільки час, необхідний для виявлення вразливостей, але й швидкість, з якою зловмисники перетворюють їх на засоби атаки”.

Експерти, опитані Reuters, одностайно вважають, що час, який залишається у захисників для виправлення вразливостей, стрімко скорочується. Однак вони розходяться в думках щодо того, чи призведе ШІ до сплеску хакерських атак.

Деніел Штернберг, головний розробник інструменту передачі файлів curl, вважає, що вразливості, виявлені моделями ШІ, часто є досить специфічними, і зловмисникам буде важко ними скористатися.

“Збільшення кількості виявлених вразливостей не обов’язково означає зростання кількості успішних кібератак”, – погодився Рамі Рахман, провідний інженер з рішень у компанії ArmorCode.

PHP-вразливість, яка викликала глобальну увагу цього тижня, надає деякі попередні докази. Hunt.io, компанія з аналізу загроз, повідомляє, що, як і Amazon та Cloudflare, вони спостерігали інтенсивні спроби експлуатації цієї вразливості. Однак, за словами Естебана Борхеса, керівника відділу досліджень Hunt.io, станом на четвер, 14:00 за східним часом, злочинці ще не розробили ефективних інструментів для реальної експлуатації цієї вразливості.

Прінс з Cloudflare “бачив” поодинокі ознаки вторгнень у деякі системи, які, на його думку, пов’язані з PHP-вразливістю. На його думку, хоча масове виявлення вразливостей за допомогою ШІ створить проблеми для індустрії кібербезпеки, в довгостроковій перспективі це принесе більше користі, ніж шкоди.

Він порівняв цей процес із “боротьбою з монстрами в будинку з привидами”: хоча пряме зіткнення з монстрами страшне, залишати їх ховатися за зачиненими дверима наслідки будуть ще гіршими. “Реальність полягає в тому, що ми зможемо усунути величезну кількість проблем безпеки”.

Джерело: https://www.ithome.com/1/017/592.htm