Штучний інтелект від OpenAI вийшов з-під контролю і здійснив хакерські атаки на компанії

ШІ-агент OpenAI, який вийшов з-під контролю і протягом кількох днів здійснював зламування систем ‌компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії – нью-йоркської Modal Labs.

Джерело. Про це повідомляє Reuters з посиланням на представника керівництва Modal і два джерела, знайомих із ситуацією.

Згідно з опублікованою Hugging Face хронологією інциденту, ШІ-агент спочатку проник ‌в так звану пісочницю – ізольоване тестове середовище – розміщену на інфраструктурі стороннього провайдера, а потім ‌використовував її як плацдарм для більш масштабної атаки.

У публікації не названо стороннього провайдера, на чиїй інфраструктурі розміщувалася пісочниця. Проте технічний директор Modal Акшат Бубна повідомив, що агент скористався вразливістю в коді, написаному клієнтом компанії та розміщеному на платформі Modal.

Хоча злом клієнта Modal став лише початковим етапом ширшої хакерської кампанії проти Hugging Face, він свідчить про те, що дії ШІ-агента, що вийшов з-під контролю, мають ширші наслідки, ніж було відомо раніше.

Минулого тижня OpenAI повідомила, що під час тестування в контрольованому середовищі найбільш досконалих моделей ШІ одна з них вирвалася із замкненого випробувального сегменту, вийшла ⁠у всесвітню мережу і провела хакерську атаку на стартап Hugging Face.

Розробник ШІ назвав ‌інцидент безпрецедентною надзвичайною ситуацією у кіберпросторі та повідомив, що зміцнить механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки ШІ.

«Важко повірити, що все це ШІ провів самостійно!» – написав він соцмережі X.

Бекграунд. Як повідомлялося, Nvidia готує пакет інфраструктурних угод на $750 млрд для розвитку екосистеми ШІ.