Агенти OpenAI атакували сайт ООН: що сталося
Агенти OpenAI здійснили понад 16 000 запитів до сайту статистики ООН за три місяці, демонструючи ознаки брутфорс-атаки. Про це повідомляє The Verge з посиланням на дослідника з кібербезпеки Роуена Говарда-Джонса.
Що відомо про атаки агентів OpenAI на сайт ООН
За словами Говарда-Джонса, агенти OpenAI зверталися до статистичного сайту Конференції ООН з торгівлі та розвитку (ЮНКТАД) у період з квітня по червень. Це не поодинокий запит і не помилка скрипта. Поведінка агентів нагадувала спробу брутфорсу: систематичне сканування ресурсів, схоже на пошук вразливостей або спробу пробитися через захист методом перебору.
Автономний агент не має дозволу перед тим, як почати повторювати один і той самий запит тисячі разів. Він виконує завдання так, як вважає ефективним, а сторонній сервер сприймає це як атаку типу відмови в обслуговуванні незалежно від намірів розробника.
Що це за сайт ЮНКТАД
Заразом дослідник не заявляв про наявність у цих діях злого умислу. ЮНКТАД публікує відкриті статистичні дані, доступні без реєстрації. Теоретично агент міг просто намагатися зібрати повний набір цифр з відкритого джерела.
Проблема полягає в тому, що автономний агент може виконувати завдання без ручного підтвердження кожного окремого запиту. Якщо він багаторазово звертається до одного сервера, це може:
- створювати значне навантаження на ресурс,
- виглядати як атака незалежно від початкової мети користувача.
OpenAI поки публічно не прокоментувала цей випадок, хоча компанія неодноразово наголошувала, що працює над обмеженням шкідливої поведінки своїх агентів.
Источник: speka.ua