Як контролювати AI-агентів до того, як вони знищать ваші дані
Олекcандр Батуревич
Штучний інтелект у корпоративному секторі у 2026 році остаточно вийшов за межі генерації текстів чи підготовки відповідей на запитання.
Сучасні AI-агенти активно інтегруються в екосистеми Microsoft 365, Salesforce, ServiceNow, cloud-інфраструктури та внутрішні бази даних через протоколи MCP, самостійно викликають API, модифікують записи й виконують складні бізнес-процеси. Для CISO та IT-директорів це докорінно змінює вектор безпеки.
Автономний штучний інтелект трансформується з додаткового софту на потенційного привілейованого інсайдера. AI-агент має широкий доступ до критичних систем і здатний ухвалювати рішення за лічені секунди без прямого підтвердження людиною, а поєднання високої автономності з відсутністю належного нагляду створює серйозні ризики для бізнесу навіть за відсутності злого умислу.
Головна проблема полягає в тому, що класичні концепції управління ідентичністю (IAM) та принцип найменших привілеїв (Least Privilege) більше не дають повної безпеки. Стандартні перевірки прав відповідають лише на запитання, чи має дана сутність доступ до системи, але вони не контролюють доцільність конкретної дії в даний момент. Наприклад, AI-агент може мати легітимні права на читання бази даних клієнтів, проте отриманий усупереч інструкціям токен авторизації формально дозволяє йому виконати й операцію видалення (DELETE). У середовищі автономного АІ модель безпеки, яку просуває Check Point, зміщує фокус від регулювання прав доступу (Who/Access Control) до суворого контролю над виконанням дій (Action Control), адже авторизований запит усе одно може призвести до катастрофічних наслідків.
Практична реалізація контролю на рівні дій передбачає встановлення технічно закріплених зовнішніх меж для AI-агентів. Замість того, щоб сподіватися на системний промпт із проханням «не видаляти продакшн-дані», компанії впроваджують суворі зовнішні політики. У рамках стандарту CRUD (Create, Read, Update, Delete) агенту можна дозволити створення, читання та обмежене оновлення записів, але накласти жорстке блокування або обов'язкове людське підтвердження на будь-які операції видалення. Це захищає систему навіть тоді, коли агент зазнав атаки типу Prompt Injection через сторонній документ чи вебсторінку та «переконався», що видалення даних є найкращим способом виконати завдання користувача.
Критично важливим елементом захисту стає контроль у реальному часі (runtime enforcement). Платформи на кшталт Check Point Workforce AI Security оцінюють промпти, відповіді моделей, виклики інструментів через MCP-сервери та підсумкові операції до того, як вони будуть виконані на рівні API. Це дозволяє перехопити небезпечну дію безпосередньо перед її фіналізацією. Крім того, компаніям необхідно застосувати дисципліну Identity Governance до всього життєвого циклу AI-агентів - від виявлення та призначення конкретного бізнес-власника до моніторингу дій і негайного відкликання прав після завершення роботи інструменту. Безпритульні AI-агенти мають розглядатися як покинуті привілейовані облікові записи з високим рівнем ризику.
Ера автономного штучного інтелекту дійсно вимагає від кібербезпеки переходу від принципу Least Privilege до концепції Least Agency - надання AI-агенту лише тієї міри автономії, яка мінімально необхідна для виконання бізнес-завдання. Справжній Zero Trust для АІ повинен динамічно враховувати ідентичність, контекст, запитаний інструмент та поведінку агента, гарантуючи, що жоден цифровий співробітник не дістане безлімітних повноважень.
Джерело: KO
Поділитися