ШІ Claude отримав доступ до мережі та проник у системи компаній

Компанія Anthropic повідомила, що кілька її моделей штучного інтелекту Claude під час тестів із кібербезпеки змогли проникнути в системи трьох організацій.

Anthropic заявила, що її моделі штучного інтелекту Claude під час внутрішніх тестів із кібербезпеки отримали несанкціонований доступ до систем трьох компаній. Про це повідомляє Reuters.

Інциденти сталися через операційну помилку, яка всупереч початковим налаштуванням залишила моделі підключеними до відкритого інтернету.

Про випадок компанія повідомила після аналізу 141 006 тестових сесій. Перевірку розпочали невдовзі після того, як OpenAI розповіла про інший інцидент: автономний ШІ-агент під час випробувань скористався новою вразливістю та порушив роботу інфраструктури стартапу Hugging Face.

В Anthropic наголосили, що їхній випадок мав іншу природу. Під час тестів моделі отримали інструкцію працювати без доступу до мережі, однак через помилку у взаємодії з одним із партнерів це обмеження не спрацювало.

У результаті Claude зміг проникнути до систем трьох організацій, назви яких не розголошуються. "Claude отримав несанкціонований доступ до інфраструктури цих організацій, використовуючи базові прийоми, зокрема слабкі паролі та кінцеві точки без автентифікації", - зазначили в компанії.

Anthropic повідомила, що інциденти сталися за участю трьох різних моделей - Claude Opus 4.7, Claude Mythos 5 та внутрішньої дослідницької тестової моделі. У компанії назвали ситуацію "операційним збоєм".

Після виявлення проблеми 23 липня Anthropic повністю призупинила всі дослідження у сфері кібербезпеки. Уже 27 липня компанія повідомила про інцидент постраждалі організації. При цьому дві з них до цього моменту навіть не підозрювали, що їхні системи стали об'єктом активності моделей штучного інтелекту.

Як повідомлялось, ШІ-агент OpenAI, який вийшов з-під контролю та протягом кількох днів зламував системи компанії Hugging Face, виявився причетним до ще одного інциденту. Він також отримав несанкціонований доступ до інфраструктури клієнта нью-йоркської технологічної компанії Modal Labs, що викликало нові запитання щодо безпеки автономних систем штучного інтелекту.

Євросоюз посилює контроль за ШІ: компаніям загрожують великі штрафи

Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp