Google виявила небезпечний збій Gemini під час тесту

Під час тестування Gemini отримала несанкціонований доступ до трьох зовнішніх комп’ютерних систем. У Google кажуть, що ШІ помилково сприйняла їх за частину контрольованого тестового середовища.

Модель штучного інтелекту Gemini від Google під час перевірки кібербезпеки у травні 2026 року отримала несанкціонований доступ до трьох зовнішніх комп’ютерних систем. Про це повідомляє NBC News із посиланням на Google.

У двох випадках модель знайшла облікові дані у відкритому доступі, а ще в одному - самостійно вгадала інформацію, необхідну для входу. При цьому Gemini була переконана, що працює виключно в межах спеціально створеного тесту.

Віцепрезидент Google з інженерії безпеки Гізер Адкінс пояснила, що модель фактично переплутала тестове середовище з реальним інтернетом.

За її словами, під час стандартної оцінки ШІ "знайшла загальнодоступну інформацію в інтернеті та вгадала облікові дані для доступу до вебсайтів", які вважала частиною тестування.

Після входу Gemini не виконувала подальших дій усередині цих систем. У Google також заявили, що не вважають інциденти свідомим порушенням інструкцій з боку моделі. Компанія пов’язує ситуацію саме з помилковим визначенням середовища.

Про випадки Google дізналася у липні після додаткової перевірки, яку проводила кібербезпекова компанія Irregular. За даними компанії, шкоди завдано не було. Водночас Google повідомила власників систем про несанкціонований доступ, а також поінформувала федеральну владу США.

Раніше OpenAI розповіла про шість випадків "неочікуваної або такої, що викликає занепокоєння" поведінки своїх ШІ-моделей, виявлених під час навчання та тестування.

Глава Єврокомісії закликала уповільнити розвиток ШІ

Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp