«Досягла критичного порогу кібербезпеки»: OpenAI призупинила роботу над моделлю Astra
OpenAI призупиняє роботу над ШІ-моделлю Astra після внутрішньої перевірки, що виявила її значні досягнення у сфері програмування агентів та кібербезпеки. Про це повідомили у блозі компанії.
Згідно з оцінками компанії, Astra досягла «критичного порогу кібербезпеки».
«Відповідно до нашої Рамкової системи готовності, модель досягає критичного порогу в сфері кібербезпеки, якщо вона здатна самостійно виявляти та розробляти функціональні експлойти нульового дня будь-якого рівня складності для багатьох захищених реальних критично важливих систем без втручання людини, або розробляти та виконувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету.
Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні оцінки вказують на достатньо високі результати продуктивності, тому наразі ми не можемо виключити досягнення критичного рівня можливостей», — пояснили в OpenAI.
Компанія запровадила більш суворі заходи безпеки та співпрацює з держустановами й окремими організаціями у сфері безпеки ШІ для додаткового тестування можливостей моделі.
Водночас компанія наголосила, що Astra перебуває у стадії розробки і не була залучена до випадку з використанням вразливості стартапу Hugging Face.
Нагадаємо, нещодавно автономний агент компанії OpenAI вийшов з ладу під час внутрішнього тестування безпеки та ініціював хакерську атаку на інфраструктуру Hugging Face, який спеціалізується на штучному інтелекті.
В OpenAI назвали інцидент «безпрецедентним» і таким, що включав «найсучасніші кіберможливості». Компанія повідомила, що посилить свої заходи безпеки.
Згідно зі звітом Check Point про фішинг брендів за другий квартал 2026 року, ChatGPT вперше ввійшов до десятки брендів, яких найчастіше копіюють кіберзлочинці.
- Читайте також: Повстання машин. Як ШІ-модель організувала атаку та що це означає для цифрової безпеки
Фото: OpenAI