OpenAI запускає Astra, свою потужну нову модель

OpenAI випустила Astra, свою останню модель штучного інтелекту та, за словами компанії, найпотужнішу та найфункціональнішу з усіх.

OpenAI стверджує, що Astra являє собою «новий рубіж у використанні комп’ютерів та браузерів» і що вона виконує завдання з неперевершеною «швидкістю, точністю та безпекою».

Модель буде доступна у четвер клієнтам OpenAI, які використовують Daybreak, програму кібербезпеки. Протягом наступного тижня вона також стане доступною через платні плани OpenAI, включаючи облікові записи Pro, Plus, Enterprise та Business, а також через API.

У четвер під час розмови з журналістами президент OpenAI Грег Брокман заявив, що Astra є «найрозумнішою та, що також дуже важливо, найузгодженішою моделлю компанії». Він додав, що вона «об’єднує роки наших досліджень та великих ставок, причому кожен прорив базується на попередньому», і що вона являє собою «реальний зсув у тому, яку роботу люди можуть делегувати ШІ та як він може надати їм можливості».

Багато говорилося про кіберможливості Astra. На початку цього тижня OpenAI опублікувала блог , у якому обговорювала нові можливості моделі, а також нові запобіжні заходи, запроваджені для підвищення безпеки користувачів. У четвер компанія заявила, що протестувала Astra за різними тестами безпеки, щоб переконатися в її можливостях, і що «її здатність виявляти та розробляти експлойти нульового дня може допомогти захисникам знаходити та виправляти слабкі місця».

Зосередженість компанії на узгодженості — тобто схильність моделі робити те, що хоче користувач або що в його інтересах — не може не виглядати як відповідь на нещодавнє порушення Hugging Face, під час якого агент OpenAI вирвався з ізольованого середовища тестування та зламав кілька компаній (дуже яскравий приклад неузгодженості).

OpenAI також хвалився можливостями Astra в галузі кодування, стверджуючи, що це «найкраща модель для розробки програмного забезпечення на сьогоднішній день». На підтвердження цього твердження компанія надає результати різноманітних тестів, пов’язаних з кібербезпекою. Ці тести, схоже, показують, що Astra отримує вищі баги, ніж інші існуючі моделі, включаючи власну Sol від OpenAI та Fable від Anthropic, коли йдеться про такі дії, як пошук помилок, виконання термінальних завдань та відповіді на запити щодо кодових баз.

OpenAI применшив ступінь, до якої Astra використовує непрозору рекурентність, а під час телефонної розмови головний науковець Якуб Пахоцький, здається, розглядав певну непрозорість як природний результат еволюції моделі. Він заявив, що моніторинг процесу міркування моделі є критично важливою формою нагляду, але що «зі зростанням можливостей моделі моніторинг стає все складнішим».

Пізніше він додав, що однією з можливих причин цього було те, що «більш потужні моделі можуть виконувати складніші завдання, використовуючи менше мовних токенів» або «без мовних токенів», що, за його словами, зменшує можливості моніторингу цих конкретних завдань.

Один репортер під час розмови хотів дізнатися, чи насправді OpenAI сповіщає Astra як офіційне поява ЗШІ, або штучного інтелекту загального призначення — часто обговорюваного, але погано визначеного технологічного моменту, на якому ШІ перевершує людські можливості в усьому (або більшості) речей.

Тут Брокман заперечив. «Більше немає контрактного запуску AGI, тому це насправді нерелевантна концепція», – сказав він. Тут Брокман мав на увазі попереднє положення в контракті OpenAI з Microsoft, яке говорило, що партнерство дуету розірветься після появи AGI. Як зазначив Брокман, цього положення більше не існує .

Натомість Брокман пояснив, що визначення AGI еволюціонувало від договірного зобов'язання до «місійної концепції чи духовної концепції». Він додав: «Я залишаю читачеві самостійно вирішувати, чи підходить це йому. Особисто я вважаю, що ми досягли мети».