NVIDIA анонсувала референтну архітектуру OpenShell для безпечного розгортання автономних AI-агентів

Компанія NVIDIA офіційно представила референтну архітектуру NVIDIA OpenShell Reference Architecture - повнофункціональне промислове рішення для безпечного створення, ізоляції, моніторингу та примусового контролю за автономними AI-агентами в корпоративних центрах даних та на граничних пристроях.

Архітектура розширює захищене програмне середовище виконання NVIDIA OpenShell до рівня масштабної апаратно-програмної інфраструктури, покликаної розв'язати проблему безпеки в епоху масового впровадження автономних агентів.

Нова архітектура об'єднує прискорені обчислення NVIDIA із програмним фреймворком для апаратного забезпечення безпеки за принципом тристороннього розподілу обов'язків.

Серверні системи Vera Rubin NVL72 беруть на себе завдання претренінгу, донавчання та інференсу. Для агентних навантажень вони забезпечують до 30 разів вищу пропускну здатність на мегават порівняно з попередніми рішеннями.

Процесори NVIDIA Vera забезпечують удвічі вищу продуктивність порівняно з архітектурою x86 при високій енергоефективності. Вони відповідають за виконання логіки агентів та запускають безпечний контур OpenShell.

Мережеві процесори BlueField-4 працюють у зв'язці із захисним фреймворком NVIDIA Sentry (на базі ПО DOCA). Вони здійснюють безперервний позасмуговий моніторинг поведінки агентів та забезпечують апаратне блокування загрози безпосередньо в кремнії. Якщо агент виходить за межі дозволених дій, Sentry ізолює та зупиняє його за мілісекунди, звільняючи до 20% обчислювальних ресурсів основної системи.

«Продуктивність штучного інтелекту та його безпека мають розвиватися паралельно. Оскільки підприємства готуються розгорнути мільярди AI-агентів, безпека повинна бути закладена в саму обчислювальну архітектуру. З OpenShell агенти думають на Rubin, діють на Vera і контролюються на BlueField», - підкреслив Дженсен Хуанг (Jensen Huang), засновник і генеральний директор NVIDIA.

Архітектура OpenShell експортується й на локальні системи для ритейлу, охорони здоров'я, робототехніки та промисловості завдяки компактним платформам NVIDIA RTX Spark, NVIDIA DGX Spark та NVIDIA DGX Station.

NVIDIA залучила провідні технологічні компанії для підтримки OpenShell на всіх рівнях стека.

На рівні ОС та хмари реалізована повна підтримка Linux-дистрибутивів від Canonical, SUSE, Red Hat, Windows (через Microsoft Execution Containers), а також хмар AWS, Google Cloud і Microsoft Azure.

На рівні моделі забезпечена сумісність із моделями Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection та SpaceX Super Intelligence, а також власною серією NVIDIA Nemotron.

Інтеграцію підтримки OpenShell у свої рішення реалізують 1Password, Check Point, Cisco, CrowdStrike, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI та Zscaler.

Провідні європейські банки BBVA та Santander випробовують OpenShell для аудиту агентів, а SAP інтегрує рішення з Joule Studio runtime.

ServiceNow презентувала персонального AI-агента ServiceNow Arc, заходи якого контролюються через Super Intelligence Control Tower та примусово виконуються через OpenShell.

Апаратну інфраструктуру з підтримкою OpenShell готують провідні виробники обладнання (Dell Technologies, HPE, Lenovo, Cisco, Supermicro) та хмарні провайдери (CoreWeave, Crusoe, Nebius, Oracle Cloud Infrastructure, Vultr та інші). Референтна архітектура NVIDIA OpenShell вже доступна для розгортання.

Як безпечно перейти до системного та керованого використання ChatGPT Business