Google Cloud та NVIDIA оголосили про загальну доступність інфраструктури на базі NVIDIA Vera Rubin

Компанії Google Cloud та NVIDIA офіційно анонсували швидку загальну доступність хмарних екземплярів Google Cloud A5X, прискорених системами NVIDIA Vera Rubin NVL72.

Запуск нових інстансів у хмарних центрах даних відбудеться вже наступного місяця з наступним розширенням на європейський регіон. Рішення надасть розробникам та корпоративним клієнтам інтегровану платформу для навчання моделей, масштабного інференсу та навчання з підкріпленням (reinforcement learning).

Нові екземпляри A5X об'єднують передові апаратні та мережеві технології в складі хмарного суперкомп'ютера Google Cloud AI Hypercomputer: обчислювальні системи NVIDIA Vera Rubin NVL72 та мережеві адаптери NVIDIA ConnectX-9 SuperNIC й фірмову мережеву архітектуру Google Cloud Virgo.

Для рішення реалізовано четверте покоління рідинного охолодження від Google Cloud для ефективного відведення тепла під високим навантаженням.

У майбутньому Google Cloud планує розширити інфраструктуру до 960 000 графічних процесорів Rubin на багатьох майданчиках.

Для оптимізації споживання електроенергії компанії випробовують технологію NVIDIA DSX MaxLPS, яка підвищує продуктивність на ват у межах лімітів центрів даних.

Першою компанією, яка отримала доступ до інстансів A5X, стала лондонська Ineffable Intelligence, заснована творцем AlphaGo Девідом Сільвером (David Silver). Компанія використовує платформу для створення систем-«супернавчальників» (superlearners), які безперервно вдосконалюються на основі власного досвіду.

«Створення супернавчальників вимагає як значних обчислювальних потужностей, так і надшвидкісного зв'язку між створенням досвіду та донавчанням на ньому. Поєднання обчислювальної продуктивності Vera Rubin і високої пропускної здатності між CPU Vera та GPU Rubin дає нам змогу вивести дослідження на новий рівень», - заявив Девід Сільвер, засновник і CEO Ineffable Intelligence.

Також рекламний гігант WPP продемонстрував референтну архітектуру креативних AI-агентів на базі A5X, моделей NVIDIA Nemotron та фреймворку NVIDIA OpenShell. Використання OpenShell забезпечило безпечну ізоляцію (пісочниці) для захисту корпоративних ресурсів брендів, а навантаження, які раніше вимагали цілого кластера з кількох вузлів, успішно виконалися на одному інстансі A5X.

Для захисту конфіденційних даних та власних моделей Google Cloud стане одним із перших провайдерів, який запропонує апаратні конфіденційні обчислення NVIDIA Confidential Computing на рівні всієї стійки на bare-metal інстансах A4X Max (на базі NVIDIA GB300 NVL72).

Крім того, конфіденційні обчислення стають загальнодоступними на віртуальних машинах G4 VMs із прискорювачами NVIDIA RTX PRO 6000 Blackwell Server Edition, якими вже користуються такі компанії, як Vertebrae, Polaris Cloud та Confidential Core AI.

Як безпечно перейти до системного та керованого використання ChatGPT Business