Суперкомп’ютер Маска може отримати ще сотні тисяч GPU Nvidia

Суперкомп’ютер Colossus 2, який розвиває компанія xAI Ілона Маска, продовжує масштабуватися. Наразі система вже використовує сотні тисяч прискорювачів Nvidia, а до кінця 2026 року їхня кількість може суттєво зрости. За словами Маска, Colossus 2 зараз має 110 тисяч Nvidia GB200 та 440 тисяч GB300, а ще до 660 тисяч GB300 можуть бути запущені протягом найближчих місяців.

При цьому з’ясувалася цікава особливість архітектури системи. Кратність у 110 тисяч GPU пов’язана не лише з доступністю чипів, а й з мережевою інфраструктурою. Маск пояснив, що таку кількість визначає число оптичних кабелів, які можна підключити до одного центрального комутатора. Тобто під час масштабування Colossus 2 доводиться враховувати не тільки електроенергію та охолодження, а й можливості мережевого обладнання.

Энергоспоживання також залишається одним із головних викликів. За оцінкою Epoch AI, поточна IT-потужність Colossus 2 становить близько 946 МВт, а після запланованого розширення вона може перевищити 1,5 ГВт. Для такого комплекса необходимы масштабные системы охлаждения и собственная энергетическая инфраструктура.

У вересні Маск повідомив про плани додати ще 220 тисяч GB300 наступного тижня, ще 220 тисяч – у листопаді, а третю партію такого самого розміру компанія може запустити наприкінці грудня, якщо все піде за планом. У такому випадку загальна кількість GPU в інфраструктурі xAI може наблизитися до 1,44 млн.

Таким чином, масштабування Colossus 2 залежить одразу від кількох факторів: постачання GPU, електроенергії, охолодження та мережевої інфраструктури. Навіть за наявності сотень тисяч нових прискорювачів їх недостатньо просто встановити – дата-центр має забезпечити передачу даних між ними та необхідну потужність для роботи AI-моделей xAI.

Источник: itechua.com