AI и дата-центры
NVIDIA показала CPO-коммутатор для Vera Rubin Ultra: 576 GPU как один домен
Публикация:
На саммите OCP вице-президент NVIDIA Иэн Бак показал лоток коммутатора NVLink CPO нового поколения: он свяжет оптикой восемь стоек Vera Rubin Ultra в единый домен из 576 GPU, работающий как один гигантский ускоритель для моделей на 10 триллионов параметров.
NVIDIA раскрыла на саммите OCP, как будет масштабироваться Vera Rubin Ultra: восемь отдельных стоек MGX NVL, в каждой по 72 GPU Rubin Ultra, объединяются в единый домен NVLink на 576 GPU - с медными и прямыми оптическими соединениями. Новый элемент, показанный на презентации, - лоток коммутатора NVLink CPO следующего поколения, который связывает стойки оптикой в одну систему.
По спецификациям, которые NVIDIA озвучила на GTC, платформа нацелена на 15 экзафлопс инференса в FP4 и 5 экзафлопс обучения в FP8 - примерно в 14 раз выше, чем у Blackwell GB300 NVL72. На каждый GPU приходится до 1 ТБ памяти HBM4E, суммарно 365 ТБ, а совокупная пропускная способность памяти - 4.6 ПБ/с.
Отличие от прежнего подхода - в оптике между стойками: вместо того чтобы ограничиваться 72 GPU внутри одной стойки, NVLink 7 и CPO растягивают единый домен на всю систему. NVIDIA позиционирует решение как самое энергоэффективное на ватт среди NVLink-систем такого масштаба, а целевой класс задач - модели от 10 триллионов параметров, которые ждут уже в следующем году.
Оговорки: показанные цифры - цели технического роадмапа, итоговая серийная конфигурация может отличаться. Текстовая расшифровка выступления Бака не публиковалась, характеристики платформы известны из презентации NVIDIA на GTC и репортажей с саммита. Коммерческие сроки поставок компания не называла.