USB, кабели, питание и передача данных

AI и дата-центры

NVIDIA Vera: 1.6x больше ИИ-агентов на ватт и вдвое быстрее x86 в тестах

Публикация:

Редакция USB.RU

NVIDIA опубликовала результаты тестов процессора Vera для ИИ-агентов: в сравнении для дата-центра на 100 мегаватт один Vera дает 1.6x больше агентов на ватт, чем самый быстрый x86, и вдвое большую скорость агента, чем самый экономичный x86. Партнеры подтверждают цифры на живых нагрузках.

Стойка с процессорами NVIDIA Vera
Стойка с процессорами NVIDIA Vera. Изображение: NVIDIA.

NVIDIA опубликовала в блоге результаты тестов процессора Vera, первого CPU компании для ИИ-агентов. Агенты постоянно переходят от рассуждений на GPU к выполнению на CPU: поиску, запросам к базам данных, написанию и тестированию кода. В сравнении для дата-центра мощностью 100 мегаватт один Vera обошел и самый быстрый процессор x86, и самый экономичный x86.

По данным NVIDIA, Vera дает 1.6x больше агентов на ватт, чем самый быстрый x86, и вдвое большую скорость агента, чем самый экономичный x86. В основе чипа 88 собственных ядер Olympus с технологией Spatial Multithreading, память LPDDR5X с пропускной способностью до 1.2 ТБ/с и связь NVLink-C2C с GPU до 1.8 ТБ/с.

Партнеры проверили Vera на своих нагрузках. Perplexity выполнила агентные задачи кодирования в 1.5x быстрее, чем на традиционных CPU, и планирует внедрить Vera в рабочую систему. DeepInfra получила до 2.2x скорости лучшего x86 на оркестрации агентов, а Daytona подняла 1,000 песочниц агентов за 10.8 секунды против 88.4 секунды на x86.

ClickHouse без специальной настройки под Vera почти линейно масштабировалась на 176 ядрах и вышла на первое место в рейтинге оборудования ClickBench, а DuckDB получила около 1.5x медианной производительности в тесте TPC-H против базового Intel Xeon 6. Vera уже в серийном производстве: ее берут Anthropic, OpenAI и SpaceXAI, а системы строят Dell, HPE, Lenovo и Supermicro. Vera Rubin уже вышла в облаке Oracle, а пакет CUDA получил поддержку Vera Rubin: мы писали об облаке Oracle и о пакете CUDA.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение