USB, кабели, питание и передача данных

AI и дата-центры

MiTAC показала на SC26 стойку Helion и раздельную архитектуру инференса для агентского ИИ

Публикация:

Редакция USB.RU

MiTAC Computing привезла на SC26 экосистему для агентского ИИ: стойку Helion на 32,768 ядер Zen 6, жидкостную стойку 52U с 96 ускорителями MI355X и раздельную схему инференса, где prefill считают GPU, а decode отдают картам Skymizer.

Стенд MiTAC Computing на выставке
Стенд MiTAC Computing на выставке. Фото: MiTAC Computing.

Отдельный акцент стойка Helion, которую MiTAC разрабатывает вместе с AMD. Это решение ORv3 44OU для агентских архитектур нового поколения: до 32,768 ядер Zen 6 в открытом стеке. Компания обещает, что такая стойка поможет эффективнее распределять агентские задачи и считать больше агентов на ватт, но стойка пока в разработке.

Рядом показали жидкостную стойку 52U: 12 серверов G4826Z5 и 96 ускорителей Instinct MI355X, плотность GPU на 50 процентов выше обычной. Стойка с охлаждением ZutaCore держит тепловую мощность свыше 4,000 Вт и тепловой поток свыше 250 Вт на квадратный сантиметр при годовом pPUE 1.03.

Третья часть показа раздельный инференс с Skymizer: prefill считает сервер G8825Z5 на EPYC 9575F или 9755 и MI350X, а decode сервер G4520G6 на Xeon 6 с восемью картами HTX301-4S, по 256 ГБ памяти каждая, всего 2 ТБ. Такую связку предлагают для моделей уровня Kimi K3 с 2.8 трлн параметров, о чём мы писали в отдельной новости.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение