USB, кабели, питание и передача данных

AI и дата-центры

Модель Kimi K3 на 2.8 трлн параметров уместили в один сервер с воздушным охлаждением

Публикация:

Редакция USB.RU

Skymizer и MiTAC Computing покажут на конференции SC26 сервер с восемью картами HTX301 и 2 ТБ памяти, в котором целиком помещается модель Kimi K3 на 2.8 трлн параметров. Производство чипов планируют начать в первом квартале 2027 года.

Плата
Плата Skymizer. Фото: Skymizer.

Skymizer и MiTAC Computing анонсировали совместный показ на SC26 в Чикаго: модель Kimi K3 компании Moonshot AI, смесь экспертов на 2.8 трлн параметров, будет работать на одном сервере MiTAC с воздушным охлаждением. В сервере стоят восемь карт Skymizer HTX301 с 2 ТБ памяти на картах. Смысл показа в том, что модель такого масштаба целиком помещается в один сервер, и предприятие может запускать её у себя, не отдавая данные и модели во внешнее облако.

Kimi K3, смесь экспертов на 2.8 трлн параметров, из которых активны 104 млрд, обучена с нативной квантизацией MXFP4, поэтому набор её весов занимает около 1.56 ТБ, а оставшаяся память уходит под KV-кэш. Карты HTX301 заточены под декодирование, то есть под генерацию токенов, а не под обучение. Одна карта HTX301-4S потребляет около 155 Вт. На COMPUTEX 2026 команда показывала меньшую модель Qwen3-VL-30B-A3B на 30 млрд параметров, а теперь переносит ту же платформу на Kimi K3.

Пока это анонс показа, а не готовый продукт. Skymizer не опубликовала ни пропускную способность системы, ни задержки, ни цену. Окончательное распределение памяти и список поддерживаемых нагрузок ещё проверяют инженеры, как и энергопотребление всего сервера. Производство чипов HTX301 планируют начать в первом квартале 2027 года, а сроки семплирования и продаж объявят отдельно.

В основе платформы лежит собственная система команд LISA и программная платформа HyperThought, а сама Skymizer с 2013 года делает процессоры LPU для локального инференса языковых моделей. Skymizer называет целевыми заказчиками банки, больницы, госструктуры, производство и разработчиков чипов, где важно держать модели и данные под своим контролем. Тот же анонс покажут в Пекине на ICCAD-Expo 2026, 19-20 ноября.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение