AI и дата-центры
Модель Kimi K3 на 2.8 трлн параметров уместили в один сервер с воздушным охлаждением
Публикация:
Skymizer и MiTAC Computing покажут на конференции SC26 сервер с восемью картами HTX301 и 2 ТБ памяти, в котором целиком помещается модель Kimi K3 на 2.8 трлн параметров. Производство чипов планируют начать в первом квартале 2027 года.

Skymizer и MiTAC Computing анонсировали совместный показ на SC26 в Чикаго: модель Kimi K3 компании Moonshot AI, смесь экспертов на 2.8 трлн параметров, будет работать на одном сервере MiTAC с воздушным охлаждением. В сервере стоят восемь карт Skymizer HTX301 с 2 ТБ памяти на картах. Смысл показа в том, что модель такого масштаба целиком помещается в один сервер, и предприятие может запускать её у себя, не отдавая данные и модели во внешнее облако.
Kimi K3, смесь экспертов на 2.8 трлн параметров, из которых активны 104 млрд, обучена с нативной квантизацией MXFP4, поэтому набор её весов занимает около 1.56 ТБ, а оставшаяся память уходит под KV-кэш. Карты HTX301 заточены под декодирование, то есть под генерацию токенов, а не под обучение. Одна карта HTX301-4S потребляет около 155 Вт. На COMPUTEX 2026 команда показывала меньшую модель Qwen3-VL-30B-A3B на 30 млрд параметров, а теперь переносит ту же платформу на Kimi K3.
Пока это анонс показа, а не готовый продукт. Skymizer не опубликовала ни пропускную способность системы, ни задержки, ни цену. Окончательное распределение памяти и список поддерживаемых нагрузок ещё проверяют инженеры, как и энергопотребление всего сервера. Производство чипов HTX301 планируют начать в первом квартале 2027 года, а сроки семплирования и продаж объявят отдельно.
В основе платформы лежит собственная система команд LISA и программная платформа HyperThought, а сама Skymizer с 2013 года делает процессоры LPU для локального инференса языковых моделей. Skymizer называет целевыми заказчиками банки, больницы, госструктуры, производство и разработчиков чипов, где важно держать модели и данные под своим контролем. Тот же анонс покажут в Пекине на ICCAD-Expo 2026, 19-20 ноября.