USB, кабели, питание и передача данных

AI и дата-центры

SenseTime открыла веса Loop-9B: 9 млрд параметров считают как 56 слоёв

Публикация:

Редакция USB.RU

SenseTime выложила веса и код SenseNova Loop-9B, мультимодальной модели на 9 млрд параметров. Средние слои она прогоняет дважды, поэтому 32 физических слоя дают 56 слоёв вычислений за проход. Контекст доходит до 512K токенов, а лицензия у проекта Apache 2.0.

SenseNova Loop
Иллюстрация: SenseNova Loop.

SenseTime официально выпустила SenseNova Loop-9B и открыла веса и код модели. Релиз вышел 17 ноября, а 18 ноября появились ссылки на веса AWQ и GGUF. Модель принимает текст и картинки, а генерирует текст, и рассчитана на сложное рассуждение, код, работу с инструментами и мультимодальные задачи.

Приём модели в том, что она переиспользует веса слоёв. Из 32 физических слоёв декодера средние 24 прогоняются дважды подряд, и за один проход получается 56 слоёв вычислений. К этому добавляются гиперсвязи mHC с двумя остаточными потоками, которые маршрутизируют информацию между слоями.

По замерам самой SenseTime модель держится на уровне Qwen3.8-27B, которая втрое больше. На AIDABench у Loop-9B 65.31 балла против 65.01 у Qwen3.8-27B, а на NL2Repo, 41.36 против 44.60. Релиз заметно обходит превью: AutomationBench вырос с 14.33 до 36.67, а GAIA, с 37.86 до 69.90.

Практическая сторона такая: контекст у модели доходит до 512K токенов. При 4-битных весах и 8-битном KV-кэше инференс на контексте 256K занимает около 15 GiB видеопамяти. Сами веса в 4-битной квантизации занимают около 4.9 ГБ, а официальная версия AWQ вышла в день релиза.

Есть и честные ограничения, которые SenseTime пишет прямо в карточке модели. На сложных инструкциях и длинных задачах агента результат бывает неровным, а сайты со сложной 3D-графикой и богатой анимацией модель может не доделать за один проход. Cambricon и MetaX заявили поддержку модели на своих ускорителях в день релиза.

В нашей ленте о моделях: Microsoft выпустила семь моделей MAI и модели Xing 4, обученные на китайских чипах Ascend.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение