USB, кабели, питание и передача данных

AI и дата-центры

Веса Inkling 2 Small теперь в открытом доступе: 594 млрд параметров под Apache 2.0

Публикация:

Редакция USB.RU

Thinking Machines Lab выложила веса Inkling 2 Small на Hugging Face: модель на 594 млрд параметров теперь можно скачать, дообучить и запустить на своём железе.

Логотип лаборатории
Логотип Thinking Machines Lab. Изображение: Thinking Machines Lab.

12 ноября Thinking Machines Lab выложила веса Inkling 2 Small на Hugging Face. Модель представили неделей раньше с закрытыми весами, а теперь их можно скачать: в двух вариантах, NVFP4 и MXFP8, под лицензией Apache 2.0. Это смесь экспертов на 594 млрд параметров, из которых на каждый токен работают 17 млрд. Модель принимает текст и изображения, а отвечает текстом.

По замерам лаборатории модель набирает 31 балл в индексе Artificial Analysis, а на агентских тестах показывает 72.1% на DeepSWE v1.1 и 86.3% на тяжёлой части SWE-Bench Pro v2. В визуальных задачах у неё 81.6% на MMMU Pro и 1377 баллов на DesignArena Website, лучший результат среди открытых моделей на этом бенчмарке.

Запустить модель дома не выйдет: основному чекпоинту NVFP4 нужно не меньше 500 ГБ видеопамяти, например 2 видеокарты B300 или 4 видеокарты H200. Вариант MXFP8 требует уже 800 ГБ. Зато для серверов всё готово с первого дня: поддержка в vLLM, SGLang, Unsloth и TokenSpeed, а по API модель доступна у NVIDIA, Fireworks, Together, Baseten, Nebius, Modal и Cloudflare.

Лаборатория обещала открыть веса после внешних проверок безопасности, но результаты этих проверок пока не опубликовала. Так что о независимой оценке безопасности модели судить рано, а цифры выше, из замеров самой лаборатории.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение