AI и дата-центры
Веса Inkling 2 Small теперь в открытом доступе: 594 млрд параметров под Apache 2.0
Публикация:
Thinking Machines Lab выложила веса Inkling 2 Small на Hugging Face: модель на 594 млрд параметров теперь можно скачать, дообучить и запустить на своём железе.

12 ноября Thinking Machines Lab выложила веса Inkling 2 Small на Hugging Face. Модель представили неделей раньше с закрытыми весами, а теперь их можно скачать: в двух вариантах, NVFP4 и MXFP8, под лицензией Apache 2.0. Это смесь экспертов на 594 млрд параметров, из которых на каждый токен работают 17 млрд. Модель принимает текст и изображения, а отвечает текстом.
По замерам лаборатории модель набирает 31 балл в индексе Artificial Analysis, а на агентских тестах показывает 72.1% на DeepSWE v1.1 и 86.3% на тяжёлой части SWE-Bench Pro v2. В визуальных задачах у неё 81.6% на MMMU Pro и 1377 баллов на DesignArena Website, лучший результат среди открытых моделей на этом бенчмарке.
Запустить модель дома не выйдет: основному чекпоинту NVFP4 нужно не меньше 500 ГБ видеопамяти, например 2 видеокарты B300 или 4 видеокарты H200. Вариант MXFP8 требует уже 800 ГБ. Зато для серверов всё готово с первого дня: поддержка в vLLM, SGLang, Unsloth и TokenSpeed, а по API модель доступна у NVIDIA, Fireworks, Together, Baseten, Nebius, Modal и Cloudflare.
Лаборатория обещала открыть веса после внешних проверок безопасности, но результаты этих проверок пока не опубликовала. Так что о независимой оценке безопасности модели судить рано, а цифры выше, из замеров самой лаборатории.