AI и дата-центры
Ant Group открыла веса Ling-3.1-flash под лицензией MIT: 560 млрд параметров и контекст 1 млн токенов
Публикация:
Двухнедельный бесплатный период в API закончился 14 октября, и команда inclusionAI выложила модель на Hugging Face и ModelScope.
Подразделение Ant Group inclusionAI опубликовало веса Ling-3.1-flash на Hugging Face и ModelScope под лицензией MIT. Модель анонсировали 30 сентября с двухнедельным бесплатным доступом через API при ограничении контекста 256K токенов. 14 октября пробный период закончился, и веса вышли одновременно с переходом сервиса на платную основу.
По карточке модели это гибридная линейная смесь экспертов: 560 млрд параметров всего и 25 млрд активных на токен. Маршрутизация устроена так: 512 экспертов плюс один общий, на каждый токен включаются восемь. Внимание - 63 слоя KDA и 9 слоёв Gated MLA в соотношении 7:1. Окно контекста - до 1 млн токенов.
Для запуска команда рекомендует SGLang: эталон - восемь GPU H200 или четыре GB300, готовый образ поддерживает спекулятивное декодирование MTP. Есть и рецепт для vLLM. В карточке также представлен LingCode - обвязка для длинных кодинг-агентов на базе открытого агента Pi; разработчики рассматривают возможность открыть её код.
По заявлению Ant, модель показывает сильные результаты на агентских и кодинг-бенчмарках Terminal-Bench 4.0, SWE-bench Pro и FrontierSWE, а также на HealthBench Professional и в задачах финансов и материаловедения. Независимых замеров этих чисел пока нет.