AI и дата-центры
Edge0-145B: модель на 145 млрд параметров работает на ноутбуке
Публикация:
Edge0 открыла веса Edge0-145B и Edge0-120B: модель на 145 млрд параметров, по заявлению компании, работает на ноутбуке с пиковой памятью 29 ГБ и генерацией выше 80 токенов в секунду.

12 ноября Edge0 выложила в открытый доступ Edge0-145B и младшую Edge0-120B вместе с фреймворком инференса и инструментами развёртывания. Edge0-145B это первая открытая модель для устройств на 145 млрд параметров: из них на каждом шаге вывода работает около 10B, потому что группы по 64 эксперта делят две большие матрицы, а каждый эксперт хранит лишь небольшой набор собственных параметров. Компания заявляет пиковую память 29 ГБ, генерацию выше 80 токенов в секунду, предобработку выше 1,100 токенов в секунду, типичное потребление около 120 Вт и контекст 128K-256K. Модель запускается на ноутбуке с 48 ГБ памяти, например на MacBook Pro.
На DeepSWE 1.1 модель набрала 64.6 против 58.7 у Qwen3.8-Flash-Next и 54.4 у DeepSeek-V4-Flash-0731. На Terminal-Bench 2.1 у неё 86.52, на GPQA-Diamond 90.4, на IFBench 80.6. Средний балл по шести бенчмаркам 72.8 против 71.7 у Qwen3.8-Flash-Next при измеренной пиковой памяти 29 ГБ. На HLE модель набрала 35.4 и уступила Claude-Opus-4.6 с 40.0.
Локальный запуск убирает плату за токены облака, данные остаются на компьютере, а основные возможности работают офлайн. Модель разбивает задачу на шаги, пишет и запускает код, отлаживает ошибки и проверяет результат по скриншотам. Ограничение простое: устройству со слабым железом такая модель не по силам, а межплатформенная память и поиск свежей информации всё равно требуют облака. На старте поддерживаются macOS, Windows и Linux, включая чипы Apple M и платформы NVIDIA RTX. Код фреймворка лежит на GitHub под лицензией Apache 2.0, а веса модели на Hugging Face. Похожая ставка на локальный запуск уже сделана в модели NVIDIA для автопилота: она рассуждает прямо в машине. А веса открытой модели Kimi Moonshot выложила в открытый доступ раньше.