NVIDIA выпустила открытую модель Bolt E4B на 4 ГБ для голосовых помощников и роботов

NVIDIA 23 октября выпустила открытую модель Nemotron 3.5 Bolt E4B 4GB для разговорных агентов. Модель построена на Gemma 4 E4B с дообучением Nemotron и рассчитана на голосовых помощников, персонажей в играх и роботов на локальном железе.

Контекст модели составляет 64,000 токенов, поддержка языков охватывает 35 языков, а режимы работы включают короткий речевой режим и режим рассуждений для сложных запросов. На видеокарте RTX 5070 модель заняла 3.5 ГБ видеопамяти, первое слово появилось через 548 мс, а скорость составила 133.4 токена в секунду.

На плате Jetson Orin Nano с 8 ГБ модель заняла 4.2 ГБ и выдавала 15.5 токена в секунду. Это заметно медленнее, чем на видеокарте, но скорости хватает для голосового помощника на недорогой плате.

По собственным замерам NVIDIA, средняя оценка Bolt E4B примерно на 40% выше, чем у предыдущей модели Nano 4B, а выходных токенов в тестах с рассуждением до 80% меньше. Есть и слабые места: в тесте Tau2-Bench модель набрала 55.1 против 75.1 у Qwen 3.5 4B, а в тесте RULER уступила предыдущей модели со счетом 87.0 против 91.5.

Название 4 ГБ описывает целевой расход памяти в рабочих задачах, а не размер файла: файл GGUF весит 6.18 ГБ. Веса модели доступны на Hugging Face, а запуск возможен через Ollama и LM Studio.