AI и дата-центры
Microsoft выложила веса Aion Instruct: 2.3 млрд параметров для локального ИИ в Windows
Публикация:
Microsoft выложила на Hugging Face веса Aion Instruct, базовой языковой модели Windows для работы на устройстве. Модель на 2.3 млрд параметров понимает документы и переписку без облака, а контекст у неё 32,768 токенов. Лицензия MIT, а доработанная версия станет штатной моделью Windows к концу января 2027 года.

Microsoft опубликовала на Hugging Face веса Aion Instruct, небольшой языковой модели для Windows. Это базовая модель для локальных сценариев: обработка текста и работа с системой на самом устройстве, без постоянной связи с облаком. Веса лежат в открытом доступе под лицензией MIT, а карточка модели называет её фундаментом языковых функций Windows.
Aion Instruct сменяет Phi Silica, прежнюю модель Windows для локальных задач. Новая модель меньше: 2.3 млрд параметров против 3.8 млрд у Phi Silica, зато входной контекст вырос с 3.5K до 32K токенов. Microsoft обещает более отзывчивые сценарии и экономное использование ресурсов устройства, а технический отчёт с деталями пока только готовит.
Замеры Microsoft, опубликованные в карточке модели, выглядят практично. На тесте следования инструкциям IFEval модель набирает 83.90 балла, на математических задачах GSM8K, 74.91, а на широком тесте знаний MMLU, 55.15. Тесты гоняли через EleutherAI lm-evaluation-harness, а там, где нужен судья-модель, оценку ставила GPT-4o.
Ограничения Microsoft не прячет. Модель не готовили как эксперта по мировым знаниям: маленькая модель может пропускать детали, ошибаться в фактах и теряться в многошаговых рассуждениях. Многоязычных данных в обучении всего около 6%, а языков заявлено восемь: английский, немецкий, испанский, португальский, итальянский, французский, китайский и японский.
Веса выложили сначала в неквантованном виде, квантованные версии обещают следом. Сборка INT4 для ONNX WebGPU на 1.3 ГБ уже доступна. Доработанная версия Aion Instruct вместе с моделью модерации контента станет штатной моделью Windows к концу января 2027 года, а участникам Windows Insider её начнут давать 4 декабря. Поддержка расширится и на дискретные видеокарты: названы NVIDIA RTX и AMD RDNA4.
В нашей ленте о моделях: Microsoft выпустила семь моделей MAI и Tencent выложила веса Hy4 flash.