USB, кабели, питание и передача данных

Инфраструктура ИИ

AMD и Microsoft вывели Instinct MI350P на Windows Server

Публикация:

Редакция USB.RU

GPU AMD Instinct MI350P получил поддержку Windows Server 2025 и готовящейся Windows Server 2028: локальный инференс, микросервисы AIMs и партиционирование ускорителя между нагрузками.

Плата AMD Instinct MI350P
AMD Instinct MI350P. Фото: AMD

AMD и Microsoft объявили о поддержке GPU AMD Instinct MI350P в Windows Server 2025 и готовящейся Windows Server 2028. Ускоритель выводит инференс ИИ-моделей в корпоративные Windows-среды: компании смогут запускать модели на собственных площадках, рядом с данными, которые нельзя выносить в облако.

Партиционирование и микросервисы инференса

Сразу на старте поддерживаются AMD Inference Microservices (AIMs) и партиционирование GPU. AIMs упрощает развертывание поддерживаемых моделей, а партиционирование делит один Instinct MI350P на части и распределяет их между нагрузками: встраивающей модели или небольшой языковой модели не нужен целый ускоритель, и ИТ-команды могут запускать несколько модельных сервисов на одной карте.

Сценарии применения

  • SQL Server 2025 и RAG: встроенные векторные возможности SQL Server 2025 работают в связке с локальными embedding-моделями на MI350P; AMD и команда Microsoft SQL Server готовят демонстрацию генерации эмбеддингов на GPU внутри существующего RAG-конвейера.
  • Кодовые агенты: общие модельные сервисы на MI350P обслуживают агентов программирования для команд разработчиков, а проприетарный код остается внутри инфраструктуры компании.
  • Корпоративные копилоты: общие точки инференса резюмируют документы и ищут по утвержденным базам знаний.
  • AVD в гибридном режиме: приложения из удаленных сессий подключаются к централизованному инференсу, без отдельного GPU на каждое рабочее место.
Ускоритель AMD Instinct MI350P
AMD Instinct MI350P получил поддержку Windows Server 2025 и будущей Windows Server 2028. Фото: AMD

Клиенты все чаще переходят к гибридной модели потребления ИИ-сервисов, оптимизируя расходы и суверенитет данных. Вместе с AMD мы выводим мощное инференс-железо на рынок, чтобы заказчики могли приблизить инференс к данным, которые остаются на их площадках.

Нил Хиннант, генеральный менеджер Windows Server, Microsoft

AMD увязывает анонс с обновлением парка серверов: консолидация традиционных нагрузок на процессорах EPYC освобождает стойки, питание и охлаждение под ИИ-инфраструктуру, а Instinct MI350P добавляет ускорение инференса в тот же бюджет и план мощностей. Локальный инференс при этом не отменяет облачных моделей: компании могут держать чувствительные нагрузки у себя, а фронтирные модели вызывать из облака.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение