AI и дата-центры
Astera Labs представила Orion: эталонную стойку для ИИ-инференса под любой ускоритель
Публикация:
Модульная эталонная архитектура позволяет собирать стойки инференса под собственные GPU и CPU без перепроектирования. Масштаб - от 8 до 160 ускорителей на под.
12 октября Astera Labs анонсировала Orion, модульную эталонную архитектуру стойки для ИИ-инференса. Идея в том, что оператор сам выбирает GPU и CPU, а стойка от конкретного ускорителя не зависит. Сами стойки и отдельные системы будут выпускать ODM- и OEM-партнеры компании; целевая аудитория - неоклауды и предприятия, которым нужно быстро и недорого наращивать инференс.
В основе - фабрика scale-up на открытых стандартах: 320-полосный коммутатор PCIe позволяет масштабировать под от 8 до 160 GPU, а компонуемая инфраструктура помогает выжать больше токенов в секунду из того же ускорителя. В состав входят вычислительные, фабричные, памятные лотки и соединительные платы, за управление отвечает ПО COSMOS Rack Manager и COSMOS Fabric Manager. В дорожной карте - переход на открытый интерконнект UALink.
Работающая стойка Orion со сменными предварительно проверенными лотками была показана на OCP Global Summit 12-15 октября в Сан-Хосе. Эталонные дизайны станут доступны через партнеров в первом квартале 2027 года.