AI и дата-центры
Penguin показала фотонный модуль памяти для ИИ: до 16 ТБ DDR5 и 576 ГБ HBM3E вдали от GPU
Публикация:
Penguin Solutions представила MemoryAI Photonic Appliance: память на кремниевой фотонике, которую процессоры и ускорители делят между собой через несколько стоек. Устройство нацелено на суммарную пропускную способность 57.6 Тбит/с, а образцы для избранных заказчиков ждут во второй половине 2027 года.

MemoryAI Photonic Appliance это первое фотонное устройство памяти класса HBM: оно построено на технологии Marvell Photonic Fabric и использует кремниевую фотонику, чтобы процессоры и ускорители прозрачно делили вынесенную память с высокой пропускной способностью между несколькими серверами. Penguin показывает устройство на выставке SC26 в Чикаго вместе с лежащим в его основе модулем MemoryAI Photonic Memory Module, первым кремниево-фотонным модулем памяти с производительностью класса HBM.
Быстрая память HBM должна находиться в миллиметрах от GPU, поэтому ее объем ограничен размером корпуса и числом выводов кремния, а узкие места в доступе к данным оставляют ускорители недогруженными. Устройство Penguin ставит память в метрах от GPU и дает доступ к ней на скоростях класса HBM через фотонную фабрику, используя HBM или обычную DDR5. Память дополняет уже установленную в GPU память, а не заменяет ее, и видна приложениям как напрямую подключенная, без специальных процедур доступа и копирования данных. Через подключение CXL 3.0 и фотонные сетевые карты Marvell к тому же общему пулу получают доступ и процессоры.
Устройство нацелено на суммарную пропускную способность 57.6 Тбит/с и поддерживает до 16 ТБ памяти DDR5 RDIMM и 576 ГБ памяти HBM3E. Доступны три режима: прямой доступ к HBM, кэширование HBM-DDR5 и прямой доступ к DDR5. В основе устройства лежит модуль Marvell Photonic Fabric: два стека HBM3e суммарно на 72 ГБ и восемь каналов DDR5 на кремниево-фотонном интерпозере с пропускной способностью 7.2 Тбит/с в обе стороны, а одно устройство обслуживает до 16 серверов. Образцы для избранных заказчиков Penguin планирует начать во второй половине 2027 года, а цена пока не названа. В начале ноября Penguin уже показывала карту расширения памяти через CXL, о чем мы писали в отдельной новости, а о том, как оптика нового поколения входит в ИИ-центры, рассказывалось в материале о модуле LIGITEK.