USB, кабели, питание и передача данных

AI и дата-центры

Marvell и Penguin разводят память по стойкам: фотонный пул и CXL-карты на старых DDR4

Публикация:

Редакция USB.RU

Marvell и Penguin Solutions объединили усилия по памяти для ИИ-центров: карты SMART CXL на контроллерах Structera X вернут в строй списанные модули DDR4, а фотонная память Marvell соберёт память нескольких стоек в общий пул.

Устройство фотонной памяти Marvell и Penguin
Устройство фотонной памяти. Фото: Marvell.

Компании развивают два дополняющих друг друга направления. Первое, прямое подключение, добавляет контроллеры Marvell Structera X в карты Penguin SMART CXL: центры обработки данных смогут наращивать память, переиспользуя плотные модули DDR4 со списанных серверов и подключая их напрямую через PCIe 5.0 и CXL 2.0. Второе, фотонный пул между стойками, встраивает оптические модули памяти и сетевые карты Marvell Photonic Fabric в устройства Penguin MemoryAI и системы ComputeAI, чтобы память делилась между стойками с высокой пропускной способностью и малой задержкой.

Повод для такой архитектуры, рост инференса и агентного ИИ: модели растут, контекстные окна удлиняются, а кэш ключей и значений требует сотен гигабайт и всё чаще терабайты на узел. Память становится главным ограничением производительности и экономики токенов, а цены на память растут и предложение HBM и DDR5 ограничено.

В основе фотонной части, модуль памяти Photonic Fabric: два стека HBM3e на 72 ГБ и восемь каналов DDR5 на кремниевом фотонном интерпозере с оптическим интерфейсом 7.2 Тбит/с в обе стороны. Устройство на 16 таких модулях держит до 16 ТБ DDR5 и 1 ТБ HBM, которыми делятся до 16 серверов. Penguin собирает само устройство, питание, софт и управление, а Marvell поставляет модули.

Карты SMART CXL на контроллерах Structera X должны выйти на квалификацию и к корпоративным заказчикам до конца 2026 года, а серверы с фотонной памятью совместной разработки начнут поставлять образцы во второй половине 2027 года. Само устройство памяти Penguin компании показали раньше, а нынешнее объявление добавляет к нему контроллеры Marvell и сроки.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение