Samsung объединила память серверов в общий пул на CXL и Ethernet: заявлены до 256 ТБ

О разработке пишет The Korea Herald: исследователи американского подразделения Samsung по полупроводниковой памяти опубликовали статью «CMM-MP (CXL Memory Module-Memory Pooling): A Novel Memory Pooling Architecture Utilizing CXL and Ethernet». Идея модуля в том, чтобы память, установленная в разных серверах, работала как единый пул: CXL отвечает за расширение памяти внутри сервера, а Ethernet выносит ту же связность за его пределы, на другие машины. Существующий пулинг на CXL строится через выделенные коммутаторы, у которых ограничены масштабируемость и дальность связи, а стоят они дорого.

Прототип, описанный в статье, собрали из двух серверов на процессорах Intel Xeon и шести модулей CMM-MP: получился общий пул на 288 ГБ, все устройства соединили через коммутатор Ethernet на 200 Гбит/с. Замеры показали, что доступ к памяти удаленного устройства через коммутатор занимает около 2.7 микросекунды, а пиковая скорость чтения достигает 23.1 ГБ/с. По словам исследователей, по задержке доступа CMM-MP оказался на уровне обычных решений на RDMA.

Параллельно Samsung показала на саммите OCP Global Summit в Калифорнии 12 октября совместную с AMD демонстрацию расширения памяти на CXL: технология пулинга на модуле CMM-D позволяет нескольким системам делить общие ресурсы памяти и гибко распределять емкость под задачи ИИ. Вице-президент Samsung по прикладному инжинирингу Шим Хо Джун заявил на саммите, что одной скорости памяти для растущих ИИ-систем уже недостаточно, и назвал три направления работы: скорость, расширение памяти и сохраняемость данных.

Пока это исследовательская работа, а не готовый продукт. Аналитики, опрошенные изданием, отмечают, что до реального внедрения CXL и CMM-MP в дата-центрах пройдет время: под новый подход должны одновременно подготовиться процессоры, ускорители и остальная экосистема. Сами исследователи планируют доработать управление ресурсами памяти, сделав распределение более детальным и динамическим.