HBM是目前存储最热门的技术,而且热度已经远远溢出了存储行业,在当下任何一家数据中心相关公司的年报和交流中,HBM都会被反复提及,无论是英伟达、美光、还是博通。但存储产业里还有一项技术,在AI时代具备同HBM一样的潜力,那就是新一代内存技术 Compute Express Link (CXL) 。
HBM技术通过DRAM的垂直堆叠实现高内存带宽,就像在逻辑芯片上盖起一层层高楼,但楼层不能无限制的增高,所以HBM的内存容量有天然的限制。但AI对内存的需求却没有限制,从文字到视频,从GPT3.0到GPT5.0,从一个用户到十亿用户,这背后都意味着存储容量的指数级增长。
CXL技术是解决内存容量问题的关键。和HBM建高楼的思路不同,CXL致力建立高速统一的连接标准,从CPU修双向八车道高速到内存集群。这让CXL技术的读取速度虽不能像直接在逻辑芯片上盖楼的HBM一样快,但却可以有更大的内存容量。
CXL(Compute Express Link)技术是一种高速、大容量中央处理器(CPU)到设备以及CPU到内存连接的开放标准,专为高性能数据中心计算机而设计。其建立在串行PCI Express(PCIe)物理和电气接口的基础上,包括基于PCIe的块输入/输出协议(CXL.io)以及用于访问系统内存(CXL.cache)和设备内存(CXL.mem)的新高速缓存一致性协议。串行通信和池功能使CXL内存在实现高存储容量时能够克服常见DRAM内存的性能和插槽封装限制。
CXL的未来展望包括通过CXL连接HBM,同时结合HBM和CXL的优点,获得高的读取速率,并且支持容量扩展。另一个大胆的设想是在同等pin(引脚)的情况下,直接用CXL在逻辑芯片上对HBM进行替代,以获得远远大于HBM的带宽和容量,以一个16GB的HBM3为例,其在逻辑芯片上的1920个Pin可以供64个4GB的CXL使用,从而获得256GB的容量和高达4TB/s的带宽。
CXL有望成为下一代高带宽内存 ,三星电子正积极与客户合作以取得竞争优势。SK 海力士也在加速开发相关技术,将 CXL 定位为两大韩国内存巨头争夺的关键战场。
据悉,三星近日宣布与联想合作,成功开发出业界首款CXL内存模块“128GB CMM-D”,采用12nm级32Gb DDR5 DRAM,与上一代产品相比,带宽提升10%,延迟改善20%。
CXL 基于 PCIe 技术,将 CPU、GPU 和加速器等各种设备连接到内存,通过模块化添加可以扩大内存容量和带宽。与增强单芯片性能以加速 AI 计算的 HBM 不同,CXL DRAM 可让多台服务器共享内存,从而同时提高容量和速度。
三星正与联想密切合作,在搭载英特尔至强 6 处理器的服务器上验证该技术,并计划让联想系统采用三星的 CXL 技术应用于人工智能和高性能计算 (HPC) 领域,从而提升三星半导体部门的盈利能力。
目前,三星在内存领域尚未通过英伟达的HBM3E测试,SK海力士占据了市场主导地位。业内分析人士认为,面对这一挑战,三星将把CXL等先进工艺和技术视为复苏的关键,并将继续加大投资。
与此同时,SK 海力士也在大步迈进,目标是在 2024 年下半年实现 96GB 和 128GB CXL 2.0 模块的商业化。2024 年 5 月,该公司推出了“CMM-DDR5”,与现有的 DDR5 相比,其带宽提高了 50%,容量增加了一倍,同时还推出了“Niagara 2.0”,这是一种链接多个 CXL 内存单元的池化内存解决方案。
随着生成式人工智能对数据的需求不断增长,CXL 市场预计将大幅增长。市场研究公司 Yole Intelligence 预测,到 2028 年,CXL 市场规模将从 2022 年的 170 万美元扩大到 150 亿美元,行业利益相关者预计 CXL 将解决半导体领域与高性能和高容量相关的长期挑战。
而CXL 市场的核心是 DRAM。Yole Group 预计,到 2028 年,120 亿美元将来自 DRAM,在当今以数据爆炸为特征的人工智能时代,PCIe等现有计算标准限制了DRAM模块的简单安装,并阻碍了物理可扩展性,CXL 解决了这些挑战,未来有望驱动DRAM市场新一轮的发展。
就2024年来看,CXL标准落地仍有许多障碍需要克服。三星开发的 CXL 2.0 DRAM 与现有标准相比,可扩展性有限。开发与 GPU、CPU 和 DRAM 兼容的 CXL 交换设备、设计 CXL DRAM 模块以及快速开发支持软件等挑战都是当务之急。
而建立生态系统也同样重要。CXL领域的知名企业包括与拥有 CXL 3.0 设计资产和集成解决方案的全球半导体公司合作的韩国初创企业Panmesia,以及拥有 CXL DRAM 控制器设计技术的中国的澜起科技。业内人士指出:“要在 CXL 3.0 中实现理想的可扩展性,仅仅停顿在部分技术开发上是不够的,必须要有涵盖整个生态系统的整体技术。”
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。