
今日,SK海力士宣布,公司正式量产基于第六代10纳米级(1c)LPDDR5X低功耗DRAM的192GB(千兆字节)容量SOCAMM2产品。
SOCAMM2是一款将主要适用于智能手机等移动端设备的低功耗内存,针对服务器环境进行优化的内存模块,主要面向下一代AI服务器等应用场景。SK海力士表示:“公司采用1c工艺的SOCAMM2,是专为高性能AI运算优化的解决方案。与传统的RDIMM相比,其带宽提升逾两倍,功耗降低75%以上。”
该公司特别强调,该SOCAMM2产品是面向英伟达的Vera Rubin平台设计的。此外,该产品可从根本上缓解数千亿参数级AI大模型在训练与推理过程中所面临的存储瓶颈问题,SK海力士期待其助力能够大幅提升整体系统的处理速度。
该公司还表示:“随着AI发展从训练转向推理阶段,支持大型语言模型低功耗运行的SOCAMM2作为下一代存储器解决方案,正备受瞩目。为满足全球云服务供应商(Cloud Service Provider)客户需求,公司提前搭建起稳定的量产体系。”
SK海力士AI Infra担当金柱善社长(CMO,Chief Marketing Officer)表示:“通过192GB容量SOCAMM2的产品供应,公司建立了面向AI的存储器性能新基准。公司将与全球AI客户紧密合作,成为‘客户最信赖的面向AI的存储器解决方案企业’。”
AI技术的发展正引领着计算领域的范式变革,而内存技术则成为这一变革的关键所在。HBM与LPDDR内存解决方案,对于释放GPU的计算潜能起到了至关重要的作用。然而,随着内存需求的不断增长,如何在有限的设备体积和成本内容纳更高容量的内存,已成为一个挑战。
同时,服务器的内存消耗占据了相当大的功耗比例。在配备每插槽TB级DDR5内存的服务器中,DRAM的功耗甚至超过了CPU。为了应对这一挑战,英伟达设计了基于LPDDR5X内存的Grace CPU,其功耗低于DDR5,同时通过借鉴AMD和英特尔数据中心级处理器的宽内存总线设计,实现了高内存带宽。但迄今为止,LPDDR DRAM主要采用板载(On-Board)方式,直接焊接在设备主板上,而非模块化设计。
而板载方式的缺点在于一是成本高昂,更换时必须整块主板一起更换。二是缺乏灵活性,不支持升级,更换难度大。然而,对于基于GB200 Grace Blackwell的系统,英伟达不得不采用焊接式的LPDDR5X内存封装,因为缺乏能够满足其容量需求的标准LPDDR5X内存模块。
因此,SOCAMM横空出世。SOCAMM的出现,不仅仅是一项技术的创新,更是一场深刻的行业革命。它以一种全新的模块化设计,彻底改变了传统内存的使用方式。
在性能方面,SOCAMM的表现尤为突出,得益于其底层创新设计,包括128-bit总线和近CPU布局,这些设计优化了信号完整性,减少了信号传输延迟,从而显著提升了整体性能。SOCAMM数据传输速率可达8533Mbps,相比DDR5 RDIMM的6400Mbps,性能提升了约33%,可以满足AI训练和高性能计算中对数据吞吐量的极高要求。在能效方面,SOCAMM同样表现出色。其采用1.05V的低电压供电,功耗仅为DDR5 RDIMM的1/3。结合液冷技术,SOCAMM能够在高密度部署的场景下有效降低功耗,这对于数据中心的运营成本控制和可持续发展具有重要意义。这些创新设计使得SOCAMM在性能、能效和空间利用方面都达到了新的高度,为高性能计算和存储领域带来了全新的解决方案。
据EBN称,SOCAMM被视为下一代HBM,在小型PC和笔记本电脑中具有优于传统DRAM的性能和能效,这可能是关键所在。预计SOCAMM的出现将在整个半导体行业产生连锁反应,影响到三星电子、SK海力士等内存厂商,以及Simmtech和TLB等基板公司。
目前,SOCAMM内存技术适用于需要高性能内存支持的场景,如AI计算、高性能计算、数据中心等。由于其可拆卸升级的特点,SOCAMM内存技术还适用于需要频繁更新硬件设备的领域,如游戏、图形设计、虚拟现实等。随着AI、大数据、云计算等技术的快速发展,对高性能内存的需求日益增加。SOCAMM以其卓越的性能和能效比,正好满足了这些领域对内存的高要求。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
