HBM成本攀升,三星押注LPDDR5X‑PIM

来源:半导纵横发布时间:2026-08-26 17:28
存储
三星电子
生成海报
LPDDR5X‑9600工况下,PIM内部带宽最高可达614GB/s。

在Hot Chips 2026大会上,三星电子将存内计算(PIM)技术推向实用化阶段,发布业内首款基于LPDDR的PIM器件,同时带来实测芯片、性能数据,以及一套可最大限度减少现有内存系统改动的设计方案,面向AI推理场景。

最具商业化参考价值的数据,来自三星边缘AI加速SoC运行Llama 3.1‑8B模型的内部测试。据悉,采用传统LPDDR5X,模型运行耗时12.3秒;切换至PIM内存后缩短至5.4秒,性能提升2.28倍;吞吐量从每秒27.0令牌提升至81.3令牌,约提升3.01倍。

三星给出,LPDDR5X‑9600工况下,PIM内部带宽最高可达614GB/s;传统DRAM通路带宽为76.8GB/s,依托内嵌计算逻辑,内部处理通路带宽实现8倍提升。

以上为三星内部初步测试结果,并非第三方独立基准测试,存在重要前提:传统LPDDR5X与PIM两套测试生成的输出内容存在差异。目前三星仍在优化精度,但表示性能优势有望保留。本次发布尚不属于商业产品发布,只是产品化进程中的又一步。

当下AI内存带来的成本、功耗、数据搬运开销问题,已经愈发难以忽视。PIM的核心思路是把部分计算挪到靠近存储数据的位置,以此降低上述开销。三星在LPDDR5X DRAM存储阵列旁布置计算单元,AI推理核心的乘加运算直接在内存内部完成,无需数据反复在DRAM与处理器之间来回传输。

减少数据搬移,是PIM性能与能效提升的根基。而对落地推广更关键的一点是兼容性:LPDDR5X‑PIM沿用JEDEC标准561球封装;通过三星地址对齐模式(Address Align Mode),可对接现有DRAM控制器,该模式将DRAM内存地址映射为PIM指令。

这套方案可以大幅降低部署该技术所需的系统重构工作量,解决了过去专用内存架构落地难的一大障碍。该技术推进的背后,是AI内存的经济压力持续加剧。HBM在AI芯片元器件成本中的占比,2024年第一季度为52%,2025年第四季度升至63%,内存正在快速吃掉AI硬件越来越多的成本份额。

美光在同届Hot Chips演讲中阐述了硅片层面的取舍:同等容量下,HBM占用的晶圆面积大约是DDR5的三倍。美光HBM架构首席工程师Raghu Sreeramaneni表示,随着每一代产品引脚速率、存储体数量、堆叠层数提升,该面积差距 “完全没有改善迹象”。美光同时指出,处理器算力的增长速度持续快于HBM带宽提升,即便每一代HBM都带来更高带宽,行业长期存在的内存墙问题依旧没有解决。

但LPDDR5X‑PIM并不能视作HBM的替代品。它的外部带宽仍远低于当前HBM堆叠,需要极致内存吞吐量的工作负载依旧离不开HBM。

三星的定位更加细分:针对不需要HBM级外部带宽的推理业务,在内存内部完成部分计算,从源头减少跨接口的数据传输量。这开辟一条提升有效吞吐量的路径,不必一味依赖更宽、更昂贵的内存接口。

功耗方面逻辑类似:PIM突发计算会带来瞬时功耗冲高,但DRAM与主机之间的数据传输量下降,整体总功耗仍有机会降低。最终实际效果仍有待量产系统验证。

2026年这次公开,标志三星PIM技术路线发生转变。三星最早的探索是2021年Aquabolt‑XL HBM2‑PIM概念验证,当时行业关注点集中在 “高带宽内存到底能不能集成计算单元”。

LPDDR5X‑PIM把存算思路落地到低功耗内存品类,同时拿出流片验证芯片、兼容传统控制器、基准测试结果与软件配套。模拟器、数据手册、SDK均可按需申请获取;下一代LPDDR6‑PIM(LP6‑PIM)正在推进,目标推动形成JEDEC行业标准。

标准化将是PIM从私有方案走向大规模普及的关键,为系统厂商提供统一架构,支撑下一代平台设计。

商业落地线索也逐步浮现。业内消息称,三星GAIA AI PC加速器预计将搭配LPDDR5X‑PIM使用。三星在Hot Chips演讲中没有直接点名GAIA,只提到用于LPDDR5X‑PIM验证的边缘AI加速SoC;但有消息称,该验证芯片就是GAIA。

GAIA由三星System LSI部门开发,面向AI PC,采用三星晶圆厂4nm工艺。据称原型样品已经交付联想、惠普做性能评估,最早计划2027年量产。三星尚未官方确认Hot Chips演示平台就是GAIA,也没有官宣这款内存与该芯片绑定的商业化方案。如果这条路线落地,三星就可以实现自研AI处理器搭配具备本地计算能力的内存,减少加速器与DRAM之间的数据交互。PIM技术也将走出单纯内存验证阶段,进入完整客户端AI平台的实测评估。

剩下的悬念在于,这套方案多久能实现大规模落地。三星目标覆盖服务器、客户端、移动设备,但尚未正式公布LPDDR5X‑PIM的客户、出货量以及内存本身的量产时间表。

现阶段,LPDDR5X‑PIM证明三星已经把PIM从概念验证推进到流片验证阶段;而关于GAIA的行业消息,则预示着商业化系统的初步路径正在成型。至于这项架构能否大规模落地,将决定存内计算是成长为AI内存体系中重要的新增层级,还是仅作为部分推理场景的专用方案。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。

评论
暂无用户评论