KAIST提出全新CXL架构:960个加速器“焊”成一颗芯片!

来源:半导纵横发布时间:2026-09-10 11:28
芯片制造
技术进展
生成海报
当英伟达还在用72颗GPU拼一个机架时,韩国科学家已经在想怎么把960个加速器“焊”成一颗芯片了。

当英伟达还在用72颗GPU拼一个机架时,韩国科学家已经在想怎么把960个加速器“焊”成一颗芯片了。

当地时间9月9日,韩国科学技术研究院(KAIST)对外公布了一项颠覆性的研究成果。该校电气工程系Myoungsoo Jung教授团队,联合校内初创企业Panmnesia以及Meta的研究人员,提出了一套基于CXL(Compute Express Link,计算快速链接)的下一代AI数据中心架构,目标是将整座AI数据中心的计算、内存、存储和网络资源,通过硅光子技术整合到一个芯片级别的网络架构中,最多可支持960个AI加速器互联,从而大幅降低跨硬件的数据传输延迟,提升算力与内存资源的整体利用效率。

技术核心:硅光子+光路交换+统一网络

要理解KAIST这项研究的价值,首先要明白当前AI数据中心面临的瓶颈。

传统AI数据中心采用的是“机架级”架构,即GPU插在服务器主板上,服务器装在机架里,机架通过InfiniBand或以太网交换机互联。当集群规模从千卡扩展到万卡,网络层级急剧增加,通信延迟和功耗呈指数级攀升。在AI大模型训练中,GPU之间的数据搬运消耗了大量时间和能源,真正用于计算的占比反而在下降。

尽管英伟达的GB200 NVL72已经将72颗GPU通过铜缆互联在同一机架内,大幅缩短了通信距离,但72颗GPU之间的铜缆连接已经接近物理极限,若再扩大规模,铜缆的重量、体积和信号衰减都难以承受。而KAIST的方案,就是要把“机架级”的互联进一步压缩到“芯片级”。

KAIST架构的核心创新,可以概括为三个关键词:

统一网络架构:在传统数据中心中,GPU之间、GPU与内存之间、GPU与存储之间的通信走的是不同的网络协议和物理通道。KAIST提出的方案将所有通信统一到一套硅光子网络架构上,消除了协议转换的开销。在这个架构中,CPU、GPU、内存和存储不再是各自独立的“资源孤岛”,而是通过光互连紧密耦合的统一系统。

硅光子互联:研究团队采用硅光子技术实现芯片间的高速光互连,单通道速率可达100Gbps以上。相比传统铜缆互联,光互连的功耗更低、延迟更小、传输距离更远。KAIST团队为此专门开发了电吸收调制激光器和半导体光放大器的集成方案,解决了硅光子芯片中光源集成的难题。

光路交换(OCS):传统电交换需要光电转换和包处理,延迟高、功耗大。KAIST的架构引入光路交换技术,通过MEMS微镜阵列直接在光域完成信号路由,无需光电转换,延迟可降至纳秒级。这与谷歌在TPU集群中部署的光路交换技术思路一致,但KAIST将其进一步缩小到了芯片级别。

支持960个加速器的单芯片数据中心

根据论文披露的架构设计,KAIST的单芯片式AI数据中心最多可支持960个AI加速器互联。这是什么概念?要知道,英伟达GB200 NVL72支持72颗GPU,华为CloudMatrix 384支持384颗昇腾芯片,而KAIST的架构直接将单集群规模提升了一个数量级。

在功耗方面,KAIST团队估算,相比传统机架级架构,芯片级数据中心可将互联功耗降低60%以上。由于光互连的能耗远低于铜缆,且光路交换无需光电转换,整体系统的能效比将大幅提升。

在部署密度上,960个加速器集成在一个芯片级架构中,占用的物理空间仅为传统数据中心的一小部分。这对于寸土寸金的数据中心而言,意味着更高的算力密度和更低的土地成本。

放眼全球,高速互联已经成为科技巨头必争的赛道。AMD、英特尔、谷歌、Meta、微软、AWS等多家企业,共同组建开放标准联盟UALink,全力开发新一代加速器互联技术。UALink的目标是在单个机柜内部实现最多1024个加速器的互联,和KAIST本次研究形成了技术路线上的对标,开放互联标准正在逐步挑战私有互联方案的市场地位。

这项研究同样给韩国存储厂商带来新的发展机遇。三星电子与SK海力士正在大力布局CXL内存产品,和HBM高带宽内存形成互补。HBM是直接封装在AI加速卡上的高速内存,而CXL内存可以把大容量DRAM独立出来,供多颗CPU、加速器按需调用共享。

未来,AI服务器的演进方向不再只依赖单卡搭载的HBM,数据中心层面的内存池共享会变得愈发重要。当大量AI卡可以共用一套大容量内存池,能够有效缓解单卡内存容量不足的痛点,减少硬件资源浪费,CXL内存的产业价值也会进一步放大。

当然,这项架构距离真正落地商用,还需要跨过不少现实难关。这套方案目前还需要解决机柜之间的连接距离、电信号传输衰减带来的延迟等物理层面的限制。而KAIST团队也已经把光信号技术纳入研发计划,希望用光互联弥补电信号的短板,突破传输距离约束。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。

评论
暂无用户评论