靠内存型芯粒,Rebellions打造高性价比AI NPU

来源:半导纵横发布时间:2026-06-29 17:26
AI芯片
韩国
技术进展
生成海报
韩国本土设计、本土流片制造的处理器,能够凭借单Token综合成本优势,而非峰值算力抢占市场。

人工智能研发竞赛,如今既是企业之争,更是国家之间的博弈。当下这场竞争里,最稀缺的两大资源是电力与硅芯片。目前全球绝大多数AI算力均由美国英伟达供应,而韩国正搭建属于本国、具备完整产业价值的AI供应链。

依托三星与SK海力士,韩国已垄断全球绝大多数高带宽内存(HBM)产能,如今该国正试图把内存领域的领先优势转化为AI算力赛道的立足点。在这条赛道上,Rebellions是无法忽视的本土企业。

Rebellions成立于2020年,现已成长为韩国首家AI芯片独角兽企业。投资方包括三星、SK海力士、Arm,同时还有韩国国家级成长基金入局,市场将这笔投资视作韩国打造“本土英伟达(K-Nvidia)”战略布局的一环。公司押注以内存为核心的推理芯片架构,认为韩国本土设计、本土流片制造的处理器,能够凭借单Token综合成本优势,而非峰值算力抢占市场。

Rebel 100芯片

运行大语言模型,核心瓶颈不在于运算吞吐量,而在于能否持续为算力单元供给数据。每生成一个Token,处理器都需要从内存调取模型权重与持续扩容的键值缓存;因此,决定芯片单位输出成本下限的是内存带宽与容量,而非单纯的浮点运算量(FLOPS)。

Rebellions围绕这一核心痛点打造了Rebel 100,这款产品为系统级封装芯片,通过UCIe互联接口集成4颗规格完全一致的芯粒,单颗芯粒面积约320平方毫米。整套封装搭载144GBHBM3E内存,内存带宽可达4.8TB/s,每颗芯粒内置512MB片上静态随机存储器(SRAM),芯片FP8浮点算力约2PFLOPS。在2026年国际固态电路会议(ISSCC)上,该企业介绍,Rebel 100是行业首款采用UCIe互联的四核粒AI加速器,并宣称在更低功耗区间实现对标H200的性能。

Rebel 100单封装内通过UCIe互联四颗芯粒

在Sunghyun Park看来,这套封装方案完全贴合Transformer大模型推理的运行特征。“我们主打内存优先架构,背后有SK海力士与三星晶圆厂提供技术支撑。”Park表示,“我们将内存与逻辑单元集成至同一颗加速芯片,根源在于Transformer模型对内存带宽需求极高。”

“我们正在研发3D堆叠集成电路,让内存与逻辑电路紧密贴合,对两者做协同优化,以此实现最高效的推理运算。”

为何大模型推理高度依赖内存带宽

Transformer推理的成本痛点,源于芯片设计中长期存在的失衡问题。过去二十年间,芯片运算性能增速远高于数据读写带宽的提升速度,这一行业痛点被称作“内存墙”。

自回归式大语言模型受内存墙制约尤为明显:每生成一个全新Token,都需要读取全部模型权重,外加随生成内容不断膨胀的键值缓存。

行业由此分化出两条技术路线:

第一条路线,把全部运行数据存储在超大尺寸芯片的片上SRAM中,牺牲存储容量换取极致带宽、极小批量下的超低延迟,Cerebras、Groq等头部厂商均采用该方案。

第二条路线,为算力单元搭配高带宽内存。该方案会带来小幅读写延迟提升,但可凭借数十GB的大容量,完整承载大模型与超长上下文窗口,无需频繁跨封装调取数据,这正是Rebellions选择的路线。

Rebellions CEO Sunghyun Park讲解企业内存优先技术路线

SRAM读写速度快但存储密度极低,HBM存储密度可观且带宽表现优异,两种方案的取舍,直接决定加速器适配的细分市场。

以每秒生成Token峰值为优化目标的芯片,适合低延迟、高溢价业务场景;大容量内存方案则面向大规模商用推理场景,这类场景采购决策核心看单Token成本,而非峰值运算速度。

开源软件栈与CUDA生态之争

硬件性能再强,若无开发者愿意使用的软件配套体系也毫无价值,长久以来行业主流软件生态都依托英伟达CUDA搭建。Rebellions的RBLN软件开发套件选择截然相反的路线:基于vLLM、PyTorch、Triton、Hugging Face等开源组件搭建,不开发封闭专有软件栈。

Park用一段行业历史类比解释该决策:“当年英特尔战胜IBM,并非芯片硬件更强,而是英特尔拥抱Linux,IBM固守Unix闭源体系。如今推理芯片行业正在重演相似局面。PyTorch2.0与torch.compile为硬件搭建抽象层,客户无需关心底层采用何种芯片硬件。为此我们最多牺牲5%-10%的硬件峰值性能,但我们认为这笔取舍十分值得。”

这套全开源路线引出一个无法回避的问题,Park也坦言这是企业核心挑战:如果所有厂商硬件都能适配同一套开源上层框架,Rebellions的芯片如何避免沦为无差异化标准化产品?

他给出的答案是:企业将以综合成本与能效优势竞争,而非依靠软件生态锁定客户。“推理业务正在标准化,终端用户不会在意Token由哪款芯片生成。”他说道,“客户只关心生成千个Token的总成本,放到数据中心场景,本质就是固定资产投入与运营电费开销。我们的核心壁垒是能效,且领先幅度并非20%、30%;我们目标做到2至3倍能效优势——因为我们从底层芯片开始,完全为推理场景量身定制。”上述数据仅为Rebellions自身设定目标,尚未经过第三方独立实测验证。

面向持续迭代的模型做芯片设计

为每月持续迭代更新的大模型定制专用ASIC推理芯片,是行业最大难题,业内将这种不确定性称作“硬件彩票”:最终胜出的模型,恰好适配现有硬件规格。固定功能加速器能针对特定算法优化能效,但牺牲灵活性;全可重构芯片保留灵活度,却大幅折损能效。

Park表示,Rebellions选取两条路线中间的平衡方案。“我们七成研发资源押注Transformer架构,判断未来至少四五年内,Transformer仍是主流模型。”他说,“但我们预留充足设计冗余应对其余模型,毕竟市场变化存在不可预测性。”

为此企业依托芯粒模块化架构、两年一代的芯片迭代周期紧跟市场变化。行业头部竞品普遍采用三年迭代周期,Park认为,聚焦执行落地的团队能更快完成新品迭代,跟上市场节奏。模块化设计同时允许Rebellions在封装内集成CPU芯粒,承接原本与神经网络推理并行运行的主控、调度任务,其中就包含长文本输入输出场景所需的键值缓存管理工作。

Park将这套方案定义为“面向未来的可持续架构”:即便业务需求出现突发变化,只需更换单颗芯粒,无需重新设计整颗芯片。

从单芯粒到整机机柜

Rebellions近期推出基于Rebel 100芯片的完整整机系统。企业发布Rebel Rack风冷机柜,单机柜搭载32颗加速器,整机功耗区间约5至7千瓦;另有RebelPod集群方案,可灵活扩展至64至1024颗加速器,适配大规模部署需求。

整套硬件体系的落地资金,来自企业2026年3月完成的4亿美元IPO前融资,投后估值近23.4亿美元;在此之前,Arm领投了2.5亿美元C轮融资。企业释放信号,上市进程或将提速。

Park将整机系统视作企业长期目标的过渡阶段:“或许十年之后,我们会成为AI基础设施服务商。”他表示,“届时客户不会在意机柜内部搭载我们或是别家芯片,大家只关心整机功耗预算、采购成本、整套系统的Token吞吐能力。”

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。

评论
暂无用户评论