绕开HBM和液冷！欧洲AI芯片公司推出Titania架构

AI推理需求持续增长，数据中心面临的功耗、散热和内存成本压力也越来越突出。传统GPU服务器对高带宽内存（HBM）和液冷基础设施的依赖，进一步抬高了大型AI模型的部署成本。

近日，欧洲AI芯片公司Axelera AI公布了第三代芯片架构Titania，试图通过Chiplet设计、存算一体和LPDDR6内存，在降低硬件成本和功耗的同时，提供面向大型AI模型的推理能力。公司公布的目标是，每瓦吞吐量最高达到顶级数据中心服务器的7倍，总拥有成本（TCO）最高改善20倍，并支持在传统风冷机柜中部署。

第三代架构Titania，采用Chiplet设计

Axelera AI成立于2021年，总部位于荷兰埃因霍温，主要开发AI推理加速芯片。此前，公司已经推出Metis和Europa两代架构，分别面向边缘AI和企业级AI应用。Titania则进一步将产品布局延伸至大型数据中心推理市场。

在技术路线方面，Titania延续了公司此前采用的数字存算一体（D-IMC）架构，并引入Chiplet设计、LPDDR6内存和可编程RISC-V计算单元。

D-IMC的核心思路是让计算尽可能靠近数据存储位置，减少数据在计算单元和存储单元之间反复传输产生的功耗与延迟。Titania在此基础上增加浮点计算支持，采用更多、更小的计算核心，以适应生成式AI和大规模推理任务。

据悉，每个Titania Chiplet采用台积电N4C工艺，集成32个AI核心、16个计算核心和128MB共享SRAM，FP8峰值算力达到1.25 PFLOPS。每个系统级封装（SiP）集成两个Chiplet，FP8算力达到2.5 PFLOPS。芯片还配备RISC-V计算资源，用于数据调度、向量处理和不同计算单元之间的任务协调。通过这种设计，Axelera AI希望提高计算资源利用率，减少数据搬运带来的额外开销。

绕开HBM依赖，LPDDR6提供1TB整机内存

Titania最受关注的设计之一，是采用LPDDR6替代传统AI加速器高度依赖的HBM。

HBM拥有较高的带宽，但成本、供应和先进封装要求也给AI服务器建设带来压力。Axelera AI选择通过存算一体架构降低数据移动需求，同时利用LPDDR6提供更大的内存容量。

按照公司公布的信息，每个Titania SiP可提供128GB LPDDR6内存。通过多个封装组合，整机能够获得更大的内存容量，以满足大型模型参数存储和推理过程中的缓存需求。

这一方案尤其针对混合专家模型（MoE）。这类模型虽然拥有庞大的总参数规模，但每次推理只激活其中一部分专家，因此内存容量、数据调度和缓存管理都会影响实际推理效率。

在整机层面，Axelera AI推出了AX8参考服务器方案，采用8个Titania SiP加速封装，主要配置如下：

• FP8算力：20 PFLOPS
• 加速器内存容量：1TB
• 内存带宽：19.6TB/s
• 机箱规格：4U
• 典型功耗：5～6kW
• 散热方式：风冷

按照公司的设计目标，单台AX8能够容纳一个1.6万亿参数的FP4模型，同时为KV Cache预留空间。

在机柜部署方面，两台AX8服务器可以放入传统15kW机柜，五台则可以部署在30kW风冷机柜中。公司希望借此降低企业部署大型AI推理系统时对液冷基础设施的依赖，减少数据中心改造成本。

兼顾多种部署形态，完善软件生态

除了AX8服务器，Titania还提供标准PCIe加速卡和OCP规范的UBB基板等产品形态。其中，UBB基板可以集成8个Titania OAM模块，通过扩展网络实现多个加速器之间的协同计算，以适应不同规模的数据中心部署需求。

软件方面，Titania将继续使用Axelera AI的Voyager工具链，支持张量并行、专家并行和流水线并行等模型部署方式，同时支持推测解码、KV Cache卸载和KV Cache分离等功能。这些技术主要用于优化大模型推理过程中的计算调度和内存资源利用率。

此外，Titania还整合了视频处理能力，支持片上8K视频解码和4K视频编码，兼容H.265和AV1格式，可以将大语言模型、视觉语言模型、语音模型及实时视频分析任务放在同一套硬件平台上运行。

Axelera AI还希望保持不同代际产品之间的软件兼容性。按照公司的规划，原先部署在Europa平台上的模型和应用可以迁移至Titania，减少客户重新开发和移植的工作量。

获得超3亿美元订单承诺，2027年启动量产

在商业化方面，Axelera AI表示，Titania已经获得超过3亿美元的客户承诺订单，产品将通过OEM合作伙伴提供，覆盖风冷和液冷两种服务器配置。公司计划于2027年第三季度启动量产，客户部署承诺已经延伸至2028年初。

Titania的研发还获得了欧洲高性能计算联合事业（EuroHPC JU）DARE项目支持。2025年3月，Axelera AI宣布获得最高6160万欧元的项目资金，用于开发面向高性能计算和数据中心的可扩展AI Chiplet。该项目重点推动欧洲自主处理器、加速器及RISC-V相关技术的发展。

从市场定位来看，Titania瞄准的是大型AI推理基础设施，尤其是企业私有化部署、主权云和模块化数据中心等市场。

Titania的推出，标志着Axelera AI进一步向大型AI推理市场进军，也为数据中心提供了一种区别于传统GPU和HBM组合的硬件选择。