华擎Creator系列Radeon AI Pro R9700显卡评测：工作站推理，AMD风格

Radeon AI Pro R9700

由于对AI推理硬件需求的爆炸式增长，高端显卡已成为PC零件市场上的热门商品。这次激增影响了几乎所有级别的显卡，其中工作站级显卡的影响最为严重，尤其是那些带最多VRAM的高端显卡。NVIDIA、AMD，甚至英特尔都感受到了需求的激增，因为独立显卡已成为在标准形态PC上添加高性能推理硬件的最有效方式。

今天来看华擎的Radeon AI Pro R9700工作站显卡，这是AMD当前世代RDNA 4架构系列中最快且配置最完善的工作站级显卡。

Radeon AI Pro R9700是AMD长期运行的工作站显卡系列中的最新一款。虽然它首先是一张显卡，拥有尖端的图形功能和丰富的显示输出，但AMD在发布最新一代工作站显卡时就已预见市场走向，并据此命名，将AI能力置于核心位置。底层架构也反映了这一点，RDNA 4增加了一系列以AI为中心的升级，包括更快的矩阵数学性能和支持低精度格式，直到FP8。因此，R9700成为AMD迄今为止最具AI能力的工作站显卡，且正值这些功能需求极高的时代。

华擎Radeon AI Pro R9700硬件概述

由于AMD不再销售本代的参考设计工作站显卡，因此由AMD的合作伙伴自行销售显卡。这种生产策略在AMD消费端很熟悉，但对于工作站显卡来说则有些不同寻常。

最显著的是，AMD对其Radeon Pro合作伙伴在显卡设计上一直保持着相当严格的控制。AMD正在为一个非常具体的市场打造非常具体的工作站产品，其中最重要的是可以在单一工作站中安装多张显卡的能力。因此，虽然AMD不销售参考卡，但其合作伙伴卡在高层设计上非常相似：双槽涡轮风扇，这种外形如今在工作站卡外已不易见。

Xidax系统-AMD Radeon AI Pro 3 Large

这就引出了华擎的Radeon AI Pro R9700。华擎一直是AMD在各个层面的合作伙伴，从客户端和工作站主板到显卡。因此，随着AMD向最亲密合作伙伴提供工作站显卡选项，他们也进入工作站显卡领域也就不足为奇了。

Radeon AI Pro R9700

华擎的R9700在设计上充分考虑了外形规格和AMD的限制，符合工作站显卡应有的配置。这款双插槽显卡在宽度和高度上严格遵循PCIe规范，以确保它（以及可能的部分其他显卡）能够安装在工作站机箱中。

在核心层面，这张卡搭载了AMD的Navi 48 GPU，这是这一代最强大的RDNA 4芯片。该GPU提供了64个CU，合计4096个流处理器用于向量计算，并集成128个AI加速器核心用于矩阵运算。

值得注意的是，AMD在RDNA架构中不像CDNA架构那样包含离散矩阵数学核心。相反，AMD依赖波模式矩阵乘累加 WMMA进行矩阵操作，这些矩阵操作运行在构成向量单元的同一CU上。因此，虽然这些集成CU的AI加速器与AMD服务器级硬件的矩阵硬件不完全相同，但它们也绝非弱势。尤其是在AMD从RDNA 3提升到RDNA 4时，浮点性能翻倍（INT8性能提升了四倍）。

RDNA 4概述

R9700峰值时钟频率为2.92GHz，FP8峰值矩阵数学吞吐量为382.7 TFLOPS，稀疏性则为其两倍。这一代RDNA架构的一个关键改进是增加了FP8支持，这不仅提升了显卡的计算吞吐量，还使AMD硬件更好地契合了行业趋向更低精度权重的趋势。虽然该卡原生不支持FP6和FP4执行，但支持这些格式，因为它们会被转换为FP8来处理。更大的优势是它仍允许更低精度的权重，从而容纳更大的模型参数，充分利用显卡的32GB显存。最常见的例子是利用FP6权重在32GB显卡上运行一个约30B参数的模型，且还有一定的显存空间。

RDNA 4计算引擎

按照工作站显卡的传统，AMD和华擎为R9700配备了最大容量的显存。Navi 48配备256位总线，卡内含32GB GDDR6显存，采用16颗2GB（16Gb）颗粒，正反各8颗的clamshell布局。最重要的是，显存支持是AMD消费级和专业级显卡之间的关键区别，所以你会在Radeon AI Pro显卡上找到32GB显存。

AMD方面的考虑是，当前显存配置已支持到32GB这一上限，更高容量会带来更高成本。市场当然希望有更大显存的型号，但R9700与更高端产品之间仍留有明显空档。

GDDR6显存时钟频率为20Gbps，使该卡拥有640GB/秒的显存带宽。与此同时，作为工作站显卡，R9700还有另一项王牌：ECC支持。该功能以软ECC形式实现，仅在Linux下可用（即使如此，也必须手动启用），但它为围绕该卡构建的系统和机架增加了额外的可靠性层。同样，标准ATX系统最多可安装4张卡，可靠性需求增加，因为故障几率提高，这不仅仅是一个复选框功能。

AMD-Navi-48-Die-Shot

Navi 48芯片面积357mm²、晶体管数539亿，定位介于中高端GPU之间，这在AMD的显卡进阶方面显得有些特殊。AMD这一代没有真正打造高端GPU，因此R9700的显存实际上比上一代48GB的Radeon Pro W7900还要少。这意味着整体显存容量有所下降，但AMD希望通过计算吞吐量来弥补差距，这在很大程度上得益于更新的芯片架构。

不过，较小的核心面积也有助于控制TDP。AMD（和华擎）对该显卡的总板卡功耗只有300瓦，这使得冷却涡轮风扇式显卡相对容易，不会有噪音问题。这也意味着即使系统中有4张卡，也不会造成过高的电力需求，尽管这肯定会逼近单个电源的极限。

Radeon AI Pro R9700构建与设计

至于显卡设计，华擎的Radeon AI Pro R9700是典型的双插槽涡轮风扇设计。为了确保该卡可多张安装，华擎严格按照PCIe规格进行调校，采用了长10.7英寸、高4.4英寸的双槽卡。

有趣的是，这里的涡轮风扇设计是开放式的，意味着显卡背面有开放式通风口，可以从两侧吸入空气。

Radeon AI Pro R9700

风扇本身是典型的涡轮风扇设计。一个径向风扇位于显卡后部，将冷空气推向散热片并向显卡的PCIe支架方向，那里有一个大通风口排出热空气。据华擎称，它使用均热板高效地从Navi 48 GPU中吸取热量，GPU与散热器之间的热界面材料是一层霍尼韦尔的PTM7950。

聚焦在显卡背面，可以看到PCB和护罩上开有通风口。还可以看到显卡背面有一层护罩。如前所述，R9700的32GB GDDR6采用clamshell正反布局，意味着8颗芯片位于显卡背面，需要保护和散热，就像前面的芯片一样。

Radeon AI Pro R9700

由于这是一块工作站卡，华擎也对电源连接器的位置进行了考虑。Creator R9700采用ATX 12V-2×6接口，安装在显卡背面而非顶部，这也是以工作站为中心的设计元素，使得在系统中安装多张显卡更加便捷。12V-2×6连接器额定功率最高600W，因此300W TBP R9700完全符合线缆的限制。

Radeon AI Pro R9700

显卡正面最显眼的是4个显示输出，这是Navi 48 GPU的最大输出。在R9700厂商中独树一帜，华擎采用了全DisplayPort配置，放弃了通常的HDMI端口，改为第四个DisplayPort。所有DisplayPort均为DisplayPort 2.1a，配备DSC后，显卡可驱动最高12K的显示。

Radeon AI Pro R9700

除了显示输出，显卡前面几乎全是通风口。300W对于涡轮风扇显卡来说仍然很热，所以华擎不会留情，你还能清楚地看到散热片穿过显卡。

Creator R9700的性能

由于华擎Radeon AI Pro R9700首先被宣传为AI推理卡，先看看几款不同Qwen型号的性能。

Qwen3.8-27B

Radeon AI Pro R9700 Qwen3.8-27B总吞吐量与并发用户比较

从吞吐量与并发用户的比较开始，有多个工作负载（阶段），Qwen3.8-27B的量化精度达到4位。这六个工作负载初始速度大约是20到30token/s，至少这也说明了Qwen3.8的负载有多重。但像大多数推理工作负载一样，随着并发用户数量增加，更多工作负载被转用到解码，性能也会有所提升。

代码生成是最大的受益者，达到16个并发用户时，代码生成速度已超过每秒113个，总吞吐量提升了3.6倍。其他工作负载的扩展幅度较小，代理回合阶段最高可达每秒97个token，并发为32个时。但另一方面，即使是相对较慢的工具循环阶段，达到4个用户时，已经突破50token/s。

最慢的阶段无疑是仓库编辑任务。虽然起初只有19token/s，但提升到4个用户后，最多只能达到33token/s，增长74%。

Radeon AI Pro R9700 Qwen3.8-27B总吞吐量与每用户速度比较

当然，代价是虽然整体token吞吐量通常会增加，但速度不足以跟上用户数量的增长，导致每秒生成的token数量在每个用户层面上有所下降。以p50（中位数）吞吐量为单位，保持较轻的工作负载同时超过每秒60个token，意味着加载足够多的用户，使每个用户每秒获得的token少于8个。

具体关系几乎与第一张图表相反。一个阶段越是从并发中获益，减少并发时损失就越大。

Radeon AI Pro R9700 Qwen3.8-27B总吞吐量与TTFT对比

同样，可以看到吞吐量和首次token获取时间之间存在类似的权衡。不过这高度依赖工作负载，也不是最快阶段（例如代码生成）能获得最快第一个token那么简单。所有阶段在提升整体性能时都显示出显著的TTFT增加，尽管这可能是最有趣的图表，因为这是唯一曲线交叉的时刻，这里是代码生成和代理回合。

无论如何，当用户达到32个并发时，每个阶段的TTFT时间超过10秒，最密集的阶段、分析和仓库编辑超过100秒才能获得第一个token。根据这些性能结果，无法让每个阶段的TTFT降至10秒以下，但4个用户似乎是最接近最佳状态，直到超过一半阶段超过10秒。

Qwen3.6-35B-A3B

与此同时，还有稍早一些（但仍非常有用）的Qwen3.6-35B-A3B。测试对象是一款350亿参数专家混合模型，被量化为4位，即每次只有30亿个活跃参数。

Radeon AI Pro R9700 Qwen3.6-35B-A3B总吞吐量与并发用户比较

需要处理的活动参数数量较少，能立即带来性能提升。这里，每个阶段的token输出速率至少为每秒75个token，代码生成速度高达128token/s。同时，使用用户数量的扩大又能进一步提升性能，尽管幅度不大。当并发达到4个用户时，分析阶段大约每秒产生105个token，而整个循环略高于155token/s；分别增长约36%和50%。

不过，大约在16个并发左右出现了一些有趣的回归。该级别测试的所有阶段都会至少损失部分性能，最快阶段自然损失最多。32个并发时情况有所回升，但整体吞吐量相比8个并发时提升非常有限。在Qwen3.6-35B-A3B中，要提取大部分显卡性能，至少需要8个并发用户。

Radeon AI Pro R9700 Qwen3.6-35B-A3B总吞吐量与每用户速度比较

在按用户计算性能时，可以看到熟悉的性能下降曲线。随着将重点转向每个用户更高的token费率，中位总token费率下降了35%以上。相反，8个并发时，token速率足够快，让每个用户都能舒适地获得每秒30个token以上的速率。

Radeon AI Pro R9700 Qwen3.6-35B-A3B总吞吐量与TTFT比较

最后来看Qwen3.6-35B-A3B的TTFT表现。允许更长的TTFT带来更多的总吞吐量。但即使是这个更快的型号，达到32个并发时，TTFT在几乎所有阶段都会超过10秒。唯一的例外是交互阶段，最长4秒。否则，8个并发时，除了分析和仓库编辑阶段（同样是最密集的阶段）外，其他内容都保持在10秒以内。单用户时，除了这些工作负载和总循环TTFT外，所有内容都能在1秒内完成。这仍接近Qwen3.8-27B同场景TTFT的四倍。

性能对比：GeForce RTX 5090

本次也对比了NVIDIA的旗舰显卡GeForce RTX 5090。

这里的比较并不公平，因为RTX 5090的价格是华擎Radeon AI Pro R9700的几倍（如果传言属实，该显卡已经停产）。尽管如此，这为理解R9700相对其他硬件的性能提供了背景。

ASRock 与 RTX 5090 Qwen3.8-27B吞吐量与每用户速度比较

下图是Qwen3.8-27B总吞吐量与每用户token速度对比的图表，是这里最有用的可视化工具。在峰值吞吐量下，RTX 5090的速度几乎是R9700的四倍，有时甚至更高。从每用户吞吐量来看，即使是最强的分析阶段，8个用户每秒也超过15个token。RTX 5090首发价更高，能支持更多用户，直到每用户性能大幅下降。

不过，首token时间稍微接近了一些。RTX 5090在高用户数下TTFT超过10秒的情况较少。分析阶段依然是性能消耗最严重的阶段，RTX 5090即使只有单用户，发出第一个token也需要不到5秒。

华擎与RTX 5090 Qwen3.6-35B-A3B吞吐量与每用户速度比较

最后一张LLM性能图展示的是Qwen3.6-35B-A3B的总吞吐量与每用户速度的比较。R9700在这方面仍然明显落后于RTX 5090。但总吞吐量差距更接近。性能差距更接近3比1，NVIDIA显卡在高并发下优势更明显，而在并发较低时，这一差距可降至2比1，比如代码生成阶段。

这表明R9700在低用户并发工作负载中可能特别划算。不过，随着模型不断变化（甚至Qwen3.6也很快会显得过时），这绝对是大买家在做出重大购买决策前应先测试的。

Radeon AI Pro R9700图形性能

换个话题，因为R9700不仅是推理加速器，也是显卡，以下是它在某些工作站图形工作负载下的简要展示。

SPECviewperf 15.0.1 Linux AMD 4K性能

作为AMD最强大的RDNA 4架构工作站显卡，R9700在Linux下轻松运行SPECviewperf 15.0.1套件。综合成绩因测试项而异，但即使是Tuvok（医疗）测试项也至少得37分，而PTC Creo不到200分。

Xidax系统-AMD Radeon AI Pro 4 Large

更重要的是，它相比Ryzen AI Max 395+ SoC中的集成GPU有了巨大提升，该芯片集成GPU是市场上最快的集成GPU之一，R9700通常能将SoC的性能翻倍。唯一的例外是西门子NX 2406测试项，它对集成GPU表现出异常的亲和力。

SPECviewperf 15 4K ASRock与RTX 5090比较

至于与GeForce RTX 5090的表现，实际上比预期的更接近。R9700在Catia和Creo中表现不俗，甚至在Solidworks测试中明显领先。这让RTX 5090轻松拿下其他五个测试项，R9700在Maya和OpendTect的“能量”地震可视化中性能大约只有NVIDIA显卡的一半。 

结语

总结来说，鉴于当前对AI硬件的巨大需求，Radeon AI Pro R9700在AMD和合作伙伴华擎的产品线中扮演着重要角色。近年来，AMD开发了从小型PC到服务器的全栈AI硬件，虽然服务器因其庞大的规模和可扩展能力而备受关注，但仍需要AI硬件来填充工作站和其他桌面环境。R9700正好适合这个角色。

Xidax系统-AMD Radeon AI Pro 2 Large

尽管整体需求如此，更大的工作站显卡市场依然竞争激烈，R9700需要开辟出自己的定位。Navi 48的硬件性能相当强大，这在很大程度上得益于AMD通过RDNA 4架构带来的性能提升。但它无法匹敌NVIDIA RTX Pro显卡的强大性能和显存容量。

Radeon AI Pro R9700

相反，AMD和华擎在很大程度上将R9700定位为一个经济型产品，至少在AI标准下是这样。该卡上市价为1300美元，尽管上游组件和显存颗粒价格上涨推高了售价，如今R9700的行价仍仅为1700美元。对于一块32GB的AI推理显卡来说，性价比很高，尤其是NVIDIA的同类32GB显卡价格是它的两倍多。这在AMD的产品策略中算是经典，但它多年来一直很有帮助，R9700上也同样适用。

Xidax系统-AMD Radeon AI Pro 6 Large

单台桌面系统最多可装4张卡，且功耗足够低，使这一方案非常可行。R9700的价值不只在单卡，更在于多卡组合的能力。32GB对于30B+模型来说已经足够了：四张显卡协同工作，合计128GB显存，可以支持更大模型。由于GPU显存位宽是单张显卡显存容量的关键瓶颈，跨多张显卡扩展是让推理在桌面端可行的重要工具。