博通3nm芯片发布，百万处理器互连

随着AI数据中心规模日益庞大，云服务公司正面临一个问题：如何处理那些老旧、小型的设施？

博通公司为此提供了一个可能的解决方案，至少对于地理位置邻近的部署是如此。该公司核心交换机事业部高级副总裁兼总经理Ram Velaga表示，于本周一发布的新版Jericho网络芯片能以更快的速度传输更大量的数据，这意味着客户可以将多个较小的数据中心连接起来，从而创建一个用于开发或运行AI模型的大型系统。

博通表示，Jericho4产品能够连接多个数据中心的100多万个处理器，处理的信息量约为上一代产品的四倍。

博通已开始出货其Jericho4交换机系列，将其定位为适用于现代数据中心横向扩展AI的最先进以太网路由芯片。Jericho4专为满足分布式AI基础设施日益增长的需求而设计，提供了高达51.2Tbps的无损、深缓冲以太网性能。因此，AI工作负载可以轻松地跨机架、集群乃至地理上分散的位置进行扩展，而不会影响可靠性或性能。

分布式AI

随着人工智能模型的规模和复杂性持续增长，它们正迅速超越单个数据中心的容量和物理限制。将XPU（如GPU和TPU等加速器）分布在多个耗电量达兆瓦级的设施中，也带来了一系列新的网络挑战，包括需要在城域甚至区域距离内实现无损、低延迟和高带宽的传输。

Ram Velaga强调，AI时代需要能够支持超过一百万个XPU的分布式计算环境的网络解决方案。Velaga解释说，Jericho4系列旨在构建能够超越单个数据中心边界的AI规模以太网交换架构，支持长距离RoCE（融合以太网上的远程直接内存访问）传输、先进的拥塞控制和高效的互连。

亮点与差异化优势

Jericho4系列专为跨数据中心的横向扩展而构建，提供了一系列满足AI工作负载特定需求的功能。

• 51.2Tbps可扩展、深缓冲容量：Jericho4系列提供了高达51.2Tbps的惊人交换容量，位居行业前列。对于需要在数千个GPU或加速器之间移动大量数据的AI工作负载而言，这一吞吐量至关重要。其“深缓冲”特性使其能够管理大量数据突发而无需丢弃数据包，即使在网络拥塞的情况下，也能确保分布式AI训练的高性能和高可靠性。
• 3.2T HyperPort接口：HyperPort将四个800GE（800 Gigabit Ethernet）端口组合成一个3.2Tbps的通道，简化了网络设计和管理。这减少了交换机和服务器之间所需的链路数量，同时最大限度地减少了数据包重排序和网络效率低下的问题。因此，用户可以实现高达40%的作业完成速度提升和高达70%的网络利用率提升，从而加快AI模型训练速度并更高效地利用计算资源。
• 支持20万+安全策略的线速MACsec：MACsec（媒体访问控制安全）是在以太网层加密数据的标准。Jericho4交换机支持全线速MACsec，可在不损失性能的情况下进行加密和解密。凭借对超过20万条安全策略的支持，它能够实现精细的安全控制，这对于多租户环境或“新型云”（Neo Clouds）至关重要。这确保了敏感的AI数据在大型共享基础设施中快速移动时的安全。
• 端到端拥塞管理和RoCE无损传输：AI工作负载受到网络拥塞和数据包丢失的影响，这会减慢分布式训练的速度。Jericho4的深缓冲架构和基于硬件的拥塞管理功能，可利用RoCE实现无损传输，确保在超过100公里的距离上进行可靠的数据传输。这些功能对于连接分布式数据中心或AI集群至关重要，能够提供一致的性能和可靠性。
• 每比特功耗降低40%：随着数据中心为支持更大的AI模型和更多用户而不断扩展，能源效率至关重要。与前几代产品相比，Jericho4的架构使每比特数据传输的功耗降低了40%。这降低了运营成本，并帮助企业实现可持续发展目标，从而在不大幅增加能源消耗的情况下扩展AI基础设施。
• 具有业界领先传输距离的200G PAM4 SerDes：SerDes（串行器/解串器）技术支持通过铜缆或光纤链路进行高速数据传输。Jericho4芯片支持200G PAM4 SerDes，使其能够比以往技术在更长的距离上实现更快的数据速率。这使得交换机和服务器可以在更广阔的数据中心园区内或楼宇之间进行连接，而不会牺牲速度或可靠性。
• 符合超级以太网联盟（Ultra Ethernet Consortium）标准：超级以太网联盟致力于推广用于高性能计算和AI的以太网标准。Jericho4的合规性确保了其与其他超级以太网设备的无缝兼容，从而保护投资并使网络能够适应未来的AI和云工作负载。
• 广泛的端点兼容性：Jericho4兼容任何使用以太网的网络接口卡（NIC）或XPU（如GPU或DPU）。这种灵活性使组织能够集成各种计算和存储端点，支持多样化的AI架构和供应商解决方案，而无需局限于单一的生态系统。
• AI网络：Jericho4架构因其管理持久性、高带宽AI流量的能力而脱颖而出。通过利用HyperPort技术，它消除了传统的瓶颈和低效问题，为可扩展的AI网络提供了更高的吞吐量和更低的延迟。随着组织在园区、城域甚至更广泛的地理范围内部署AI工作负载，这一点尤为重要。

现场部署已经证明了Jericho4的可靠性和有效性，能够支持超过100公里距离的可扩展AI设计。这使Jericho4成为下一代分布式AI基础设施的关键技术。

单个Jericho4系统可扩展至36,000个HyperPort，每个端口以3.2Tb/s的速度运行，具备深缓冲、线速MACsec以及超过100公里的RoCE传输能力。部署选项包括采用Jericho线卡的机箱式系统、采用Jericho叶交换机和Ramon脊交换机的分布式调度交换架构（DSF）以及固定式集中系统，所有这些都利用了博通的高基数、低延迟和高能效架构。

端到端以太网AI平台

Jericho4是博通完整的以太网AI平台的重要组成部分，该平台还包括：

• Tomahawk 6：用于AI横向扩展和纵向扩展的102.4Tbps交换机。
• Tomahawk Ultra：用于HPC和AI纵向扩展的51.2Tbps低延迟交换机。
• Thor系列：AI优化的以太网NIC。
• 物理层产品：包括中继器（retimers）、DSP和第三代共封装光学（CPO）器件。

这些产品共同为构建任何规模的基于以太网的AI基础设施提供了一个开放、可扩展的平台——从紧密互连的GPU集群到区域性部署。

市场竞争

博通的Jericho4进入了一个竞争激烈的市场，超大规模数据中心运营商和AI基础设施提供商都旨在克服传统InfiniBand和传统以太网解决方案的局限性。英伟达（NVIDIA）凭借其基于InfiniBand的Quantum和Spectrum-X以太网交换机，在AI网络领域仍然是主导者，尤其是在紧密耦合的GPU集群中。然而，以太网的开放性、成本效益和生态系统支持正在推动行业向基于以太网的AI交换架构转变，特别是在横向扩展和多站点部署方面。

其他竞争对手，如思科（Cisco）的Nexus系列和Arista Networks，也在大力投资高性能、AI优化的以太网交换技术。然而，博通的深缓冲、无损架构，结合其在芯片创新和生态系统整合方面的领导地位，为Jericho4提供了极具吸引力的价值主张——特别是对于那些旨在构建开放、可扩展且面向未来的AI基础设施的组织而言。