美满电子发布第二代Structera X，专为AI推理打造

近日，美满电子（Marvell）正式发布第二代Structera X系列CXL内存扩展器——3406与3506两款型号。

新品首次将DDR4/DDR5内存通道数提升至6条，较上一代增加50%；搭配PCIe Gen 6主机连接，单控制器最高可扩展9TB DDR4或6TB DDR5内存；同时还支持最多4台主机共享同一内存池，大幅提升了集群内闲置内存资源的复用效率。

在大模型推理普遍遭遇“内存墙”的当下，LLM服务的KV缓存占用、长上下文窗口扩展和推荐模型的嵌入表扩容，都对服务器内存容量提出了远超传统架构的要求，这是美满电子瞄准AI基础设施效率的一次重要加码。

规格跃升：6通道、4主机、PCIe 6.0

第一代Structera X 2404/2504采用4通道设计，第二代直接拉到6通道，是本次升级最亮眼的变化。具体来看，Structera X 3406面向DDR4，支持最多18条DDR4 RDIMM插槽，单控制器容量达9TB；Structera X 3506面向DDR5，支持12条DDR5 RDIMM插槽，容量达6TB。这一调整没有简单追求单条内存的极限密度，而是通过增加通道数，让服务器在不改动原有主板布局的前提下，就能获得更充裕的内存扩展空间，兼顾了存量数据中心的升级成本和新集群的部署效率。

在主机连接方面，新品支持最多4台主机共享内存池，主机侧带宽高达256GB/s（PCIe 6.0 x16）。这意味着在AI集群中，多台服务器可以通过一个CXL扩展器灵活调度内存资源，减少了“孤岛式”内存浪费。过去不少AI训练和推理集群中，单台服务器的内存利用率往往冷热不均，部分节点长期被KV缓存占满，另一部分节点却有大量内存闲置，CXL内存扩展器的多主机共享能力，恰恰能把这些零散的空闲内存整合起来，转化为可调度的公共资源池。

值得注意的是，上一代Structera X 2404/2504采用的是PCIe Gen 5，本次直接跳到Gen 6，连接带宽翻倍，为后续内存池化和机柜级资源调度预留了充足空间。这也让新品不再只是单台服务器的“内存扩容外挂”，而是朝着机柜级统一内存资源调度的核心节点演进。

KV Cache：突破AI推理TTFT的关键

为什么云厂商和AI基础设施公司需要更大的内存？答案就藏在推理负载里。过去几年，AI基础设施的建设重心长期围绕训练侧展开，行业默认算力是第一稀缺资源。但随着大模型从实验室走向大规模商业化部署，推理负载的占比持续走高，原本被视作配套资源的内存，反而成了决定集群整体效率的核心瓶颈。

大模型尺寸不断膨胀、上下文窗口持续拉长、KV-cache占用随之攀升，传统服务器板载内存根本不够用。很多AI服务团队都遇到过类似困境：GPU算力利用率明明还有富余，却因为显存和系统内存被KV缓存、嵌入表占满，不得不限制并发请求数，最终导致昂贵的算力资源被闲置。美满电子在官方稿中直言：从LLM服务到深度推荐模型（DLRM），现代AI推理都是“内存受限”的。

KV-cache容量直接决定了首token时延（TTFT）、吞吐量和XPU利用率，而Structera X针对两类负载给出了量化收益。在DLRM场景下，每控制器每秒查询数（QPS）最高提升2倍，嵌入表有效容量提升2-3倍，原本需要多台服务器才能放下的全量嵌入表，现在可以通过共享内存池集中部署，大幅降低跨节点访问带来的延迟开销；在LLM服务场景下，同等上下文长度下TTFT缩短40%-50%，或在同等时延下将可支持的上下文窗口拉长2倍，让长文档处理、多轮对话等复杂交互场景的体验得到明显改善。

双重突破：压缩吞吐5倍提升+后量子安全

除了通道数，美满电子第二代Structera X在两个“隐性”维度上也做了大幅升级。这些能力不像通道数、容量那样直观写在产品参数首页，却直接决定了大规模部署后，AI集群能不能长期稳定跑在高负载状态下，而不是反复陷入性能与稳定性的权衡。

其一是LZ4压缩/解压吞吐从上一代提升5倍，达到250GB/s。根据负载不同，这相当于把有效内存容量再放大2-3倍。也就是说，9TB物理内存经过压缩后，实际可用容量可能接近20TB量级。更关键的是，250GB/s的处理能力几乎能做到压缩过程无感知，不会因为数据处理拖慢内存访问速度，让大模型推理场景下的KV缓存、推荐模型的嵌入表，都能在不损失太多性能的前提下，获得近乎翻倍的可用空间。

其二是安全能力。新品集成了StructGuard企业级RAS（可靠性、可用性、可维护性），提供高级纠错以应对DRAM器件故障，减少单颗内存颗粒出错导致的整机宕机风险，满足云数据中心长时间高可用运行的要求；同时业界首发后量子密码支持，融合Caliptra 2.0、CXL IDE与AES-256内存加密，为数据中心数据保护提前布局，在量子计算安全威胁逐步显现的趋势下，补上了内存池化架构中跨主机数据交互的安全短板。

值得一提的是，Structera X 3406/3506沿用了第一代验证过的软件栈和生态集成方案，能够实现快速量产爬坡。美满电子CXL生态正在通过与CPU厂商、内存厂商、OEM/ODM及系统集成商的紧密合作，向整个数据中心技术栈渗透。