如何在1kW功率下进行测试AI加速器？

在规格表上，1kW 的最大功率看起来只代表一种运行工况。但实际上，两种不同的工作负载可以使 AI 加速器保持相同的功率水平，同时驱动不同的计算模块、内存接口和供电路径。即使数值不变，功率也会随之变化，热量也会随之变化。因此，验证不仅仅是重现额定功率。设备只是承载和释放功率的物理系统的一部分。

“在千瓦级功率水平下，我们实际上不仅要验证设备本身，还要验证整个封装、冷却系统以及测试生态系统本身，”诺信测试与检测公司首席技术工程师克里斯托弗·兰德表示。“我们在该生态系统中使用的工具是我们必须进行鉴定和验证的系统的重要组成部分。”

验证一直以来都依赖于测试覆盖率。工程师们构建测试模式来发现故障、测试各种运行条件，并将设备推向极限。但是，在接近 1kW 的持续负载下，即使电气测试结果合格，也无法保证设备是在实际运行状态下进行测试的。

“这是人工智能领域的一个新趋势，”爱德万测试公司测试技术总监布伦特·布洛克表示。“我们通常关注故障覆盖率，但现在我们必须开始考虑将故障覆盖率与热覆盖率关联起来。我们不能只关注故障覆盖率，而必须将故障覆盖率和热覆盖率结合起来考虑。”

这大大拓宽了测试范围。测试可以在不与实际工作负载相同位置施加热量的情况下，验证正确的逻辑，或者保持足够长的时间，以便观察由此产生的电气和热学行为。

问题始于硅片到达测试仪之前的瞬态分析阶段。工程师必须模拟加速器在工作负载随时间变化时的运行情况，而不仅仅是在固定电流和温度下的运行情况。器件的不同部分在不同时刻激活，在一种工作负载组合下通过的测试，在另一种组合下可能暴露出不同的性能裕度。

Synopsys首席产品经理郎林表示：“对于过渡阶段来说，关键在于覆盖率。对于某些特定负载，芯片可能会失败；对于其他一些负载，芯片或许能够通过测试，但实际上它处于非常糟糕的状态。从可靠性角度来看，它往往会在之后出现故障。”

正是这一点让1kW这个数字本身更具意义。一次简短的测试或许能证明设备在特定条件下可以安全运行，但它并不能证明测试涵盖了最终决定可靠性极限的负载、位置、温度、电压和时间的正确组合。真正有价值的问题不再仅仅是特定工作点上会发生什么，而是在此过程中会发生什么。

如今，什么才算覆盖率？

验证高功率加速器性能的一个显而易见的方法是尽可能地压榨所有功能，然后观察其运行情况。但“所有功能全开”未必是设备在实际运行中会遇到的情况，而一些测试方法多年来却朝着相反的方向发展。

扫描就是一个很好的例子。功耗感知扫描变得越来越重要，因为过多的同步开关操作会导致设备运行状态与实际功能不符。这使得扫描非常适合用于查找结构性故障，但在需要重现特定的高功率热工况时则作用有限。任务模式和内置自检可以更接近设备的实际运行状态，但它们仍然需要重现工程师验证所需的工作负载。

工作负载总体上可能具有代表性，但仍可能在不恰当的地方对器件造成压力。最坏情况下的功耗有助于限定设计范围，但单个封装级别的功耗值并不能说明热点会集中在哪些位置。较大的保护范围可以弥补部分不确定性，但在人工智能加速器上，这种裕量往往会以牺牲性能为代价。

林说：“工程师必须停止将这种温度下的最坏情况功耗作为芯片安全验收的标准。他们需要知道这1000瓦的功耗在芯片上的分布情况，因为总功耗值本身并没有意义。”

这使得验证不再局限于总体范围，而是深入到实际工作负载下局部发生的情况。表面温度可能看起来可以接受，但实际上可能存在一个很小的区域温度过高，足以影响时序或长期可靠性。

林说：“如今，仅仅依靠电子表格是不够的。你需要使用实际的设计方案，运行工作负载，施加激励，并测量各处的温度。你必须有数据来支撑你的系统设计质量。”

时间流逝的速度各不相同。设备需要在高功率下保持多长时间取决于工程师试图测试的内容。有些问题几乎立即出现，而另一些问题则要等到测试接口本身升温并发生变化后才会显现。在封装测试中，组装好的设备消耗的功率可能比晶圆分选时的单个芯片高得多，因此第一个问题可能很快就会出现。

布洛克说：“芯片可能在几百微秒内发生热失控。你必须能够迅速做出反应。我们可以监测触点上的电压下降，如果电流开始失控（这是热失控的迹象），我们就可以立即关闭电路。你必须在造成太大损害之前阻止它。”

捕捉到这种异常波动需要快速检测，但即使能熬过最初的几百微秒，也不意味着电路通路就能保持稳定。持续的电流会开始加热导电触点，提高其电阻，并逐渐改变设备的测试条件。

“当电流持续施加数秒时，会导致引脚温度升高，进而增加接触电阻，从而限制触点的载流能力，” Modus Test公司的测试和特性分析总监Glenn Cunningham说道。“即使电流短暂施加（毫秒级），也会出现这种情况，只是速度没有那么快。”因此，一个触点在测试开始时可能看起来很健康，但只有在被要求承载实际电流时才会失效。

图 1：环境温度升高会降低测试触点的热裕量，从而降低其达到规定温度极限前可承载的电流。来源：Modus Test

因此，一个触点在测试开始时可能看起来很健康，但只有在被要求承载实际电流时才会失效。

“只要引脚与PCB和被测器件保持接触，它就可能通过初始导通性测试、开路/短路测试，具体取决于测试程序中设定的限值，”坎宁安说。“但是，当施加电流时，它就可能无法通过测试。”

除此之外，验证还会遇到实际的局限性。某些可靠性效应会在重复的工作负载或远超生产测试所能涵盖的更长时间内逐渐显现。加速认证可以压缩部分历史数据，但制造商仍然需要在设备测试时间和投入生产的速度之间取得平衡。

那么，OSAT厂商究竟能让千瓦级器件运行多久呢？“时间不够长，”NLM Photonics首席执行官布拉德·布斯表示。“OSAT厂商会进行基本测试和老化测试，然后说，‘好的，我们认为这个结构应该没问题’，但交付速度至关重要。没有人会无限期地运行这些系统，以确保它们永不损坏。”

这意味着验证必须涵盖极其漫长的时间跨度。一个问题可能在几百微秒内就变得危险。另一个问题可能需要持续电流数秒，触点才能加热到足以改变电阻的温度。还有一些问题可能在重复负载、累积热循环或在验证完成后很长时间的运行过程中出现。

单一的停留时间无法涵盖所有情况。关键在于了解哪个时钟对被测机制至关重要，该时钟上会出现哪些信号，以及在其他硬件响应一段时间后，测试结果是否仍然有效。

但这又引出了另一个问题。在这样的功率水平下，承受压力的并非只有加速器本身。负载板、触点、热控硬件以及自动测试设备（ATE）都有各自的极限和随时间变化的特性。工程师在能够确定故障原因之前，越来越需要知道是堆栈中的哪个部分导致了故障。

整个测试栈都会参与投票。在某种程度上，千瓦功率不再仅仅是被测设备 (DUT) 的问题。功率必须先经过测试路径才能到达设备，而这条路径并非电中性或热中性。路径上任何位置的变化都可能改变被测设备实际感受到的状况。

“过去，我们可以把负载板、测试仪、探针或搬运器分开，分别处理所有部件，”爱德万测试公司的布洛克说。“但现在我们处理的功率这么大，我们真的需要考虑整个测试系统了。”

在这样的功率水平下，测试硬件本身也成为了实验的一部分。它自身的电气和热特性会影响被测器件 (DUT) 的状态，因此工程师需要足够的洞察力来判断表面上的异常是源于芯片本身还是传输路径上的某个环节。这就更加强调在负载下对测试系统进行特性分析，并验证实际到达器件的状况。

“目前的情况就像一场三方博弈，”泰瑞达（Teradyne）电源和热力仪器解决方案产品经理达米安·梅格纳（Damian Megna）说道。“终端客户希望我们能提供解决方案，但我们必须与拥有封装冷却技术的搬运设备和探针公司合作。我们必须携手合作，才能提供完整的解决方案。然而，就热力需求而言，先进封装技术的快速发展速度远远跟不上。”

在负载作用下，被测设备和测试接口之间也会相互影响。电流并非总是均匀分配到相同的电源触点上。电阻上的微小差异会导致更多电流流经某一路径，使其进一步发热，并再次改变电流分配。

“电流会分布在所有触点上，但分布并不均匀，因为每个触点都有自己的电阻，”Modus Test公司的坎宁安说道。如果几个触点的电阻较高，而一个触点的电阻则低得多，那么大部分电流就会集中在电阻较低的那条路径上。“这将造成所谓的EOS（电过应力），对触点、插座和被测设备来说都是灾难性的。”

封装的记忆

封装又给问题增添了另一层含义。高电流会产生局部发热，而这种热量会改变器件的电气特性以及周围的物理结构。在持续负载下，原本可以单独分析的效应会相互影响。

Synopsys公司的林表示：“无论工作负载如何变化，物理特性之间仍然相互关联。应力变化可能会改变晶体管的迁移率，进而改变其性能。因此，这是一个巨大的循环——功耗、温度、时序和应力。”

实际问题在于，这些瞬态变化何时不再仅仅是瞬态的。短暂出现的热点可能不会造成持久损害。但如果反复发热开始改变接口或互连结构，并且这种改变在工作负载转移到其他位置后仍然存在，那么后果就更加严重了。

诺信公司的兰德表示：“最令人担忧的缺陷——那些会在日后造成运行问题的缺陷，尤其是在经历大量热负荷和循环后——往往是较小的缺陷。这些缺陷并非那种会导致设备一开始就彻底失效的严重缺陷。”

这些早期缺陷可能包括空隙、早期分层和界面裂纹。空隙会减少热传导路径，从而形成局部热点，加剧散热问题。其中一些缺陷可能在初始电气测试中无法发现。

机械行为会带来另一个复杂因素。大型封装在热负荷下会发生翘曲，冷却后又会恢复原状，即使应力已经改变了其内部某个界面。

兰德说：“一旦你把那个装置从那种环境中移开，热量就消失了，变形或许就会消失。你可能看不出来，但它造成的损害痕迹肯定会存在。”

因此，基线检测至关重要。在对包装进行应力测试之前进行无损检测，可以确定包装内部已存在的缺陷；随后在持续或循环载荷作用下进行检测，以确定这些缺陷是否扩散。声学检测和X射线检测可以从不同的角度观察这一过程，而当工程师已经知道需要检测哪些缺陷时，破坏性分析则可以更深入地进行。

相关性成了问题。更好的可视性并不意味着验证就更容易。现代加速器会生成海量数据，而且这些数据往往跨越不同的时间尺度。更难的问题在于如何将这些测量结果与产生它们的实际工作负载和运行条件联系起来。

“系统中有很多因素会影响时序裕量，” proteanTecs公司工程与客户成功执行副总裁Alex Burlak表示，“它会受到IR压降的影响，温度的影响，工艺的影响，以及性能退化的影响。”

这使得时序裕量成为了解器件性能的一个窗口，而不仅仅是一个孤立的测量指标。工程师可以将其变化与逻辑电路当时的运行情况进行比较，从而区分真正的性能缺陷和正常的波动。

但单独的测量结果可能意义不大。微小的温度波动、轻微的空隙、时间偏移或电阻变化单独来看可能无关紧要，但当多个参数同时发生变化时，则更具启发意义。

兰德说：“事情并非像‘如果我看到这种情况，我就知道这件事一定会发生’那么简单。从统计学角度来看，多种因素综合起来会预示着未来将要发生的事情。关键在于找到这些趋势。”

这些关系也为工程师提供了更有用的建模对象。如果一个意外结果揭示了模拟未预测到的条件或交互作用，那么它就不仅仅是一个异常值了。布洛克说：“我们现在更加重视仿真和建模，以便发现这些问题，并在硬件设计之前尽早关注这些问题。”这些模型越接近实际导致失败的条件，每一代验证对于塑造下一代就越有用。

验证工作在设备研发完成后进行。加速器最终还是要离开实验室。任何形式的验证都无法完全模拟其在各种工作负载和系统条件下运行数年的情况。开发周期进展太快，无法做到这一点。工程师们希望在发布前获得的一些信息仍在收集中，而下一代设计已经启动。

“因此，很难在研究方面投入资金，真正开始推进一些技术并尽早发现极端情况，这至关重要，尤其是在我们考虑制造一些 GPU、CPU 千瓦级设备时，”NLM Photonics 的 Booth 说。

有些极端情况只会在实际应用中出现，因为加速器通常是作为大型系统的一部分运行的。看似芯片故障的现象，可能源于设备外部，或者仅在经过验证无法重现的交互操作后才会发生。

“现场总会有意想不到的情况发生，无论是未被发现的缺陷，还是需要更长时间才能显现的系统性问题，”proteanTecs公司的Burlak说道。“此外，芯片与系统之间、系统与数据中心之间也存在一些交互作用，这些在验证阶段很难模拟。”

这限制了工程师从有限的测试窗口内能够了解到的信息。因此，验证过程中使用的一些信息必须随着设备投入运行而保留下来。

“首先，你需要了解芯片内部的整体运行情况，并对其进行监控，”伯拉克说。“仅仅收集芯片或系统的电压和温度数据是不够的。你还需要收集时序裕量信息、IR压降、电压下降信息以及周期间抖动信息。”

结论

人们很容易看到一台1kW的加速器就得出结论：验证工作只需要增加所有要素——更大的电流、更强的冷却、更高的应力、更长的停留时间和更多的测试。其中一些要素固然必要，但却忽略了问题中更棘手的部分。

千瓦级功率上限并非单一条件，任何单一测试都无法在足够长的时间内、足够高的温度或足够强的条件下模拟该功率级别下可能发生的所有情况。一种故障先兆可能在数百微秒内出现，而另一种故障则可能随着触点和电路板随时间升温而发展。工作负载可能导致热点在封装其他部分达到平衡之前就发生转移。测试硬件在测量过程中也可能发生变化。其他一些影响可能要等到数千台已部署设备积累了足够的运行历史后才会显现出来，而任何实验室都无法承受重复这些历史测试的成本。

真正的变化在于工程师对“覆盖范围”的定义。电气故障覆盖范围仍然重要，但它越来越需要与热覆盖范围、工作负载覆盖范围、空间覆盖范围以及足够的时域信息相协调，以便了解实际发生的故障机制。