可观测性，AI时代芯粒设计缺失的关键架构层

片内可观测性，也称裸片级/芯片可视化技术，对于当下高性能系统的性能管控、可靠性保障与安全防护正变得愈发关键，行业专家围绕片上数据分析与系统容错能力展开圆桌研讨，参会嘉宾包括：Arteris产品市场副总裁Andy Nightingale、Axiomise首席执行官Ashish Darbari、Baya Systems首席商务官Nandan Nayampally、楷登电子芯片解决方案集团杰出工程师Moshiko Emmer、是德科技EDA事业部芯片互联与边缘计算战略规划经理Pedro Merlo、Movellus首席运营官Vikram Karvat、西门子EDA Tessent汽车芯片解决方案总监Lee Harrison、新思科技产品管理总监Randy Fish、Vinci市场落地负责人Satish Radhakrishnan。

上排从左至右：Arteris Nightingale、Axiomise Darbari、BayaSystems Nayampally、Cadence Emmer、KeysightEDA Merlo；下排从左至右：Movellus Karvat、SiemensEDA Harrison、Synopsys Fish、Vinci Radhakrishnan

SE：当前人工智能如何落地应用于数据采集、分析与系统调控全流程？相关工作目前由AI完成，还是依靠传统软件实现？若AI尚未规模化落地，预计何时能全面部署？

Radhakrishnan：AI在芯片设计领域的应用持续深化，能够显著加快芯片设计与验证流程。除设计验证、规则检查外，AI还可缩短整体芯片开发周期；仿真环节同样受益良多，机器人、数字孪生等场景需要高速高精度仿真系统预判运行结果。

长期来看，数据采集与分析将推动行业从被动故障处理转向主动预测式运维。通过持续模型训练，系统能够识别数据衰减等细微异常，依托自主智能AI在故障发生前主动干预。长远而言，AI将贯穿芯片设计、验证、在线监测全生命周期。

Darbari：现阶段数据采集仍以传统方案为主，存在合理的底层逻辑：采集环节必须具备确定性，依靠确定性硬件逻辑与固件捕获指定信号、日志。行业无法接受“智能监测模块”随机遗漏关键故障数据。

AI的核心价值集中在数据分析环节，可用于高维度遥测数据异常检测、外场故障聚类分析、基于测试与早期运行数据微弱特征预判不良芯片/晶圆批次，同时在测试机上给出单裸片电压优化等运行参数建议。

当下系统调控仍以规则驱动为主，该模式短期内仍会持续普及。近中期，AI主要承担数据分析与辅助决策角色，在云、数据中心场景优势突出；未来数年将涌现更多AI辅助控制器，但这类控制器会设定清晰安全边界，由传统控制逻辑兜底监管。形式化验证工具将发挥重要作用：可定义AI决策策略必须遵守的固有约束，并通过形式化工具校验，确保数据驱动控制器不会将系统带入可验证的危险状态。

Nightingale：我十分认同这一观点。自主智能AI已融入前端设计流程，同时大规模可观测数据的管理越来越依赖AI。当前核心难点并非数据采集，而是数据解读。现代芯片系统搭载海量探测点，生成海量遥测数据，人工或静态规则均无法完成完整分析。机器学习能够识别异常、性能瓶颈、资源拥堵等特征，进而输出优化方案，甚至自动调整配置、调度逻辑与硬件资源。

本质上，AI是工程师判断能力的延伸，助力行业从被动调试故障，升级为预测式分析与闭环优化。这一领域发展前景广阔，值得行业深入探讨。

Harrison：我近期接触到一个落地案例：依托多类型监测模块搭建可靠性AI模型，可精准预判数据中心芯片的失效日期，误差可缩小至单日级别。该能力依托多维度监测产生的海量异构数据，人工分析完全无法覆盖全部信息，AI可自动挖掘数据趋势、横向对比，实现高精度寿命预测，这也是各大云服务商的核心诉求——尽可能延长数据中心硬件使用寿命。

Fish：大语言模型与AI技术已全面渗透EDA工具，同时应用于流片后量产良率分析、生产性能诊断。另一热门方向是微型语言模型、嵌入式微型机器学习（TinyML），可深度集成于芯片内部。多年来，行业已将感知器、神经网络用于分支预测等场景，在场各位不少企业也在自研相关方案。

该类模型占用芯片面积极小，可通过硬件固化或软件形式在片内完成数据解析。目前相关公开文献资料较少，仍有较大探索空间。

Nayampally：传统设计反馈链路已大量应用AI技术。此前行业讨论过集群与云端标准化分析模式，即汇总海量数据统一运算；而当下创新重心集中在平台层，量产AI可解析硬件性能、运维管控等各类问题，精准区分异常来源：标准兼容问题、器件老化、安全漏洞或芯粒架构缺陷。

此外，行业正全力提升纳秒级实时负载分析能力，精准评估业务服务质量与硬件可用性。

Merlo：AI终将统筹管控整套硬件系统，部分场景现已落地。试想一套自主智能代理集群，管控全球各地数据中心，其决策与调度能力远超传统方案，现阶段其能力上限仍存在未知空间。

从芯片内部采集运行数据、统筹电网与新能源供给、完成系统全局优化，AI都将成为核心载体。海量数据催生实时决策需求，仅靠人工无法处理海量日志与遥测信息，自主智能代理统筹基础设施将成为行业唯一可行路径。

Nightingale：未来将涌现大量自主管理型芯片，可动态调配CPU与加速器传输流量，实时定位片上网络热点并重新分配负载。正如Nandan所言，若芯片内部出现故障区域，系统可自动绕开失效裸片传输数据，保障实时业务时序；软件同步根据观测到的资源竞争动态调整带宽分配，以上全部场景均可依托自主智能AI实现。工程师仅需下达需求、设定性能指标，AI即可自主适配设计方案、动态调优，相关前沿技术正快速落地。

Merlo：若结合自动化运维机器人，系统可提前预判芯片一个月后失效，调度机器人携带备用器件完成快速更换，该场景终将落地。

Harrison：这属于芯片全生命周期管理技术，核心是“自愈芯片”理念。若可实现故障内核关停、资源替换，即可达成硬件自愈，完整承载全部业务功能。

SE：面对多裸片、芯粒架构带来的系统复杂度提升，如何保障可观测性同步扩容？AI是否是唯一解决方案？

Radhakrishnan：行业需要一套预训练完备的专用系统，可极速解析全部设计数据，应对复杂多裸片架构。系统必须兼顾运算速度、分析精度，且不能模块化割裂——芯片间存在大量信号串扰、交互耦合，需要全局统一分析。

同时系统需支持实时快速决策，无法长期存储海量原始数据，因此运算必须高速精准。此外，行业标准化建设至关重要。

Fish：标准体系利弊共存。多年来测试领域已实现设备、可测试性设计（DFT）工具标准化，但监测、传感器数据格式五花八门。云厂商普遍推动遥测数据接入Redfish规范，但数据交互格式仍无统一标准。多厂商IP、多芯粒集成的大型系统由终端客户组装，行业亟需统一数据交互规范，才能支撑规模化部署。

Merlo：遥测数据将成为复杂系统的核心基础指标，地位等同于过往CPU、GPU算力。当下数据中心高度重视散热设计，航天领域硬件故障极少源于算力不足，散热失效才是核心痛点；散热已成为AI数据中心顶层设计核心要素，遥测数据的重要性与之相当，甚至更高。海量数据中心部署规模决定标准化遥测体系是刚需，所有云厂商均将其列为优先落地项目。

Nightingale：若要实现可观测能力规模化适配多裸片、芯粒架构，核心前提是跨裸片统一全局运行视图。最优扩容方案是将可观测链路与片内互联网络深度融合，数据传输路径统一，不受裸片数量影响。

标准化体系在此环节不可或缺，可为单芯片、多裸片系统提供统一、可复用的可视化框架。大规模全局遥测数据产生后，AI负责解读数据、挖掘特征、输出优化方案，但无法解决规模化采集、硬件埋点的底层架构问题。AI仅能解读数据，可观测能力扩容本质是架构设计问题；若跨裸片无统一互联可视化链路，AI将缺少有效分析数据源。

Nayampally：Andy的观点十分关键，底层架构是根本。监测指标的设计逻辑同样需要智能化，监测模块需支持可编程升级、弹性扩容，全部纳入顶层架构设计；同时兼顾实时读取、多渠道调取能力，是我们重点攻关方向。

实时业务场景需要轻量化计算方案，避免生成海量原始数据；若必须采集原始数据，则配套压缩算法。此前谈及标准化，我们的研发重心聚焦跨裸片、全局互联监测底层架构，简化软件与AI的数据调取链路，实现实时分析。

Karvat：规模化场景下，数据传输是性能瓶颈。从单芯片到芯粒、整机系统，数据量呈指数级增长。设计团队需在传感器近端完成数据预处理、过滤、精简，减少传输至片内处理单元、整机系统与云端的数据总量。近传感器端数据处理是实现规模化可观测的核心手段。

Darbari：可观测能力规模化落地，本质是架构与标准化双重难题。行业需要覆盖全裸片的遥测互联总线、统一生命周期数据格式、各芯粒标准化可观测交互协议，为集成商提供完整统一运行视图。

搭建完这套底层框架后，AI才能发挥价值：关联跨裸片事件，挖掘人工难以识别的潜在异常规律。但AI无法替代标准化底层架构。完整闭环方案需结合标准化遥测链路与形式化系统约束：通过形式化定义跨裸片约束（一致性、时序、安全、活性等），配套轻量化跨裸片监测模块，在外场持续校验约束条件。AI可标记可疑数据特征，只有形式化验证工具才能判定该特征是否会引发、或存在触发约束失效的风险。

SE：各类可观测监测机制是否会影响系统原生性能与运行逻辑？若存在影响，如何规避？

Nightingale：我们的架构对系统性能干扰极低。观测链路独立组网，通过数据过滤限制采集范围；非必要场景不启用侵入式监测模式，保障可观测数据真实还原系统运行状态。

我们搭建独立辅助网络采集观测数据，不干扰业务数据流，规避海森堡不确定性原理带来的观测干扰问题。

Harrison：我们的监测模块同样实现完全无侵入设计，搭载独立硬件通路，属于被动监测。唯一潜在影响是时序收敛，功能层面无任何干扰，不会占用业务运算周期，独立硬件通路是核心保障。

Fish：行业监测方案覆盖范围差异极大，从单一温度传感器，到单芯片上百个探测点位、数千时序裕量监测单元。可测试性设计（DFT）早年因占用芯片面积饱受诟病，如今已成为设计标配。监测硬件层级丰富，架构远复杂于单点传感器。芯片面积占用仅作为评估指标，不会阻碍监测模块落地。

Darbari：设计不当的可观测机制会严重干扰系统。关键路径新增逻辑、高频追踪数据流、频繁轮询监测均会扰动被测系统；低功耗设备中，常驻监测总线持续耗电，加剧芯片热效应。

行业最优方案为分层监测架构：第一层低开销常驻监测模块，包含健康指标、聚合计数器，功耗与时序预算提前预留；第二层重型调试链路，完备数据追踪、侵入式测试模式，仅在芯片调试、定向外场诊断时少量启用。

采样、触发、过滤机制保障详细追踪数据按需输出，遥测传输带宽优先级低于低时延业务数据流。形式化验证可直接用于该环节：证明新增监测逻辑不会破坏死锁规避、安全等核心约束，同时量化“可观测覆盖度”，明确监测模块可捕获多少核心逻辑运行状态，实现性能开销与故障诊断能力的量化权衡，而非仅凭经验判断。

Merlo：站在云服务商运营成本角度，高精度监测带来的功耗损耗可通过全局智能优化弥补。单节点故障导致整个训练集群停机，会给云厂商造成数千美元损失；投入少量硬件成本搭建完善遥测体系，规避大规模停机故障，具备明确经济价值。没有企业愿意因单颗裸片互联失效，导致整套集群瘫痪。

SE：当下可观测机制还有哪些待完善的能力，是目前无法实现的？

Darbari：三大核心短板亟待补齐。

第一，面向约束规则的遥测采集。现有监测模块仅输出温度、电压、计数、通用错误码等底层数据；下一代监测硬件需基于形式化约束规则开发，例如“该计数器记录流程完整性约束临界异常”“该标识位代表数据完整性保障条件失效”，让外场监测数据具备直接可落地的分析价值。

第二，芯片硬件与形式化模型双向联动。目前遥测数据极少系统性回灌至形式化验证流程；理想状态下，真实业务流量、极端时序场景、实测故障模式可作为形式化仿真输入，优化验证覆盖目标。同时形式化工具可定位现有监测模块无法覆盖的关键行为，指导下一代监测硬件迭代，打通芯片验证与全生命周期管理链路。

第三，完善静默数据损坏（SDC）与跨层级因果溯源能力。静默数据损坏已是行业无法忽视的重大隐患。可观测架构需原生集成基于形式化规范的校验监测模块，提前捕捉SDC早期特征；同时提供跨IP、跨裸片溯源链路，完整复现故障成因。结合形式化工具与可观测技术，行业才能从“发现故障”升级为“定位失效约束、明确故障根源、输出修复方案”。

Karvat：我们更期待行业统一开放标准。单一厂商无法独立完成下一代芯片全量数据采集与解析。开放框架将实现三大价值：一、整合行业最优组件，提升客户使用体验；二、标准化安全架构保护敏感遥测数据；三、保障全运维栈跨厂商互通。

Merlo：标准化体系将大幅加快技术迭代，产出更优质、可规模化落地的解决方案。

Harrison：我表示认同。与客户沟通芯片全生命周期管理时，各方定义差异极大；云厂商强力推动统一行业规范，行业需加快标准化落地进程。

Radhakrishnan：台积电等晶圆厂正在研发3D堆叠芯片方案，不同厂商硬件组件间需要安全通信链路。自主智能AI、代理调度系统需要组件级、整机级加密交互机制，配套统一协同运行标准。裂纹、热点等故障可通过串扰影响多颗芯片，晶圆厂与整机厂商亟需标准化协同定位流程，高效排障。

Fish：监测模块采集的温度、电压、业务交易数据看似无关紧要，但汽车、数据中心领域客户高度重视该类数据安全。行业亟需一套通用方案，统一实现全链路数据隐私防护。

Nayampally：换一个互联总线以外的视角：现有裸片可视化技术需拓展至封装级可视化，芯粒架构下硬件看似电气正常、独立测试无异常，故障却出现在互联环节，无法定位是微凸块失效还是基板故障。

多尺度、多物理场仿真技术暂无法转化为实时硬件诊断能力，仅能辅助故障交叉定位。完善封装级可视化能力，才能真正打通芯粒商业化壁垒，厘清故障责任归属，避免厂商间推诿、理赔纠纷，提前隔离故障点位，这也是目前商用芯粒市场发展受限的核心原因之一。

Nightingale：现有可观测体系仅能反馈“发生了什么故障”，难以解释故障根源，也是客户咨询最多的痛点。行业需要打通业务流量、负载、软件状态、系统配置（片内/片外）的数据关联分析，让遥测数据具备溯源价值，方便工程师快速修复问题。当下客户普遍反馈：我们能看到故障现象，却无法定位根因。补充全维度运行上下文，是未来核心优化方向，同时兼顾前文提到的标准化、安全、封装可视化等需求。