OpenAI的模型正在快速提升芯片设计能力,为AI芯片研发提供新的助力。
今年8月,OpenAI曾介绍其工程师如何利用前沿模型加速首款自研推理芯片Jalapeño的开发。此次,OpenAI进一步披露了Jalapeño性能提升背后的专业设计优化,以及如何将相同方法应用于AMD等第三方硬件,并取得显著进展。
为了衡量模型完成端到端芯片设计任务的能力,OpenAI对不同代际的模型进行了评估,测试对象包括两款开源处理器设计,并取得了一些值得关注的结果。
与此同时,OpenAI正在与新思科技(Synopsys)合作,将前沿AI能力整合到工程师日常使用的电子设计自动化(EDA)工具中,帮助工程师完成芯片设计与验证,以此建立更加可靠的模型能力评估体系。
2025年初,OpenAI开始使用GPT-4o辅助设计Jalapeño。即使是当时的早期模型,也已经能够找到具有实际意义的PPA(功耗、性能和面积)优化空间。
在负责管理和执行并行计算任务的向量单元中,优化主要涉及浮点加法器和乘法器、转换函数、归约逻辑以及特殊功能单元。模型探索了不同的逻辑实现方案,以及如何将计算任务分配到不同流水线阶段,从而发现了共享硬件资源、减少中间存储的机会。
在作为算术运算组件的矩阵单元中,优化则涉及浮点加法器、乘法器以及低精度点积电路等多个部分。
其中,一项乘法器重新设计方案在综合阶段将单元面积减少了约15%,同时将延迟从两个时钟周期缩短至一个时钟周期。另一项独立的加法器重新设计方案将单元面积减少了约15%,同时保持原有的两个时钟周期延迟。对点积逻辑和流水线组织方式的进一步优化,也为整个模块带来了额外的资源节省。
从Jalapeño整体设计来看,OpenAI团队估计,模型提出的改进方案使向量单元的标准单元面积减少了约13%,矩阵单元的标准单元面积减少了约10%。这些优化均已在Jalapeño的硅片验证阶段得到验证。
OpenAI已与AMD建立合作关系,共同推进PPA优化。在AMD旗舰GPU IP上,相较于经过深度优化的基准设计,双方实现了最高14%的性能提升。OpenAI的模型通过重写描述芯片电路的代码,即SystemVerilog RTL(寄存器传输级)代码,进一步找到了优化空间。这意味着,双方在不到5个月的时间内取得了相当于传统方式约一年才能实现的进展,这在芯片设计前沿领域尚属首次。AMD已经将其中部分改进应用于近期提交制造的设计中,并将其他改进纳入其生产设计文件,以供未来版本使用。
OpenAI观察到,该模型已经能够以专家级微架构工程师的水平对RTL进行推理。模型可以重写执行计算、控制操作或数据传输的电路,并利用新思科技的工具验证每次修改是否保留了原有模块的功能,同时评估功耗、性能和面积之间的权衡。
此外,AMD还通过采用OpenAI模型编写的设计,在即将推出的下一代旗舰CPU关键模块上验证了个位数百分比的PPA提升。展望未来,OpenAI预计,在GPU和CPU领域,相较于目前经过最充分优化的基准设计,仍有望实现进一步的PPA改进。
Jalapeño和AMD芯片上的成果表明,模型能够改进实际量产设计中的芯片。为了衡量不同代际模型在芯片设计能力上的进步,OpenAI对两款开源的32位RISC-V处理器内核进行了测试。其中,PicoRV32是一款面向现场可编程门阵列(FPGA)的紧凑型处理器内核。OpenTitan则将Ibex用作其安全芯片中的嵌入式处理器。这两款处理器内核都能够完整运行面向嵌入式和微控制器级别的工作负载。
OpenAI向每个模型提供了两款处理器内核原始的硬件描述,并要求模型提高其吞吐量,即处理器每秒能够执行的指令数量。例如,一项设计改动可能使处理器能够在更少的时钟周期内完成一条指令,但同时也可能延长每个时钟周期的时间。通过测量吞吐量,可以同时考虑这两方面的影响。
评估过程中,OpenAI通过仿真检查每项设计的输出。如果设计未能通过检查,或者使用的面积超过原始处理器内核的16倍,则得分记为零。对于通过检查的设计,OpenAI在模型无法获取的隐藏工作负载上测量其每个时钟周期执行的指令数(IPC)。随后,计算这些工作负载的几何平均值,并将其乘以使用Yosys估算的最高时钟频率,由此得到每秒指令执行数量的估算值。对于每款处理器内核,OpenAI将相同约束条件下观察到的最高吞吐量设定为1.0分。图表展示的是多次运行的平均得分,其中也包括得分为零的测试结果。
在每次运行使用约11.2万个Token的可比预算下,GPT-6.2 Astra在两款处理器内核上的平均得分均为最高。GPT-6.1 Sol在两款处理器内核上的得分也都超过了GPT-5.6 Sol。
在现有的PicoRV32处理器内核上,GPT-6.2 Astra在较高的可比Token预算下取得了最高平均得分。在约11.2万个Token的预算下,其得分约为GPT-6 Astra的两倍。
在现有的Ibex处理器内核上,GPT-6.2 Astra的平均得分随着Token预算提高而持续上升。GPT-6 Astra与GPT-6.1 Sol的得分则相对接近。
在第二项测试任务中,OpenAI向每个模型提供了书面需求,以及来自开源代码的模板,用于展示处理器内核如何与系统其他部分连接。模型需要自行决定数据如何在处理器内核中流动,以及如何将工作划分到不同阶段。对于每款处理器内核,OpenAI都沿用了RTL优化任务中的正确性检查、内存和缓存设置,以及吞吐量目标。
在每次运行约使用11.2万个Token的情况下,五款模型在根据书面需求设计处理器内核时,得分均高于优化现有设计时的得分。这一结果在PicoRV32和Ibex两款处理器内核上都成立。其中,GPT-6.2 Astra在Ibex上的得分提升幅度高于PicoRV32。这项完整评估共包含9881次计分测试,涵盖两项任务、两款处理器内核以及所有Token预算。
从PicoRV32的规格要求出发进行设计时,GPT-6.2 Astra在约11.2万个Token的预算下,平均得分超过0.7,并且在随后两个观测到的预算区间内取得了更高得分。
在Ibex上,GPT-6.2 Astra根据规格要求进行设计时,在约11.2万个Token的预算下,平均得分约为0.75。在更高的共同预算区间内,其得分曲线始终高于其他模型。
从书面需求出发进行设计,为模型提供了省略原始处理器内核部分功能的空间,例如性能计数器和额外指令。这些功能在测试工作负载中可能对提高吞吐量帮助不大,这或许可以解释部分得分优势。如果要求模型保留这些功能、设置更严格的电路面积限制,并在物理综合后检查时序,测试结果将更接近实际量产芯片设计的情况。
OpenAI表示,相关评估已经证明,其模型能够在RISC-V测试中探索新的处理器架构,同时也能够在Jalapeño以及AMD下一代旗舰GPU和CPU等复杂量产设计的基础上,提出新的优化方案。为了建立更加可靠的模型评估体系,并拓展模型能够解决的芯片设计问题,OpenAI正在与新思科技合作,训练一款名为GPT-Synopsys的新模型,使其能够像专业芯片设计工程师一样使用新思科技的电子设计自动化(EDA)工具。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
