AMD收购Taalas,加码专用AI推理芯片

来源:半导纵横发布时间:2026-11-19 16:34
AMD
芯片设计
生成海报
模型专用芯片路线并入AMD推理版图。

近日,AMD宣布完成对专用AI推理芯片公司Taalas的收购。这家公司的技术路线,是把AI模型的权重和数据流直接映射到芯片晶体管中,用一颗针对特定模型设计的芯片来完成推理,减少传统AI计算中模型与硬件之间的数据传输环节。

AMD表示,Taalas的加入将进一步强化其全栈AI产品组合,并为公司长期AI推理发展路线提供技术支持。

模型写进晶体管,推理省去搬运

Taalas的芯片与主流GPU采用了两条不同的技术路线。通用GPU执行推理时,需要反复在高带宽内存与计算单元之间搬运模型参数,参数规模越大,数据搬运带来的时间开销与功耗越高。Taalas则将模型的权重和数据流直接固化到芯片晶体管中,参数不再需要在存储与计算之间来回搬运,直接在设计层面减少了数据传输环节。

其首款测试芯片HC1采用台积电6nm工艺,针对Meta的Llama 3.1 8B模型设计。

据SiliconANGLE消息,Taalas此前披露HC1能够以接近每秒17,000个token的速度运行Llama 3.1 8B,并宣称其性能达到英伟达H200的73倍,功耗仅为后者的十分之一。

这一设计带来一项结构性变化。主流AI加速器都要搭配高带宽内存才能发挥算力,而HBM正是当前供应最紧张、在芯片成本中占比最高的部件之一。Taalas把权重放进晶体管后,芯片对片外高带宽内存的依赖随之大幅下降。

一颗Taalas芯片主要运行其设计所对应的模型,模型结构发生变化,芯片可能需要重新设计。据Taalas介绍,芯片迭代不需要每次从头开始,其芯片设计包含100多层,其中针对不同模型调整的部分约为两层,公司通过内部工具将流片周期缩短至约两个月。Taalas此前推出的HC2,面向的是约200亿参数规模的模型,使用的就是这一设计思路。

Taalas并入Instinct体系,补齐AMD推理布局

AMD在公告中给出了关于Taalas的技术安排,即与Instinct GPU结合,进一步开发系统级解决方案,并与EPYC处理器、ROCm软件以及Helios机架级系统形成配合。换言之,这款芯片将嵌入AMD现有的数据中心产品体系,作为系统方案的组成部分出现。

收购发生在AMD数据中心业务快速扩张的阶段。AMD官方财报显示,公司第三季度数据中心事业部营收85亿美元,同比增长97%,创下单季纪录,增长动力来自市场对EPYC处理器的强劲需求,以及Instinct MI450系列GPU的推出。推理是AMD数据中心业务的重要组成,Taalas的加入为这一业务增加了模型专用这条新的技术路线。

AMD人工智能事业部高级副总裁Vamsi Boppana表示,AI推理正在快速发展,客户需要针对不同工作负载选择合适的计算方案。Taalas的加入,将帮助AMD进一步提供差异化的推理性能和能效表现。

这次收购的背景,是推理在AI算力需求中的占比持续提升。推理是模型训练完成上线后响应用户请求的阶段,一次对话、一次搜索背后都是推理任务,其总算力消耗随着应用铺开持续增长,对成本和能效的敏感度也高于训练。AMD在收购公告中表示,随着AI推理需求不断增长,客户需要针对不同工作负载进行优化的计算解决方案。Taalas的模型专用设计对应的就是这类需求,为特定模型定制芯片,以获得这一模型上更高的性能和能效。

从行业现状看,数据中心推理目前以通用GPU为主,大型云厂商同时为自家头部模型部署定制芯片,两种形态并行。AMD通过这次收购,在自家通用GPU之外增加了模型专用路线,客户可以按工作负载在两种方案之间选择。

对AMD的产品线来说,Instinct GPU承担通用计算,Taalas的芯片面向固定模型的推理负载,两者并行。此次收购将扩大AMD在加拿大的工程研发力量,Taalas团队的加入成为AMD推进AI技术创新和人才建设的一部分。

芯片随模型而定,规模决定回报

将模型映射到芯片,此前面临两点挑战。一是芯片随模型而定,模型更换即意味着芯片更换,硬件更新节奏受制于模型迭代;二是定制芯片的流片成本高,只有推理规模足够大的客户才能覆盖这部分投入。Taalas以两层调整加两个月流片回应第一点,而第二点能否成立,取决于客户侧的推理规模是否足够集中。

从客户结构看,最适合这类产品的是大型云厂商和模型公司。这些客户的模型相对固定,推理请求量巨大,模型上线后的服务周期以年计,为单一模型定制芯片的投入有明确的回收路径。HC1宣称的性能数字,对应的正是这类单一模型、大请求量的负载场景。

Taalas技术何时以正式产品的形态进入AMD产品线,公告没有提及。并入后如何与ROCm软件栈适配、与Instinct系统怎样分工,同样要等AMD后续公布。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。

评论
暂无用户评论