2026年2月,加拿大初创公司Taalas震动了AI计算领域。该公司由前AMD和英伟达架构师Ljubisa Bajic创立,以一种非传统的基于模型(Model-Based)芯片架构登场——它绕过软件,将模型结构、参数和权重直接硬连线到芯片中。Taalas在累计融资超过2.19亿美元后走出隐身模式。不到六个月后,8月6日AMD宣布收购Taalas,以巩固其在AI推理领域的战略地位。
在7月的AMD Advancing AI大会上,CEO苏姿丰强调没有任何单一芯片方案能适配所有场景。虽然通用GPU凭借其对新兴AI模型的灵活性预计仍将保持主导地位,但她指出"多元化"势在必行。因此,AMD迅速收购Taalas凸显出顶级GPU制造商正从单一处理器供应商向全集成系统提供商演进。
Taalas此前曾因其宣称的性能而登上头条:该公司的方法可以使AI模型的效率比基于软件的方案高出1000倍。基于台积电6nm工艺制造的HC1芯片,据报道在处理Meta Llama 3.1 8B模型时可达到每用户16,960 tokens/秒的速度。Taalas称这比英伟达GPU基准快48倍,比Cerebras对比方案快约8.5倍。
该公司此前披露,计划在HC1平台基础上为第二款中型推理LLM构建芯片,经过实验室测试后将加入其推理服务。此后,Taalas计划使用第二代HC2平台推出一款前沿LLM。HC2提供显著更高的密度和更快的执行速度,计划于2026年冬季部署。
AMD设想Taalas的技术将补充其全栈AI平台,包括Helios机架级解决方案、Instinct GPU、EPYC CPU、ROCm软件及其不断扩展的AI生态系统。AMD近期已开始量产Helios,其首款旨在与英伟达竞争的机架级集成服务器产品,计划于2026年晚些时候开始出货,Meta和微软是其早期客户。AMD还宣布与Cerebras建立合作伙伴关系,计划在2026年晚些时候将Helios系统与Cerebras AI芯片配对,推出联合推理解决方案。
Taalas创始人兼CEO Ljubisa Bajic此前曾担任AMD IC设计与架构总监以及英伟达高级架构师。2016年创立Tenstorrent后,他于2023年将CEO职位移交给芯片架构师Jim Keller,随后创立了Taalas。
在Taalas官网上,Bajic表示公司正在构建一个能够将任何AI模型快速转换为定制芯片的平台,声称可以在短短两个月内将一个陌生模型转化为物理硬件。他指出,传统通用推理硬件在存储器和计算单元之间是分离的,迫使现代AI系统严重依赖先进封装、HBM堆叠、海量I/O带宽和液冷。相比之下,Taalas的目标是构建一个完全不需要HBM、先进封装、3D堆叠或液冷即可运行的系统。
Taalas的核心技术与主流GPU以及其他数据流架构(包括Groq LPU和Cerebras晶圆级加速器)截然不同。它不依赖HBM存储模型权重,而是将权重"直接刻入芯片"以形成模型专用ASIC,这种方法论根植于模型即计算机(The Model is The Computer)的理念。
通常情况下,AI模型以软件形式驻留在外部HBM中,芯片在计算过程中需要不断调取参数。Taalas将模型结构和核心权重编码在芯片上的掩膜ROM(mask-ROM)召回结构中,同时使用SRAM召回结构处理KV缓存和微调适配器。这实际上将基础模型参数锁定在了芯片的物理硬件结构中。
这种架构方法并非没有缺陷。与标准ASIC一样,定制化意味着牺牲通用多功能性。虽然推理速度极快,但有限的可编程性意味着客户无法通过软件更新切换到发生重大变化的基础模型或新的基础权重,而必须等待新的芯片版本。此外,第一代芯片的激进量化相对于GPU基准会造成一定的质量损失。针对这些权衡,Bajic解释说,Taalas的激进方案是为特定的高吞吐量应用量身定制的,通过刻意牺牲灵活性来最大化经济收益和速度。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
