新型芯片将使AI模型的能耗降低 50%

俄勒冈州立大学 (OSU) 的研究人员在人工智能技术领域取得了重大突破，他们研发出一款新型芯片，旨在大幅降低大型语言模型 (LLM) 的能耗。这项创新的出现正值 Gemini 和 GPT-4 等人工智能应用的能耗日益增长，引发了人们对其环境影响的担忧。

在波士顿举行的IEEE定制集成电路会议上，博士生Ramin Javadi和副教授Tejasvi Anand发布了这款新芯片，其功耗仅为传统设计的一半。“我们设计并制造了一款新型芯片，其功耗仅为传统设计的一半，”Javadi说道。作为俄勒冈州立大学混合信号电路与系统实验室负责人的Anand强调了这一研发的紧迫性，并指出传输单个比特数据所需的功耗并没有随着数据传输需求的增长而下降。这种不平衡是导致数据中心高功耗的一个主要因素。

这款新芯片利用人工智能原理来提升信号处理效率。Javadi 解释说：“大型语言模型需要通过数据中心的有线铜缆通信链路发送和接收海量数据，这需要消耗大量能源。解决方案之一是开发更高效的有线通信芯片。” 该芯片集成了片上人工智能技术，通过训练分类器识别和纠正错误来智能地恢复数据，而这一过程传统上非常耗电。

随着人工智能技术的普及，其运行相关的环境成本也受到了严格审查。大型语言模型生成的文本通常与人类书写难以区分，因此尤其耗费资源。生成式人工智能技术的快速普及——例如ChatGPT在短短两个月内就积累了1亿用户——凸显了对更可持续解决方案的需求。相比之下，手机花了16年时间才达到类似的用户规模。

虽然 LLM 已在 AI 领域占据主导地位，但小型语言模型 (SLM) 作为可行的替代方案正日益受到关注。SLM 被定义为使用不超过 100 亿到 150 亿个参数的模型，被认为更具成本效益和安全性，并且由于可以使用私有数据进行训练，因此可能提供更高的隐私性。它们还避免了 LLM 的一些缺点，例如巨大的资源需求以及与云服务相关的高昂成本。

Gartner 的 Birgi Tamersoy 表示，模型小型化的趋势显而易见。他指出：“在小型语言领域，我们看到小型模型正在变得越来越小。从应用角度来看，我们仍然认为 100 亿到 150 亿的范围属于小型模型，此外还存在一个中等规模的模型。” 向 SLM 的转变不仅是为了降低成本，也是为了提高效率。例如，微软的 Phi-1 模型仅基于 13 亿个参数运行，但事实证明，它在特定任务（例如编写 Python 代码）中的表现优于大型模型。

随着企业不断探索SLM的潜力，性能与资源利用率之间的平衡变得越来越重要。PA Consulting的Gianluca Barletta指出：“需要进行成本评估。LLM的运行成本往往高于SLM。” 这种观点在整个行业中引起了共鸣，因为许多公司现在正在考虑采用混合方法，利用LLM和SLM来优化其AI能力。

这些发展的影响远不止成本和效率。人工智能技术对环境的影响日益令人担忧。正如 JFrog 的 Tal Zarfati 指出的那样，在智能手机和物联网设备等边缘设备上运行小型模型的能力，可以显著减少与人工智能运行相关的碳足迹。

除了能源效率之外，研究人员还在从行为博弈论的视角研究法学硕士（LLM）的社会行为。最近的一项研究考察了法学硕士在重复博弈中的互动方式，发现它们虽然在自利场景中表现出色，但在协调任务中却举步维艰。该研究发现，像 GPT-4 这样的模型在竞争性博弈（例如迭代囚徒困境）中表现良好，但在协调性博弈（例如性别之战）中表现不佳。

这些发现提出了关于法学硕士（LLM）的未来及其在人机交互中的作用的关键问题。研究表明，包括 GPT-4 在内的法学硕士（LLM）在竞争场景中往往缺乏包容性，经常在一次负面互动后就放弃。然而，当被要求预测对手的举动时，这些模型表现出了更佳的协调能力。

研究中，与 LLM 进行对弈的人类参与者表示，相比基础版本，SCoT 提示模型更有可能将 LLM 感知为与人类相似。这表明，通过提示技术增强 LLM 的社会认知能力，可以促进人类与 AI 之间更有效、更愉悦的互动。

随着人工智能技术的不断发展，像俄勒冈州立大学开发的新芯片一样的节能设计，以及对更小、更专业模型的探索，为可持续的人工智能发展提供了一条充满希望的途径。随着各行各业对人工智能技术的依赖程度日益加深，平衡性能、成本和环境影响的能力将变得至关重要。

总而言之，芯片技术的进步和小型语言模型的兴起代表着人工智能领域的关键时刻，它解决了大型语言模型带来的效率和可持续性挑战。正在进行的 LLM 行为研究进一步强调了理解这些系统如何相互交互以及如何与人类交互的重要性，为未来更高效的人工智能应用铺平了道路。