什么是 NPU？

“NPU”代表“神经处理单元”。它是一种专门设计和制造的硅片，可以比更通用的中央处理器 （CPU） 或图形处理单元 （GPU） 更快地加速机器学习计算。

虽然它们通常更多地出现在数据中心和服务器中，但 NPU 现在出现在最近的消费处理器中，以加速人工智能 （AI） 软件的本地计算，例如类似于 ChatGPT 的大型语言模型。

NPU是做什么用的？

多年来，NPU 一直在一系列设备中出现，包括 Apple 的 iPhone 和 iPad、“Copilot+”PC 和笔记本电脑等。虽然苹果的仿生芯片带有板载NPU可以执行视频稳定和照片校正等任务，但它们现在也被用于生成式AI功能，如绘图和文本生成。这些用途还包括使用大型语言模型 AI 回答真实语言问题。

通常，由于极端的处理需求，这些类型的任务发生在云中，但最新一代的 NPU 允许其中一些任务直接在设备上发生。这种效率改善（降低）了响应的延迟，并降低了这些任务的总体功率和数据要求，使它们更快，电池消耗更少。

NPU 与 CPU、GPU 、SoC

“NPU”作为一个术语可能有点令人困惑的原因之一是因为它听起来很像与处理器和现代技术相关的一系列其他术语。NPU 不是 CPU，但它可以是 SoC 的一部分，SoC 也可以包含 CPU 和 GPU。让我们分解这些术语以澄清问题。

NPU：处理机器学习和 AI 计算的神经处理器单元，可以是独立芯片，也可以作为其核心组件内置于 SoC 或 CPU 中。

CPU：大多数现代电子设备中的中央处理单元和主要的通用处理器，负责处理决策，并且在一般性能方面最具影响力。更快的 CPU 将帮助您的设备更快、更高效地完成几乎所有事情。

GPU：图形处理单元，在台式电脑中有时称为图形卡。它处理 3D 和视频渲染，因此当您在线流式传输视频时，它将对其进行转码，并使您的游戏显示在屏幕上。它可以是独立芯片、独立附加卡（显卡），也可以与 NPU 一起内置于 CPU 或 SoC 中。

SoC：“片上系统”是一块硅片，其中包含一系列处理器和组件，有效地在单个“芯片”上提供完整的“系统”。您更常见于智能手机和平板电脑等紧凑型设备上，其想法是消除组件之间的额外布线，以提高延迟、效率和性能。

什么是 GPNPU？

近年来出现了一个更现代的概念，称为 GPNPU。这些处理器在单个芯片上结合了图形和神经处理器。

这种整合可以使 NPU 使用 GPU 的通用功能来加速 AI 计算，这超出了 NPU 自身可以管理的能力。一些现代设备一直在宣传其用于 AI 工作的 TFLOP 计算速度，作为衡量设备在 AI 计算时的速度的指标，而这些 TFLOP 通常在 NPU 和 GPU 之间分配，因为两者都可以做出贡献。

GPNPU 可能是它的下一个演变，有助于推动 AI 计算比以前更进一步，并可能允许 NPU 通过 AI 计算来为 3D 渲染做出贡献，以实现放大和帧生成。

NPU的应用

NPU 凭借其专业的架构，已成为一系列应用的关键，推动我们进入人工智能和机器学习无缝融入我们日常生活的未来。从增强个人设备到革新行业，NPU 始终处于技术进步的前沿。

NPU创新最直接的受益者是人工智能和机器学习领域。这些技术依靠数据而蓬勃发展——数据越细致、越全面越好。 NPU 擅长消化和解释大量数据集，使机器能够以前所未有的速度学习。这种加速学习不仅仅涉及数字计算；还涉及数字计算。它涉及理解上下文、做出预测并通过迭代学习不断发展。无论是了解您偏好以提出更好建议的数字助理，还是能够以惊人的准确度预测市场趋势的复杂软件，NPU 都是推动这些进步的引擎。

在智能设备和 物联网 (IoT) 中，NPU 不仅使电子产品变得更加智能，而且更加直观和节能。想象一下可穿戴设备可以实时监控您的健康指标，并以惊人的精度调整您的活动和健康状况。或者智能家居系统可以了解您的日常生活和偏好，创造一个完全符合您需求的生活环境。 NPU 使这些场景成为可能，在设备上处理数据，从而减少了不断向云端发送信息的需要，从而增强了 隐私 和效率。

汽车行业正处于一场革命的风口浪尖，自动驾驶汽车将重新定义我们的驾驶和交通概念。 NPU 在这一转变中发挥着关键作用，实时处理来自大量传感器的数据以做出瞬间决策。这不仅涉及识别障碍物和交通导航，还涉及预测潜在危险并适应动态路况。 NPU 在汽车技术中的集成为车辆不仅自动驾驶而且更安全、更可靠铺平了道路。

在医疗保健领域，NPU 正在实现诊断准确性和 个性化医疗。通过处理复杂的医疗数据（包括成像和遗传信息），NPU 有助于更早、更精确地诊断疾病。此外，它们还可以考虑患者独特的基因组成和健康史，制定针对患者个体的治疗计划。 NPU 的这种应用可以彻底改变患者护理，使治疗更加有效并降低不良反应的风险。

金融部门通过增强的安全性和欺诈检测系统从 NPU 中受益。通过实时分析交易模式，NPU 可以识别可疑活动并在欺诈发生之前防止欺诈。此外，他们还可以个性化银行服务，为客户提供适合其消费习惯和财务目标的见解和建议。

通过这些应用，很明显，NPU 不仅改变了我们与技术交互的方式，而且还重塑了行业、提高了效率并创造了创新机会。随着我们不断探索 NPU 的功能，我们正站在技术新时代的边缘，这个技术有望比以往更加直观、智能并融入我们的生活。