NPU详解：没有就不能用AI了吗

个人电脑经历了近40年的发展历程。从1970年代诞生，到20世纪80年代和90年代掀起的PC普及浪潮，再到新世纪后进入相对稳定的成熟期，PC行业一直是科技发展的重要推动力。

然而2020年以后，情况发生了变化。根据调研数据统计，2021年全球PC出货量为3.45亿台，较2020年下降了5%。2022年这一数字进一步下降至3.32亿台，已连续两年出现了负增长。这一趋势表明，个人电脑产业正处于一个相对疲软的阶段。

就在这个关键时期，人工智能技术的兴起，为PC行业的未来发展带来了新的机遇。英特尔、AMD等传统个人电脑处理器巨头，纷纷在近期加快推出搭载AI加速芯片的新一代PC产品。

他们希望凭借AI技术的加持，为个人电脑市场注入新的活力，抢占市场先机。同时高通这样的移动芯片厂商，也在今年推出了面向PC市场的Snapdragon X Elite处理器，积极杀入个人电脑领域，与老牌品牌展开竞争。

面对这一新兴的 AI PC 市场，不同厂商都提出了各自的定义和诠释。对于普通用户而言，究竟什么样的电脑才算是真正意义上的“AI PC”？这种新型计算设备又能为我们的日常生活和工作带来哪些变革性的影响？接下来就跟大家一起唠唠AI PC那点事。

什么是AI PC？

Intel作为个人电脑行业中占据主导地位的处理器巨头，英特尔在AI PC的定义上自然具有较强的话语权。英特尔对AI PC有三点比较核心的要求。

1、配备专门的神经处理单元（NPU）、中央处理器（CPU）和图形处理器（GPU）?，这样的硬件组合能够为AI应用提供必要的计算资源。

2、支持微软的Copilot功能，并且在键盘上设有专门的Copilot物理按键。

3、具备AI专用加速功能，这意味着CPU、GPU和NPU每一个部件都能针对AI任务进行优化，以提高效率和性能。

这里的关键在于集成了英特尔神经网络处理单元（NPU）。这是英特尔专门针对AI和机器学习场景进行优化设计的硬件加速器，可以大幅提升PC在语音交互、图像处理等人工智能任务上的计算能力，在本地提供快速的响应时间，同时相较于云计算服务更为节能，有助于延长设备的续航时间。

对于更复杂的AI任务，则可能需要用到GPU和CPU协同，因为NPU可能不足以处理这些高强度的工作负载。在某些情况下，CPU、NPU和GPU还能够协同工作，以运行大型的语言处理模型。

AI模型对内存容量和速度也有很高的要求，因为更大的内存容量能够让模型更加复杂和精确，而更快的内存速度则能提升整体的性能。尽管目前微软尚未设定具体的最低内存要求，但英特尔指出，某些工作负载可能需要至少16GB甚至32GB的内存。

英特尔抢先在笔记本电脑上推广AI PC概念，发布了具有NPU的全新一代酷睿Ultra处理器，并计划到2025年底交付超过1亿台带有AI加速器的PC，据报道Intel已经与100多家AI独立软件供应商（ISV）合作，预计到2024年底将推出300多款AI加速应用程序。

AMD对AI PC的定义体现在其对AI技术的整合和应用上，旨在将个人电脑转变成为最智能和最个性化的设备。AMD认为AI PC应具备以下特点：

1、内嵌基于个人大模型的自然交互个人智能体，这允许设备理解和响应用户的需求，提供更加个性化的用户体验。

2、内嵌个人知识库，使得AI PC能够存储和管理用户的数据和信息，以便提供更精准的服务。

3、具备CPU+GPU+NPU的本地异构算力，这种混合架构能够充分利用不同类型的处理核心，以实现高效的AI计算。

4、连接开放的AI应用系统生态，意味着AI PC应支持与各种AI应用和服务无缝对接，形成一个互联互通的环境。

5、保护个人隐私和数据安全，确保用户在享受AI带来的便利的同时，其数据和隐私得到妥善的保护。

从产品发布时间上看，AMD比Intel稍晚一些，除了针对笔记本电脑，集成NPU的锐龙8000系列处理器以外，首次将NPU芯片集成在台式机处理器中，其运算核心整合算力达到了39TOPS。

AMD同样提供三种计算引擎以满足AI PC的差异化需求，分别是Zen4架构CPU、RDNA 3架构GPU和XDNA架构的NPU。Zen4架构CPU主要用于通用处理和AI推理，RDNA 3架构GPU适用于游戏和基于AI的内容创建，而XDNA则专注于低功耗的AI应用，可自适应数据流架构，能够减少对外部内存的访问，从而提高性能和能效。

高通通过Snapdragon X Elite处理器正式开启了对PC市场的冲击。该款处理器搭载了高通自主研发的AI加速引擎，能够为笔记本电脑带来出色的机器学习运算性能。

从高通公开发布信息总结下来，高通认为AI PC 应该具备以下几个关键特点:

1. 搭载专门针对 AI 任务优化的异构计算架构,包括CPU、GPU和AI加速器等协同工作。

2. 支持业界领先的人工智能框架和模型,能够流畅运行各类智能应用程序。

3. 具有出色的能效表现,即使在密集的AI计算场景下也能保持长续航。

4. 拥有即时响应的用户交互体验,比如自然语音交互、智能辅助等。

虽然搭载高通Snapdragon X Elite处理器的笔记本还没有上市销售，但从高通官方披露的数据来看，其性能表现相当出色，它在多项基准测试中击败了Intel与AMD的产品，同时其功耗表现更优，特别是AI性能，据说可以提供高达75 TOPS的AI算力。这使得Snapdragon X Elite处理器能够在本地快速处理AI模型，如Stable Diffusion，该模型可以接收文本提示并生成图像。此外，Snapdragon X Elite处理器的NPU还可以在没有CPU或GPU辅助的情况下运行所有AI任务，或者在需要时与CPU或GPU协同工作。

不同厂商在定义AI PC概念上有所差异，但在几个关键点上已达成共识:

首先，AI PC 必须拥有强大的AI处理能力。这意味着它们需要搭载专用的神经处理单元（NPU），并能与CPU、GPU协同工作，共同支撑各类智能应用。

其次，AI PC 应该具备在本地直接运行复杂AI模型的能力，无需完全依赖云端计算资源，从而提供即时响应和流畅的交互体验。

此外，AI PC 还需要拥有足够大的内存和存储空间，以容纳和运行日益庞大的AI模型。同时，良好的软件生态也是必要条件，为AI应用的开发和部署提供支撑。

为什么需要NPU？

NPU是专门为人工智能和机器学习场景而设计的处理器。与通用的中央处理器 (CPU) 和图形处理器 (GPU) 不同， NPU 在硬件结构上进行了针对性的优化，专注于执行神经网络推理等AI相关的计算任务。

相比之下，CPU 擅长处理通用的计算和控制逻辑，而GPU则在并行计算方面具有优势，擅长处理图形渲染等图形密集型任务。NPU作为AI PC中专门的神经网络加速处理器，其最大的优势就体现在能够高效支持各类AI应用场景。

比如在视频会议中，利用NPU可以实现智能抠像功能。传统做法需要GPU来承担复杂的图像分割和合成计算，但有了NPU加持，同样的任务可以在本地高效完成，不仅响应更快，而且功耗也大幅降低。用户在视频通话时就能享受到流畅、稳定的画面效果。

再比如在图像处理领域，NPU可以高效运行AI模型，实现智能降噪、超分辨率等功能。以往这些操作往往需要借助GPU的强大并行计算能力，但NPU可以以更低的功耗，同样为用户提供出色的图像质量。

甚至在系统管理方面，NPU也能大显身手。它可以运行AI模型对系统状态进行实时监测和分析，智能调整CPU频率、风扇转速等参数，实现更智能、节能的电源管理。这对于笔记本电脑等移动设备而言尤为重要。

此外，NPU还能赋能于语音识别、自然语言处理等领域，为用户提供更自然、智能的交互体验。不过对于一些复杂的大型AI模型，仍需要CPU和GPU的强大运算能力来支撑。

总的来说，NPU作为AI PC中专门的神经网络加速器，能够在视频、图像、系统管理等各类场景中，发挥出色的AI加速能力，为用户带来更智能、高效、节能的计算体验。这也是各大厂商纷纷在AI PC上集成NPU的重要原因所在。

没有NPU就不能用AI了吗？

很多人可能会有这种疑问 ：如果一台电脑没有NPU，是否就意味着无法使用人工智能技术?实际上并非如此。

NPU作为专门的神经网络加速处理器，其主要作用是协助提升人工智能应用在个人电脑上的运行效率和体验。比如前文提到的视频会议抠像、图像智能降噪等场景，有了NPU加持可以大幅提升性能和降低功耗。但这并不意味着没有NPU的电脑就无法使用AI功能。

对于一些基于云端的AI服务，只要联网即可获取支持，并不需要本地强大的硬件算力。比如智能语音助手、文生图等应用，用户只需通过网络连接即可调用云端的AI模型进行运算,无需依赖本地的NPU或GPU。

当然，如果用户希望在本地运行一些更加复杂的大型AI模型，如大语言模型、大规模生成模型等，那么仍然需要依赖更强大的算力支持，包括独立显卡GPU甚至多核CPU。但即便是配备了AI PC的高性能硬件，在运行这些应用时，也依然需要调用GPU进行大部分的计算。

所以说，NPU虽然是AI PC中的关键组件，能够大幅提升常见AI应用的性能和效率，但它并非AI应用的必要条件。对于云端驱动的智能服务，普通PC也能获得相应的AI能力支持。而对于需要强大本地算力的AI大模型应用，即便是搭载NPU的AI PC，在某些场景下也需要依赖GPU等硬件的加持。

我们真的需要换一台AI PC吗？

相信现在绝大多数用户都还没有用上AI PC，但我们依然体验到了各种个样的在线AI工具，这些产品与服务，通过联网即可调用强大的云端AI模型，无需依赖本地算力，使得人工智能在各类终端设备上的应用变得更加便利。

但与此同时，我们也必须正视AI PC作为当前个人电脑发展的重要趋势。AI PC所带来的变革，绝不仅限于提升某些效率或赋能几款AI应用工具那么简单。它更是借助人工智能技术，从根本上为用户带来了前所未有的优质体验。

比如本地文件的智能检索和管理，比如基于AI优化的电源管理策略，能为用户带来大幅提升的续航和静音性能等。AI PC将人工智能融入个人电脑的方方面面，革新了人机交互和使用体验。

更进一步来看，基于人工智能的穿戴设备、移动终端等新型智能硬件正在崛起，它们与AI PC之间的界限正在变得日益模糊。智能化、交互性是这些设备的共同特征，而AI正是实现这些特征的关键驱动力。

因此，尽管目前获得AI能力的途径可多可少，但AI PC作为人工智能在个人电脑领域的深度融合，必将从本质上重塑我们对计算设备的使用体验和认知。未来，多设备之间的边界会因AI而日渐消失，只有真正实现人工智能与硬件的无缝集成，才能最大限度释放出AI的能量。