AIPC正在重新定义个人电脑硬件
Roni Sadeh, 首席技术官办公室，技术副总裁, Ceva
人工智能启用的个人电脑（AIPC）是微软提出的新概念。作为一个平台，个人电脑看似已经成熟且市场潜力有限，但一旦加入AI技术，就能发生一些令人惊叹的变化。例如，快速总结PowerPoint演示文稿或30页的Word文档。自动为Excel表格创建一个复杂的过滤器，然后创建同样复杂的趋势图。所有这些都很轻松，不需要花费数小时去研究方法或观看冗长的YouTube视频。这就是微软的建议：开发一个助手来为我们完成所有的研究工作，并生成我们需要的简洁总结、幻灯片、宏或图表。这将是个人生产力的一次真正飞跃。但这种功能必须比普通的聊天机器人更懂应用场景，并且在保证隐私和安全的同时，还要能在非常低的功耗下运行。基于云的AI并不是一个可行的选择；AI硬件和软件必须直接安装在个人电脑上。这也解释了为什么基于个人电脑的AI硬件正在快速增长。
机遇
全球还在等待AI在各类商业应用中的实际生产力提升，但人工智能启用的个人电脑（AIPC）的发展却在快速推进。微软对这一方向的热情支持，特别是他们最新发布的Surface Pro中基于CoPilot AI平台的应用，显示了他们对这一领域的坚定承诺。戴尔、惠普、宏碁和华硕已经推出了相关产品，富士康也提供了制造支持。高通、英特尔、AMD都发布或宣布了AIPC的处理芯片（SoC）。这些大公司都不想在这场竞争中落后。
这并不意外。尼德汉（Needham）公司预测，AIPC的出货量预计将从2024年的5000万件增长到2027年的超过1.67亿件。对于大多数人而言，直到今年才知道有这样一个产品类别！一位分析师预测，初期增长将由高端商务用户和内容创作者驱动，他们会因为智能助手和生成型AI图像的优势而对这些技术产生兴趣和需求。随着这些平台的普及，更多用户也会希望使用类似的AI增强功能，这并不难想象。
AIPC平台的技术要求
显然，AIPC必须配备专门的AI加速器。早期的这些系统使用的神经处理单元（NPU）性能约为40 TOPs（万亿次运算每秒）。尼德汉（Needham）公司认为，较先进的AIPC应达到60 TOPs以上，虽然目前还没有这样的产品出现。为了提供所需的生成型AI服务，这些加速器需要运行具有数十亿参数的模型，例如Llama2/3级别的大型语言模型（LLM）。 性能必须能够实时响应。在本地处理数据而无需依赖云端是一个优势，但目前通用的NPU性能还不足以在高端变换网络中提供实时响应，而如今自动驾驶系统的运行速度已经达到 300 TOPs 或更高。当然，自动驾驶系统的应用场景与AIPC的应用场景不同，但AIPC加速器可能处理的网络，包括语音识别、提示处理和推理/生成，其复杂程度不会低。
内存要求必须符合当前PC的预期，例如高端系统需要数十GB的内存，但绝对不能达到数百GB。请记住，大部分内存已经用于传统存储需求（如图像、视频和其他大数据文件）。要承载需要数十亿个参数的模型，加速器必须支持非常积极的参数压缩、实时解压缩和稀疏性处理，并且需要在DDR内存之后配置额外的闪存存储作为支持。
在数据中心中AI是出了名的耗电大户；而在笔记本电脑应用中，它必须更加节省电能。模型量化、参数压缩和稳健的稀疏处理对于实现这一目标至关重要，同时还需要标准的SoC电源管理技术，即精细的时钟门控、动态电压频率调整（DVFS）和电源岛。尽量减少对耗电量大的互联网（云端）通信的需求是关键，除非绝对必要（例如在RAG检索中），这是降低电力需求的一个重要因素。
差异化
一个重要的考虑因素是对AI模型更新的支持，这立即突出了AIPC与云端通用生成型AI（GenAI）系统的不同之处。AIPC不会也无法提供对任意范围模型的访问；因为按需下载新模型的开销实在太高。相反，它们很可能只支持自己预选的一组数量有限的模型。这些模型可以像更新操作系统一样进行更新。这种策略也意味着加速器不需要像通用加速器那样对用户开放，这也消除了对所有相应支持基础设施（SDK等）的需求。
在一个可能快速变化的市场中，硬件差异化对PC制造商来说非常重要。使用现成的平台，无论它多么先进，都无法提供制造商在专有平台上能够利用的独特优势。然而，构建和维护所需的AI硬件技术和基础设施是一个巨大的投资。因此，这些制造商很可能会与成熟的嵌入式AI NPU核心供应商合作，以帮助他们快速将产品推向市场。制造商可以专注于选择和支持他们希望的AI模型，并优化这些模型如何与他们的软件和更新系统配合。
另一个有趣的差异化机会是个性化。助手可以随着时间的推移，学习并调整服务以满足个人用户的具体需求，这些需求在不同用户之间会有所不同。有效管理这种个性化体验可以提升客户满意度，增加推荐率和重复购买率。
关键要点
AIPC（AI启用的个人电脑）有潜力成为一种颠覆性的应用，重新定义我们对个人电脑的使用和想象。要实现这一目标，需要在个人电脑内部集成强大且有差异化的AI加速器解决方案，这些解决方案必须经过优化，以提供优秀的客户体验，能够满足大多数屏幕使用需求，而不需要依赖通用生成型AI（GenAI）解决方案，也不需要为大多数目的使用云计算。Ceva公司已经在与一家大型的PC供应商合作，帮助他们开发下一代产品。请致电我们或点击本页面。
