NPU，下一个爆发的风口？

近年来，伴随着人工智能技术与应用的快速发展与迭代，其对算力的要求不断提高，而作为算力核心的人工智能芯片，自然而然也受到了产业界的强烈关注。其中，作为深度学习和人工智能领域的专用芯片——NPU，正在逐渐走向“舞台中央”。

NPU：高效能、低功耗、稳定性

NPU，即神经网络处理器，是一种专门设计用于加速人工智能（AI）和机器学习（ML）应用的芯片，它采用了数据驱动并行计算架构，使得NPU在处理视频、图像等多媒体数据时具有超强的性能，旨在高效、低功耗地执行机器学习尤其是深度学习任务。

相较于传统的CPU和GPU，NPU在AI计算方面具有更高的效能和更低的功耗。NPU针对深度学习算法所需的复杂计算进行了优化，能够高效地完成深度学习、图像识别等任务，大幅提升了AI处理的性能。而且由于NPU的特定优化，使其在运行AI任务时功耗更低，延长了设备的续航时间。此外，NPU通常具有很好的容错性和可靠性，即使在高负载、复杂计算任务的情况下，也能够保持稳定的计算性能。      

一开始，NPU主要用于提升智能手机的相机功能、电池续航和安全性等。如今，随着AI技术与应用的普及，NPU已逐渐成为人工智能技术中不可或缺的组成部分之一，其优势愈发明显，并正在快速地扩展到更多应用场景中。当前，NPU被广泛应用于人脸识别、智能语音、自动驾驶、智能安防、智能家居、智慧医疗、工业质检等各种人工智能应用场景中，为各行各业带来更多的智能化解决方案。

边缘智能，NPU或是最佳选择

前不久，高通发布了《通过NPU和异构计算开启终端侧生成式AI》报告，其中提到：“随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，需要专为AI定制设计的全新计算架构……通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。”

近年来，随着物联网设备的广泛部署与大数据的爆炸式增长，对于能够即时处理和分析数据的需求愈发迫切。加上近段时间，大模型持续向边缘侧和端侧渗透，AI计算和推理工作逐步从云端转移到边缘和端侧，于是边缘计算逐渐成为了AI应用的重要场景，端、边缘市场的AI算力需求也由此逐渐爆发。

那么，在此背景下，NPU易开发、高效能、低功耗等优势逐渐凸显出来，凭借着其在边缘设备上执行机器学习和深度学习任务的能力，能够有效地执行图像识别、语音处理等AI任务，从而在边缘设备上实现快速的智能决策和响应。

当下，在人工智能的高速发展下，NPU作为人工智能时代的核心驱动力之一，其发展与应用正深刻改变着各行各业，其不仅赋予了终端设备更强大的智能化能力，也为千行百业的数智化升级提供了有力支持。未来，随着技术的不断进步和应用领域的持续拓展，NPU将更加智能、高效、节能，成为推动社会智能化转型的中坚力量，为经济社会发展带来更多的惊喜。

NPU相关企业布局

芯原股份：宣布集成了芯原神经网络处理器（NPU）IP的人工智能（AI）类芯片已在全球范围内出货超过1亿颗。

国科微：公司通过自主研发成功推出了NPU，实现了低中高算力的全场景布局，打造全系边端AI芯片标配NPU技术，赋能多元化智能应用场景落地。

瑞芯微：公司新推出的SoC芯片大部分搭载了自研NPU，可以在低待机功耗的同时提供优秀的边缘AI算力，满足市场对智能化、算力的需求。

北京君正：公司的NPU技术已应用于T40、T41、A1等芯片中，且已量产销售。

云天励飞：DeepEdge10作为首颗云天自研的SOC芯片，搭载新一代自研NPU（NNP400T）。

智微智能：公司提供AI服务器和AIBOX边缘设备，推出基于GPU、多家ASIC AI加速卡、ARM NPU的多系列产品。

全志科技：公司深入分析AI算法的应用场景，主动积极推进NPU和DSP的AI专用算力在终端产品应用的落地。

高通：提出通过NPU和异构计算将开启终端侧生成式AI时代。其Hexagon NPU面向低功耗、高性能的AI推理而设计，通过定制设计NPU和控制指令集架构（ISA），能够快速进行设计演进和扩展。其中，高通的Hexagon NPU在终端侧AI推理方面表现出色，其性能提升达到98%，能效提升达到40%。

英特尔：正式发布新一代酷睿Ultra移动处理器，该处理器还集成了用于客户端的片上AI加速器“神经网络处理单元（NPU）”，AI性能高达48 TOPS，最高达上一代产品的4倍，能够相应提高生成式AI的性能。

AMD：宣布推出Ethos-U85 NPU。作为Arm面向边缘AI的第三代NPU产品，Ethos-U85在性能方面提升了四倍；较上一代产品在能效方面拥有20%的提升，还可在常用神经网络上实现85%的利用率。

……

更多有关边缘计算的产业动态与发展趋势，敬请关注视觉物联8月28日在深圳国际会展中心（宝安）举办的“IOTE 2024·深圳边缘计算产业生态报告发布会”，届时将与行业人士一起更深入地从多维度探讨边缘计算产业的市场现状及未来趋势。