作者:Doctor M
可能你早已发现,无论是个人消费还是工业应用,如今的物联网越来越智能了。其中的原因,边缘计算与物联网的协同居功至伟。边缘计算是计算、处理和存储的未来,这项技术虽然仍处于起步阶段,但发展迅速,据Gartner称,截至2018年,约有10%的企业数据是在“边缘”生成和处理的,到2025年,这一数字将达到令人震惊的75%。Gartner还预计,在未来3-5年,边缘计算将成为下一个数百亿以上的蓝海市场。
对于这个市场和相关技术的发展趋势,我们应该如何认识?目前有哪些技术资源,可以助力我们在这个潜力巨大的市场中淘金?今天我们就来聊一聊。
物联网和边缘计算为何要协同工作?
物联网(IoT)是指将物理对象连接到互联网的过程,在网络上接收和传输数据时无需任何人为干预,其生态系统由支持网络的智能设备组成,这些设备使用嵌入式系统(如处理器、传感器和通信硬件)来收集、发送和处理从环境中获取的数据。物联网设备通过连接到物联网网关或其他边缘设备共享它们收集的传感器数据,在这些设备中,数据被发送到云端进行分析或直接在本地进行分析。现在,物联网还可以通过人工智能(AI)和机器学习(ML)的帮助使数据收集过程更容易。
在工作中,物联网产生的大量数据需要进行快速处理和分析,边缘计算使计算服务更接近最终用户或数据源,如物联网设备。这样一来,物联网数据就能够在设备所在的边缘收集和处理,而不是将数据发送回数据中心或云,对于需要更快启动或实时操作的工作模式而言,这种操作非常重要。从诸多实例中可以看出,物联网设备利用计算能力作为快速实时分析数据的手段正变得越来越有价值。
自动驾驶是物联网和边缘计算需要协同工作的一个典型示例。我们知道,在道路上行驶的自动驾驶车辆需要收集和处理有关交通、行人、街道标志和停车灯等大量的实时数据。如果车辆需要快速停车或转弯时,若将数据在车辆和云端之间来回传送将花费较长时间,无法满足行驶车辆需要实时处理的需求,存在巨大安全隐患。边缘计算为车辆带来了相当于云计算的服务,它使得车辆中的物联网传感器得以实时地处理本地处理数据,以避免发生事故的发生。
边缘智能如何使物联网受益?
将边缘计算引入到物联网中,其优点主要体现在5个方面。
• 缩短延迟
边缘计算可以被描述为一种分布式计算方法,它使计算能力和数据存储更接近数据的主要来源。边缘计算的首要目标是改善网络延迟,而物联网则是一种有助于实现这一目标的特定技术。减少网络操作的延迟应该是边缘计算带给物联网的最大好处。
• 减少带宽
通过边缘智能,需要实时处理的数据将全部在本地进行处理,通过互联网发送的的基于云服务用于后期处理的数据大幅减少,有效节省了网络的带宽需求。
• 提高灵活性
边缘智能既能集中式部署,也可以是分布式解决方案,具有足够的灵活性。对云边缘提供商而言,在规模经济上颇具吸引力。
• 预测和分析能力
通过边缘计算,企业可以利用本地收集的数据以及在云中提供的可视性以及分析能力,开展覆盖全球的业务。此外,通过对业务运营的实时洞察,企业还能借此预测未来的需求,并提供服务创新,提高运营效率。
• 成本优势
边缘计算有助于缩减昂贵的企业内部网络部署规模。对于最终用户来说,虽然边缘计算是一个几乎看不见的好处,随着物联网业务总体成本的降低,他们是最终的受益者。
边缘计算芯片的兴起
随着边缘计算和人工智能(AI)的出现,现在的IoT设备正在变得越来越智能。比如,在工厂中安装边缘IoT设备,就可以跟踪机器的工作状况,并执行预测性维护,从而避免整个系统的故障和损坏;配备了边缘AI芯片的智能摄像头除了捕获视频外,还能识别人流量、监控潜水员的行为等。
这些仅仅是边缘计算为IoT带来好处的一个缩影。在巨大的应用市场带动下,边缘计算市场迅速扩张,GraveVIEW在其市场分析报告中预估,全球边缘计算市场规模在2020时约为47亿美元,在2021至2028年间将以38.4%的复合年增长率(CAGR)高速增长。巨大的市场需求有效带动了边缘计算芯片的市场开发热潮。
从概念提出到今天,云计算已经存在10多年了,直至今日,它依然是电子信息行业的发展热点。基于云的机器学习的兴起深受GPU(NVIDIA是主要推手)的影响。这一成功立刻引起了其他芯片制造商的注意,紧随其后的是由谷歌、AWS和微软等推动的AI专用处理器,AMD、英特尔、高通和ARM等领先厂商也加入到这场AI芯片之战。随着实时数据处理能力逐渐下移,边缘计算产业迅速崛起。不过,原先用于云计算的GPU和CPU不属于微型芯片,特别是GPU,始终存在着能耗大的问题。
在确定边缘计算硬件处理架构时,FPGA和MCU是一个不错的选择。尤其是集成了Arm处理器的FPGA SoC,在应用上有很大的灵活性,非常适合性能受限,对功耗有苛刻要求的实时网络边缘侧的AI推理计算。在边缘计算这一市场,由于基于MCU的边缘设备数量巨大,在这些通用MCU上融入AI功能正在成为芯片厂商发力的一个方向。如今,Maxim、NXP、Silicon Labs、STMicroelectronics等公司已经先后推出全系列面向边缘计算的微处理器产品。
Xilinx公司的Versal边缘AI系列将应用处理器、AI处理器和FPGA融为一体,是多种不同处理器的技术组合,其应用部分采用ARM Cortex-A72和Cortex-R5F,集成了AI专用引擎和DSP引擎。Versal边缘AI系列将整个应用从传感器加速到AI,实现了实时控制,与过去的AI处理器架构相比,它的计算速度快了四倍,且所有应用的安全性能都达到ISO 26262和IEC 61508等关键标准。为了满足不同场景的性能需求,Versal系列边缘AI处理器提供了VE2002到VE2802等七种型号供选择。
图1:Versal系列边缘AI专用处理器有7种型号供不同应用选择(图源:Xilinx)
Maxim公司的新型神经网络加速器MAX78000 SoC,集成了两个MCU核心用于系统控制,即Arm Cortex-M4处理器和32位RISC-V处理器。结合超低功耗深度神经网络加速器,为高性能AI应用提供所需的算力,是机器视觉、面部识别、目标检测和分类、时序数据处理和音频处理等边缘计算应用的理想选择。MAX78000的卷积神经网络(CNN)加速器具有442KB的权重存储空间,与运行在低功耗微控制器上的软件解决方案相比,在配置并加载了数据后,其运行AI推理的速度快了100倍,功耗不到其1%。
图2:Maxim公司神经网络加速器MAX78000 SoC(图源:Mouser)
i.MX RT系列是NXP公司这几年力推的一款跨界MCU,它支持高性能MCU和AP应用处理器的丰富功能,专为低成本、高性能、高集成的边缘计算而设计。作为NXP EdgeVerse边缘计算平台的一部分,i.MX RT系列以实惠的价格提供Arm Cortex-M内核、实时功能和MCU可用性。NXP基于MCU的EdgeReady人脸识别解决方案就是充分利用了i.MX RT106F跨界MCU的性能,在硬件上完全替代了传统的“MPU+PMIC”的架构,无需昂贵的DDR,开发人员可快速、轻松地将人脸识别活体检测功能添加到其产品中,并通过低成本的IR和RGB摄像头来实现,省去了昂贵的3D摄像头成本。
图3:i.MX RT106F结构框图(图源:NXP)
结语
芯片支持的边缘智能在许多方面提高了物联网设备的价值:
• 一是边缘AI芯片产生的热量和功耗更少,它们可以与手持设备(如智能手机)和其他非消费设备(如机器人)集成在一起。
• 二是基于边缘的AI芯片减少或终止了向云解决方案或数据中心发送批量数据的需要。意味着处理器密集型机器学习计算可在本地进行,在提高处理速度的同时,提升了数据的安全性。
• 三是边缘AI芯片简化了企业收集和处理数据的操作模式。企业从连接的设备上收集数据的同时,可直接在设备上实时分析数据,减少了决策的复杂性。
计算芯片越来越接近数据所在的位置乃大势所趋,无论是老牌的芯片制造商还是初创公司,都在专注于向边缘添加人工智能功能。根据Verified Market Research(VMR)的预测,边缘人工智能芯片市场从2021开始将以2.27%的复合年增长率(CAGR)扩张,到2028年,该行业将达到20.9亿美元。在边缘计算领域,计算机视觉已经成为人工智能的一个突出应用案例,特别是在深度学习方面,它采用多层神经网络和无监督技术来实现图像模式识别的结果。
我们看到,边缘智能正在深刻地改变着物联网行业,它使实时数据分析变得更容易,企业的运营效率也越来越高。目前的情况是,客户越来越喜欢融入边缘计算的物联网设备,芯片企业对边缘AI芯片的研发投入也是逐年看涨。