恩智浦提供全面的微控制器和微处理器产品,广泛应用于工业和消费类产品。随着人工智能/机器学习算法的发展,越来越多的应用场景中使用了相关技术。如何将训练好的模型迁移到嵌入式端进行快速可靠的推理实现,成为了工程化领域里的一个关键技术点。这里涉及到如何在端侧部署推理引擎用于执行特定算子,如何利用CPU,GPU甚至是专用的神经网络加速器NPU进行算法加速。在此方面,恩智浦拥有丰富的软件生态合作伙伴。
本次讲座,我们邀请到了开放智能机器(上海)有限公司,他们推出的推理框架Tengine可以帮助用于将训练好的模型快速迁移到嵌入式端,并进行性能优化。通过本次讲座,听众可以了解Tengine的关键技术特点,如何适配i.MX 8M Plus应用处理器,以及在i.MX 8M Plus上的应用展示。
话题覆盖:
1.恩智浦i.MX 8M Plus处理器技术特点介绍
2.AI推理框架Tengine特点及应用介绍_开放智能机器(上海)有限公司
3.问答环节
我们可以了解到:
1.恩智浦在边缘计算领域的产品
2.恩智浦i.MX 8M Plus新一代高性能应用处理器技术特点
3.恩智浦eIQ边缘计算整体解决方案
4.开源推理框架Tengine的特点和在i.MX 8M Plus上的具体应用
• 凡当天参加研讨会并积极互动学习的工程师网友,均有机会获得如下奖品,请大家积极参与互动转发。
• 温馨提醒:请及时更新以及补充会员资料,我们的中奖信息会以邮件的方式通知您。
• 奖品设置如下:以下图片仅供参考,以实物为准,中电网有最终解释权。
![]()
• 本次活动不收取任何费用;
• 主办方对本次活动享有最终解释权;
• 报名本次活动的用户同意接收NXP有关业界动态和产品的最新消息及其他信息,并了解自己可以随时拒绝接收这些信息。
相关资料下载链接:
弋方
恩智浦微处理器高级市场经理
闲来
开放智能机器(上海)有限公司
AI推理框架架构师
问:目前人工智能物联网是主要依托网络云平台吗?脱离网络能否单机实现?
答:可以,目前行业比较强调边缘计算,将数据量较大运算量较大的部分隔离在边缘,这部分实际上就是单机的部分,云是可选的一个功能;云方面更倾向于管理方面。
问:MCU算力满足吗?是否要计算棒
答:i.MX 8M PLUS 的 NPU 性能已经达到了大多数计算棒的性能,除非仍有算力缺口,否则不推荐使用计算棒。计算棒走 USB 总线,延迟和带宽与内置 NPU 相比是没有优势的。
问:imx8p 对Tengine的支持怎么样?
答:Tengine 对 i.MX 8M PLUS 支持还是比较好的,最新的 YOLO v5 等都是支持的。
问:大数据和人工智能目前是怎样的发展趋势?
答:越来越强调落地,越来越强调边缘。
问:AIoT应用公有云与私有云有何区别?
答:看云部署还是私部署,私部署就更强调私有云。区域场景(较小区域)的话,私部署可能成本会更好。
问:边缘计算来实现机器学习,那就是会把模型离线部署了啊?
答:是的,边缘计算主要强调跑边缘的模型,将大数据量和通信量在边缘吸收。
问:边缘计算是是用于应用层吗?
答:也不能这么说,边缘的节点从低层到上层都是有的,根据不同的应用,也有更特殊的设计。
问:是硬件解决方案吗?
答:硬件+软件
问:有没有现成的评估开发板?
答:恩智浦官网i.MX 8M Plus EVK评估板,或者第三方基于i.MX 8M Plus芯片的开发板都可以
问:有没有详细的中文学习资料提供下载?
答:讲座结束后PPT可供下载,另外更多的资料可以访问恩智浦官网i.MX 8M Plus产品主页,以及Tengine社区
问:方案包括哪些内容
答:软硬件
问:有哪些常用的机器学习模型?
答:mobilenet-SSD, yolo, ...
问:对于人工智能物联网的应用可供选择的云平台厂商有哪些性价比最好?
答:不在本次研讨会议题范畴内。恩智浦处理器可以对接国内和国际上多种云服务
问:编程语言有什么特点?有专门行业应用的块?
答:今天的研讨会有具体的说明
问:恩智浦的边缘计算在哪些产品中实施了
答:工业视觉,安防,消费电子,AGV等
问:如何解决网络信息安全问题?
答:需要从网络安全方面着手设计通信过程,比如 SSL、其他的加密方法等。
问:如何解决网络信息安全问题?
答:i.MX 8M Plus芯片支持加密启动等多种安全保护方式
问:解决方案的优势特点是什么?
答:今天讲座内容中有较为详细的说明
问:恩智浦的i.mx 8m plus芯片功耗如何,使用成本怎么样?
答:典型功耗2W,极端功耗3W,低功耗睡眠20mW
问:NXP的SDK上面是否有移值好的AWS MIC阵列应用呢?
答:可参见另外一个产品系列,i.MX RT106A,官网可以搜到
问:NXP芯片比其它厂芯片有什么优势,性价比如何?
答:工业级,高可靠性,安全性,高算力
问:imx处理器主频最高多少?
答:这一颗产品是1.8GHz
问:i.MX8系列处理器有哪些硬件安全模块?
答:安全启动,硬件加密算法模块,防拆等
问:恩智浦人工智能边缘计算解决方案支持那些云平台?
答:国内和国际上常见的云服务均支持
问:恩智浦在边缘计算领域的产品与其他公司同类产品有什么优势?
答:性能,可靠性,安全,工业级
问:在智慧城市,智慧校园,智慧园区上,目前有哪些应用的啊?
答:智能摄像机,智能语音终端,多媒体交互终端,AGV无人导航车
问:恩智浦哪些MCU可以支持边缘计算?
答:i.MX RT系列MCU可以支持
问:没有中文资料吗?
答:详见官网
问:有实时操作系统RTOS的支持吗?
答:RTOS主要用于MCU,i.MX 8M plus是MPU,主要还是以Linux/Android或其他第三方OS为主
问:请问算力单位TOPS和TFLOPS区别是什么?是不是人工智能算法大多需要浮点运算?
答:TOPS是每秒整型计算次数,TFLOPS是每秒浮点型计算次数
问:i.MX 8M PLUS有几个I2S口?
答:18个I2S
问:跑的时候稳定性如何?
答:工业级稳定性
问:是否支持低功耗唤醒功能?
答:支持
问:i.MX 8M Plus的神经网络加速器的性能如何?
答:Tengine 的分享中有典型模型的性能,可以从性能的角度评估模型运行情况。
问:Tengine.MLOps 应用开发部署平台如何快速上手?
答:扫码申请试用,会有前端的同事对接
问:除了imx8p ,还有什么nxp低成本的arm芯片支持Tengine?
答:cpu a 核的有 neon基本都支持