Imagination Technologies宣布:在Imagination和百度飞桨(PaddlePaddle)的合作中,其IMGDNN API已集成到Paddle Lite中,丰富了全球开发者发展人工智能(AI)的生态系统。
Paddle Lite是百度深度学习框架的轻量化推理引擎,IMGDNN API使开发人员能够针对基于PowerVR架构的图形处理单元(GPU)和神经网络加速器(NNA)实现应用程序的最大性能。此举增加了Imagination硬件平台支持的框架数量,使开发人员能够更轻松地在异构系统(如包含CPU、GPU和NNA的系统)中运行AI应用程序。
例如,可以更容易地搭建一个“Imagination NNA+CPU”的异构计算系统,让开发者可以充分利用不同硬件的加速特性做更全方面的调度。
有了这个整合,使用Imagination硬件的开发人员就可以完整地利用PaddlePaddle工具集,例如使用PaddleSlim压缩工具将预先训练的神经网络模型作量化裁剪后,再通过Paddle Lite部署到Imagination的NNA上执行。该代码已经被合并到PaddleLite的Develop分支中,并将在下一个主要的稳定版本v2.8中呈现。相关的使用教程欢迎到Paddle Lite的官方文档查看:
百度飞桨生态产品负责人王运凯说道:“很高兴看到飞桨(PaddlePaddle)在AI领域和Imagination合作。飞桨的Paddle Lite轻量化推理引擎可以全面支持多种类型的硬件、操作系统和AI模型,此次与Imagination的硬件成功集成,进一步丰富了我们的生态系统。我们期待在未来与Imagination有更多合作,加速AI创新。”
Imagination屡获殊荣的NNA IP具有高度可扩展性,专门设计用于加速边缘端机器学习工作负载。它经过硅验证,并已获准进入汽车、移动、AIoT和数据中心/桌面等市场。最新的多核架构IMG 4系列NNA具有超高的单位面积性能,并且通过多核计算可以将最高性能扩展到500 TOPS及以上。该架构基于Tensor Tilling新技术,可以减少带宽的需求,配套的驱动和软件工具也十分完善。
Imagination TechnologiesAI高级总监Andrew Grant先生表示:“我们很荣幸加入百度飞桨(PaddlePaddle)的硬件生态计划,并将在技术和生态系统方面支持PaddlePadle团队。Imagination NNA目前可以支持所有主流AI框架,而对Paddle Lite引擎的支持意味着我们在这一领域的能力不断增强。”