Paddle Lite端侧部署 端侧推理引擎的由来 随着深度学习的快速发展.特别是小型网络模型的不断成熟,原本应用到云端的深度学习推理,就可以放到终端上来做,比如手机.手表.摄像头.传感器.音响,也就是端智能.此外,可用于深度学习计算的硬件也有井喷之势,从Intel到Nvidia.ARM.Mali,再到国产的寒武纪等等. 相比服务端智能,端智能具有低延时.省云端资源.保护数据隐私等优势.目前端智能正逐渐变为趋势,从业界来看,它已经在AI摄像.视觉特效等场景发挥了巨大价值.深度学习推理场景中,多样