PaddleHub——快速白嫖海量预训练模型并实现轻量代码部署

hub install XXXX


模型下有写具体命令&＃xff0c;直接粘贴即可&＃xff1a;

4.轻量级部署

&＃xff08;1&＃xff09;X86端&＃xff08;Windows或者Linux&＃xff09;

PaddleHub——Windows端用轻量代码实现调用预训练模型实现目标检测

&＃xff08;2&＃xff09;arm端&＃xff08;树莓派4B等&＃xff09;

先将模型在Windows端下载下来&＃xff0c;用hub install命令&＃xff0c;然后找到模型&＃xff0c;一般都在这个路径下&＃xff1a;

然后把模型使用opt工具转换一下&＃xff0c;在Windows端直接写个py程序&＃xff1a;
opt_preocess.py

# 引用Paddlelite预测库
from paddlelite.lite import *
# 1. 创建opt实例
opt&＃61;Opt()
# 2. 指定输入模型地址
opt.set_model_dir(r"PaddleHub\hub_model\ultra_light_fast_generic_face_detector_1mb_640\ultra_light_fast_generic_face_detector_1mb_640")
# 3. 指定转化类型&＃xff1a; arm、x86、opencl、xpu、npu
opt.set_valid_places("arm")
# 4. 指定模型转化类型&＃xff1a; naive_buffer、protobuf
opt.set_model_type("naive_buffer")
# 4. 输出模型地址
opt.set_optimize_out(r"PaddleHub\hub_model\ultra_light_fast_generic_face_detector_1mb_640\model")
# 5. 执行模型优化
opt.run()


然后就会生成arm端部署的model.nb模型&＃xff0c;然后传送到arm&＃xff08;例如树莓派&＃xff09;端&＃xff0c;通过Paddle Lite部署预测就行啦~
但需要注意的是&＃xff0c;Paddle Lite的arm端不一定会支持某些模型的算子&＃xff0c;所以不是所有的hub上的模型都能部署在arm端。

如果想进一步在树莓派上部署模型进行预测&＃xff0c;可以参考我的博客&＃xff1a;

• Paddle-Lite——在树莓派4B端&＃xff08;Raspi OS&＃xff09;基于python API部署Paddle模型
• Paddle-Lite——在树莓派4B端&＃xff08;Ubuntu18.04&＃xff09;源码编译并基于python API部署Paddle模型