关于预测阶段模型加载的问题

[wl1320310292]

不好意思，目前的predict阶段似乎是每次预测一条数据都需要重新加载一次训练好的模型，这样的预测时间很长，请问是够可以先将模型加载到内存中呢？您知道该如何修改吗

[NineSpinZ]

我把代码改成了这位博主写的这种模式：
https://blog.csdn.net/FK2016/article/details/106092844

run第一次的时候比较慢，但是后续速度还行，运行 速度是predict_gpu.py的十分之一

[wl1320310292]

我把代码改成了这位博主写的这种模式：
https://blog.csdn.net/FK2016/article/details/106092844

run第一次的时候比较慢，但是后续速度还行，运行 速度是predict_gpu.py的十分之一

好的，非常感谢

[LastMonody]

好像还是没有用到GPU吧