問題：
大家用Estimater.predict總是把模型重新load一遍，這樣工程業務根本沒法用。
下面的解決方案是為了解決這個問題而產生的 為了使模型不要老是重新load

總結

以上是生活随笔為你收集整理的bert推理速度太慢如何解决的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。