問(wèn)題
使用Flask調(diào)用DNN模型推理API時(shí)，每調(diào)用一次API，顯存持續(xù)增長(zhǎng)，直至最終顯存爆炸強(qiáng)制退出程序。
解決方法

flask2.0的app.run()中默認(rèn)打開(kāi)了threaded=True來(lái)支持多線(xiàn)程并發(fā)請(qǐng)求，從而導(dǎo)致顯存泄漏。每次調(diào)用，顯存就持續(xù)增長(zhǎng)。
解決方法為：把多線(xiàn)程改為單線(xiàn)程，設(shè)置app.run()中threaded和debug為False。示例如下：

然后，就可以正常推理了。

下面的沒(méi)有用啊！

下面的沒(méi)有用啊！

下面的沒(méi)有用啊！

下面的沒(méi)有用啊！
寫(xiě)夠500字，否則
文章質(zhì)量提示
文章質(zhì)量提示
此文章質(zhì)量較低，不會(huì)獲得較多流量扶持！ 可能的原因?yàn)?#xff1a;篇幅太短，廣告涉嫌違規(guī)，外鏈過(guò)多，缺少代碼，圖片涉嫌違規(guī)
文章質(zhì)量提示
此文章質(zhì)量較低，不會(huì)獲得較多流量扶持！ 可能的原因?yàn)?#xff1a;篇幅太短，廣告涉嫌違規(guī)，外鏈過(guò)多，缺少代碼，圖片涉嫌違規(guī)
此文章質(zhì)量較低，不會(huì)獲得較多流量扶持！ 可能的原因?yàn)?#xff1a;篇幅太短，廣告涉嫌違規(guī)，外鏈過(guò)多，缺少代碼，圖片涉嫌違規(guī)

總結(jié)

以上是生活随笔為你收集整理的Flask 推理模型，显存一直增长。的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。