本文對深度學習兩種模型部署方式進行總結和梳理。一種是基于web服務端的模型部署，一種是基于C++軟件集成的方式進行部署。
 

基于web服務端的模型部署，主要是通過REST API的形式來提供接口方便調用。而基于C++的深度學習模型部署，主要是通過深度學習框架的C++前端版本，將模型集成到軟件服務中。

本文分別對上述兩種模型部署方式進行流程梳理，并分別舉例進行說明。

1. 基于web端的模型部署

1.1 web服務與技術框架

下面以ResNet50預訓練模型為例，旨在展示一個輕量級的深度學習模型部署，寫一個較為簡單的圖像分類的REST API。主要技術框架為Keras+Flask+Redis。其中Keras作為模型框架、Flask作為后端Web框架、Redis則是方便以鍵值形式存儲圖像的數據庫。各主要package版本：

tensorflow 1.14keras 2.2.4flask 1.1.1redis 3.3.8

先簡單說一下Web服務，一個Web應用的本質無非就是客戶端發送一個HTTP請求，然后服務器收到請求后生成一個HTML文檔作為響應返回給客戶端的過程。在部署深度學習模型時，大多時候我們不需要搞一個前端頁面出來，一般是以REST API的形式提供給開發調用。那么什么是API呢？很簡單，如果一個URL返回的不是HTML，而是機器能直接解析的數據，這樣的一個URL就可以看作是一個API。

先開啟Redis服務：

redis-s

總結

以上是生活随笔為你收集整理的pytorch基于web端和C++的两种深度学习模型部署方式的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。