場景描述

本方案適用于使用GPU進行AI在線推理的場景。在推理之前，模型已經訓練完成。例如,刷臉支付中，我們在刷臉的時候，就是推理的一個過程。再比如圖像分類，目標檢測，語音識別，語義分析等返回結果的過程。

解決問題

• 使用GPU云服務器搭建推理環境
• 使用容器服務Kubernetes版構建推理環境
• 使用NAS存儲模型數據
• 使用飛天AI加速推理工具加速推理

產品列表

• GPU云服務器
• 容器服務Kubernetes版
• 文件存儲NAS

?

原文鏈接

本文為阿里云原創內容，未經允許不得轉載。

云棲號 - 上云就看云棲號

總結

以上是生活随笔為你收集整理的使用Kubernetes容器服务在云上搭建AI推理环境的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。