言图科技:GPU服务器选型
公司簡介
言圖科技總部位于武漢光谷,致力于人工智能領(lǐng)域的自然語言處理、圖像處理基礎(chǔ)算法、軟件、平臺與設(shè)備研發(fā)。目前,公司擁有成熟的自然語言處理基礎(chǔ)軟件集、語義理解工具集、知識圖譜工具集、智能陪練機器人、聊天機器人、情感與專注度分析工具、無人機大數(shù)據(jù)分析服務(wù)器系統(tǒng)等多種產(chǎn)品,并被多家金融集團、大型國企、科研機構(gòu)與政府機關(guān)采用。公司在積極開拓市場的同時,投入大量資金進行基礎(chǔ)研究。
公司與華中科技大學(xué)計算機學(xué)院共同組建“華中科技大學(xué)計算機學(xué)院人工智能實驗室”。 而且,團隊成員在自然語言處理、知識圖譜、視頻分析、圖像處理等方面取得了較為豐富的理論成果和技術(shù)積累,已在國內(nèi)外權(quán)威雜志及會議上發(fā)表論文一百多篇,比如AAAI、SIGKDD、RTSS、CIKM、IEEE TKDE、IEEE TSMC-B、IEEE TC、ACM TWEB等。
業(yè)務(wù)痛點
- 線下的GPU服務(wù)器,成本特別高,而且非常不靈活。
- 沒有使用過云GPU服務(wù)器,對服務(wù)器選型比較困惑。
- 對GPU、Tesla P100與Tesla P4具體的參數(shù)性能與應(yīng)用場景不是特別了解。
解決方案
圖 1.?GPU服務(wù)器選型
- CPU除了負責(zé)浮點整形運算外,還有很多其他的指令集的負載,比如像多媒體解碼,硬件解碼等,因此CPU是多才多藝的。CPU注重的是單線程的性能,要保證指令流不中斷,需要消耗更多的晶體管和能耗用在控制部分,于是CPU分配在浮點計算的功耗就會變少。GPU基本上只做浮點運算,設(shè)計結(jié)構(gòu)簡單,也就可以做的更快。GPU注重的是吞吐量,單指令能驅(qū)動更多的計算,相比較GPU消耗在控制部分的能耗就比較少,因此可以把電省下來的資源給浮點計算使用。
- 根據(jù)我們公司的業(yè)務(wù)類型判斷選取P4或者P100。做學(xué)習(xí)可選取P100,推理則P4或P100均可。從成本與具體場景分析,我們選擇了P4的GPU服務(wù)器。
- 采購阿里云GPU服務(wù)器,后期的擴展性和部署的靈活性都非常優(yōu)秀。從線下采購服務(wù)器,到最終部署的時間快則一周,滿可能要1-2個月。
上云價值
- 阿里云幫助我們解決了提供深度學(xué)習(xí)API調(diào)用的應(yīng)用問題。
- 從成本與性能比,協(xié)助我們選擇了最優(yōu)的方式。
- 靈活的部署,讓后期擴容以及后期運維上更加簡便。
相關(guān)產(chǎn)品
- GPU服務(wù)器
GPU云服務(wù)器是基于GPU應(yīng)用的計算服務(wù),多適用于AI深度學(xué)習(xí),視頻處理,科學(xué)計算,圖形可視化,等應(yīng)用場景。
更多關(guān)于GPU服務(wù)器的介紹,參見GPU服務(wù)器產(chǎn)品詳情頁。
原文鏈接
本文為云棲社區(qū)原創(chuàng)內(nèi)容,未經(jīng)允許不得轉(zhuǎn)載。
總結(jié)
以上是生活随笔為你收集整理的言图科技:GPU服务器选型的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 说一说阿里云弹性公网IP那些事
- 下一篇: Serverless在大规模数据处理的实