国内免费GPU资源哪里找，让我告诉你最新的薅羊毛“秘籍”
生活随笔
收集整理的這篇文章主要介紹了
国内免费GPU资源哪里找，让我告诉你最新的薅羊毛“秘籍”
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
之前我在知乎介紹了兩款練習人工智能算法的應用，都是谷歌的，當時就有網(wǎng)友在評論區(qū)提到了國內(nèi)有百度的 AI Studio，于是產(chǎn)生了興趣，恰好在那評論出現(xiàn)后幾個星期，又看到了 AI Studio 推出了算力卡計劃的新聞，供學習者免費申請使用。這樣的機會怎么能錯過，于是我趕緊寫了一篇薅百度 GPU 的文章，沒想到被各大賬號轉載。
最近我準備在小長假跑一個 GAN 項目，GAN 比較難訓練，正好利用小長假期間跑一跑。今天登陸 AI Studio 收到了一個站內(nèi)通知，發(fā)現(xiàn)這個平臺十月份在做一個深度學習開放月的活動，原先每天登陸送 12 小時的算力竟然變成了每天送 24 小時算力，活動持續(xù)一個月。這豈不是白送一個月的 V100 GPU 嗎？按照我的一貫作風，這種好事兒肯定得讓有需求的開發(fā)者都知道 (*^▽^*)。
1
AI Studio和飛槳（PaddlePaddle）
1.1 AI Studio 和飛槳算是后起之秀，包括我在內(nèi)的很多人還不是很熟悉這一整套方案，在開薅之前，所以先簡單介紹一下。
AI Studio 是百度提供的一個針對 AI 學習者的在線一體化開發(fā)實訓平臺（https://aistudio.baidu.com/?fr=pw）。平臺集合了 AI 教程，深度學習樣例工程，各領域的經(jīng)典數(shù)據(jù)集，云端的運算及存儲資源，以及比賽平臺和社區(qū)。[1] 你可以把 AI Studio 看成國產(chǎn)版的 Kaggle。和 Kaggle 類似，AI Studio 也提供了 GPU 支持，但百度 AI Studio 有一個很明顯的優(yōu)勢：它的 GPU 型號是 Tesla V100。Kaggle 的是 Tesla K80-下表對比兩款單精度浮點運算性能，就能看出 v100 的優(yōu)勢了。
明顯在單精度浮點運算上，AI Studio 提供的運行環(huán)境在計算性能上還是很有優(yōu)勢的。理論上訓練速度可以提高近 3 倍左右。?
雖然性能上好很多，但目前還是可以免費薅到，AI Studio 提供了免費申請和運行項目獎勵這兩種獲得算力卡的方式，最后一章我會帶領大家去薅。?
即使算力卡用完了（目前送得太多，根本用不完），AI Studio 的 CPU 也是很有競爭力的。親自用腳本測試過，AI Studio 的 CPU 是 Intel(R) Xeon(R) Gold 6148 CPU，可以說在配置上，AI Studio 是很有競爭力的。?
1.2 飛槳
根據(jù)官網(wǎng)介紹，飛槳是百度推出的「源于產(chǎn)業(yè)實踐的開源深度學習平臺」，致力于讓深度學習技術的創(chuàng)新與應用更簡單。
Paddle 直譯就是槳, 其實是 Parallel Distributed Deep LEarning 的縮寫。和 TensorFlow，Pytorch 等框架一樣，飛槳給開發(fā)者提供了很多常用的模型，也可以直接在包里直接加載常用的數(shù)據(jù)庫，對于學習者來說，還是很方便的。?
飛槳（PaddlePaddle）還是有點國產(chǎn)的意思，去 Github 可以搜到 PaddlePaddle 的項目，除了英文文檔，還提供了中文文檔，有時候還是挺方便的。雖然現(xiàn)在 star 比起 TensorFlow 的還是差不少，但是感覺進展得如火如荼。?
1.3 AI Studio 與飛槳的生態(tài)?
下圖是飛槳的全景圖：
飛槳生態(tài)其實設計得很好，可能 TensorFlow 先發(fā)得太早吧，感覺飛槳追趕得很吃力。但從百度最近推廣飛槳的力度來看，我猜飛槳很有可能兩三年左右進入主流深度學習框架之列。
2
2.1 AI Studio GPU 和 CPU 性能對比?
為了測試 AI Studio 的性能，我用最經(jīng)典的 MNIST 數(shù)據(jù)集，在 LeNet 5 模型上進行運損，對比在 GPU 和 CPU 下在 AI Studio 的的性能，飛槳用的 MNIST 數(shù)據(jù)集是 60000 個訓練數(shù)據(jù)，10000 個測試數(shù)據(jù)。?
項目地址在此：
以下是 AI Studio 的 CPU 和 GPU 測試性能對比：
GPU 提升效果為 11 倍，因為訓練過程有驗證測試，而且 CPU 配置也太高了，所以并未達到理論上的 47x 的加速，但這速度還不錯，況且 AI Studio 本來 CPU 是至強金牌處理器，就很高配了，所以理論上 47x 的加速可能還得打個折。?
2.2 AI Studio 和 Kaggle 對比測試?
測試環(huán)境：?
1. Kaggle Kernel?
測試 kernel：
Batch_size=50，訓練 5000 輪，使用框架 TensorFlow，CNN 架構是 LeNet-5。?
2. AI Studio?
測試項目：
Batch_size=64，訓練 5000 輪，使用框架飛槳，CNN 架構是 LeNet-5。
AI Studio 的測試結果在 2.1 展示了，就不再贅述了，以下是 Kaggle 的性能測試對比。
GPU 相比 CPU 來說提升效果為 8 倍，因為訓練過程有驗證測試，所以并未達到理論上的 12.5x 的加速。?
由于架構的超參不一樣，直接對比運行時間不太嚴謹，但從 GPU 提升速度的倍數(shù)上來說，AI Studio 略勝一籌。?
2.3 AWS?
也在 AWS 開了個 instance 來測試，選的是這一款配置里的 p2.xlarge。
直接把 2.2 里用到的 kaggle 的內(nèi)核導進去了，測試結果如下：
性能上比前兩者都差一點。?
順便一提，這個測試做得我腦殼痛，前期開 instance，配置環(huán)境的就花了一個多小時。對于 AWS 新手來說，可能折騰一天，薅了十幾美刀，還是沒能把代碼跑通。真的強烈不推薦在 AWS 來練習自己 deep learning 技能。?
2.4. 測試總結?
下表總結在不同環(huán)境下的測試效果及成本：
在使用體驗上，和 Kaggle Kernel 或者 Jupyter Notebook 很接近，雖然外觀稍有不同，但快捷鍵基本一樣，沒有太大的不適應。除此之外，AI Studio 由于在國內(nèi)，頁面響應比 Kaggle 更快，比 Kaggle 網(wǎng)絡更穩(wěn)定，斷線重連幾率要更低，畢竟斷線重連要重跑還是挺蛋疼的。?
不過需要提醒的是，AI Studio 目前還是按運行環(huán)境啟動時間來計費，是在無 GPU 環(huán)境下把代碼寫好，再開啟 GPU 去跑。雖然 AI Studio 的算力卡也是送的，但也要趕緊薅起來，囤點算力資源，萬一哪天百度沒錢了，不送了呢？
3
現(xiàn)在的算力卡還是很好拿的，沒什么門檻，自己申請一下就拿到了，而且每天運行一次項目，就送 24 個小時算力，連續(xù)運行 5 天再加送 48 小時。值得注意的是，申請的算力卡到手就是 48 小時，裂變之后能湊 120 小時，而且有效期比日常運行獲取的 24 小時這種要長很多。這豈不是白送嘛，我尋思每天免費讓你 24 小時 NVIDIA V100 GPU 這種事情，真的是天上掉餡餅吧。此外，AI Studio 官方也有比賽，有獎金，如果你的實力在 Kaggle 里離拿獎金只是一步之遙，那么趁 AI Studio 還沒火起來之前，去 AI Studio 比賽應該是很好拿獎的。?
3.1 自己申請
點擊「閱讀原文」或訪問以下鏈接：https://aistudio.baidu.com/aistudio/questionnaire?activityid=674
接著填寫個人信息：
提交后，會出現(xiàn)下圖：
然后就靜候佳音。通過運營人員核驗后，用戶的郵箱將收到運營人員發(fā)送的算力邀請碼：一串 32 位數(shù)字。?
通過上面鏈接能申請到 48 小時的算力卡（有效期 1 個月），并且可以分裂，送給別人（稍后送上我的分裂算力卡）。
使用算力卡的方法很簡單，在運行項目時選上 GPU，就會開始使用了，如下圖。
3.2 跑項目賺算力卡?
這個簡直了，你不僅可以運行自己的深度學習代碼，測試自己的項目，而且同時還會得到算力卡。原先是每天跑一次可以得到 12 小時算力卡（有效期 2 天），十月份變成跑一次送24小時算力卡，另外算力充電計劃，就是連續(xù) 5 天有使用算力卡，就會額外送 48 小時（有效期 7 天）。但預感這么高成本的事情應該不會持續(xù)太久，建議早薅。下面是我的算力卡獎勵歷史，感覺只要你用，AI Studio 就送你算力，不擔心算力不夠。
3.3 算力卡分裂?
AI Studio 的算力卡有分裂功能，你申請到算力卡會有三個邀請碼，你可以分享給你的朋友。我申請的算力卡有三個分裂，我每天會在評論區(qū)放一個算力卡，對羊毛貪得無厭，或者懶得申請又想馬上使用的，那可要盯緊評論區(qū)了。后續(xù)我再薅到新的算力卡就會評論區(qū)更新，先到先得，希望各位多多關注本文。?
3.4 比賽薅羊毛
另外額外告訴大家一個可能能行的薅羊毛的方法，需要一定的實力。AI Studio 也有一些常規(guī)比賽，相對于 Kaggle，可能競爭會小點，如果你在 Kaggle 能 top10% 以上，來 AI Studio 薅類似的比賽，就很大幾率拿得到獎金了。?
羊毛不是天天有，該出手時就出手！Reference
最近我準備在小長假跑一個 GAN 項目，GAN 比較難訓練，正好利用小長假期間跑一跑。今天登陸 AI Studio 收到了一個站內(nèi)通知，發(fā)現(xiàn)這個平臺十月份在做一個深度學習開放月的活動，原先每天登陸送 12 小時的算力竟然變成了每天送 24 小時算力，活動持續(xù)一個月。這豈不是白送一個月的 V100 GPU 嗎？按照我的一貫作風，這種好事兒肯定得讓有需求的開發(fā)者都知道 (*^▽^*)。
1
AI Studio和飛槳（PaddlePaddle）
1.1 AI Studio 和飛槳算是后起之秀，包括我在內(nèi)的很多人還不是很熟悉這一整套方案，在開薅之前，所以先簡單介紹一下。
AI Studio 是百度提供的一個針對 AI 學習者的在線一體化開發(fā)實訓平臺（https://aistudio.baidu.com/?fr=pw）。平臺集合了 AI 教程，深度學習樣例工程，各領域的經(jīng)典數(shù)據(jù)集，云端的運算及存儲資源，以及比賽平臺和社區(qū)。[1] 你可以把 AI Studio 看成國產(chǎn)版的 Kaggle。和 Kaggle 類似，AI Studio 也提供了 GPU 支持，但百度 AI Studio 有一個很明顯的優(yōu)勢：它的 GPU 型號是 Tesla V100。Kaggle 的是 Tesla K80-下表對比兩款單精度浮點運算性能，就能看出 v100 的優(yōu)勢了。
明顯在單精度浮點運算上，AI Studio 提供的運行環(huán)境在計算性能上還是很有優(yōu)勢的。理論上訓練速度可以提高近 3 倍左右。?
雖然性能上好很多，但目前還是可以免費薅到，AI Studio 提供了免費申請和運行項目獎勵這兩種獲得算力卡的方式，最后一章我會帶領大家去薅。?
即使算力卡用完了（目前送得太多，根本用不完），AI Studio 的 CPU 也是很有競爭力的。親自用腳本測試過，AI Studio 的 CPU 是 Intel(R) Xeon(R) Gold 6148 CPU，可以說在配置上，AI Studio 是很有競爭力的。?
1.2 飛槳
根據(jù)官網(wǎng)介紹，飛槳是百度推出的「源于產(chǎn)業(yè)實踐的開源深度學習平臺」，致力于讓深度學習技術的創(chuàng)新與應用更簡單。
Paddle 直譯就是槳, 其實是 Parallel Distributed Deep LEarning 的縮寫。和 TensorFlow，Pytorch 等框架一樣，飛槳給開發(fā)者提供了很多常用的模型，也可以直接在包里直接加載常用的數(shù)據(jù)庫，對于學習者來說，還是很方便的。?
飛槳（PaddlePaddle）還是有點國產(chǎn)的意思，去 Github 可以搜到 PaddlePaddle 的項目，除了英文文檔，還提供了中文文檔，有時候還是挺方便的。雖然現(xiàn)在 star 比起 TensorFlow 的還是差不少，但是感覺進展得如火如荼。?
1.3 AI Studio 與飛槳的生態(tài)?
下圖是飛槳的全景圖：
飛槳生態(tài)其實設計得很好，可能 TensorFlow 先發(fā)得太早吧，感覺飛槳追趕得很吃力。但從百度最近推廣飛槳的力度來看，我猜飛槳很有可能兩三年左右進入主流深度學習框架之列。
2
AI Studio 實例測評：以數(shù)字識別項目為例
2.1 AI Studio GPU 和 CPU 性能對比?
為了測試 AI Studio 的性能，我用最經(jīng)典的 MNIST 數(shù)據(jù)集，在 LeNet 5 模型上進行運損，對比在 GPU 和 CPU 下在 AI Studio 的的性能，飛槳用的 MNIST 數(shù)據(jù)集是 60000 個訓練數(shù)據(jù)，10000 個測試數(shù)據(jù)。?
項目地址在此：
https://aistudio.baidu.com/aistudio/projectdetail/45293?
以下是 AI Studio 的 CPU 和 GPU 測試性能對比：
GPU 提升效果為 11 倍，因為訓練過程有驗證測試，而且 CPU 配置也太高了，所以并未達到理論上的 47x 的加速，但這速度還不錯，況且 AI Studio 本來 CPU 是至強金牌處理器，就很高配了，所以理論上 47x 的加速可能還得打個折。?
2.2 AI Studio 和 Kaggle 對比測試?
測試環(huán)境：?
1. Kaggle Kernel?
測試 kernel：
https://www.kaggle.com/orange90/mnist-with-lenet-5-test-run-time
Batch_size=50，訓練 5000 輪，使用框架 TensorFlow，CNN 架構是 LeNet-5。?
2. AI Studio?
測試項目：
https://aistudio.baidu.com/aistudio/projectdetail/45293?
Batch_size=64，訓練 5000 輪，使用框架飛槳，CNN 架構是 LeNet-5。
AI Studio 的測試結果在 2.1 展示了，就不再贅述了，以下是 Kaggle 的性能測試對比。
GPU 相比 CPU 來說提升效果為 8 倍，因為訓練過程有驗證測試，所以并未達到理論上的 12.5x 的加速。?
由于架構的超參不一樣，直接對比運行時間不太嚴謹，但從 GPU 提升速度的倍數(shù)上來說，AI Studio 略勝一籌。?
2.3 AWS?
也在 AWS 開了個 instance 來測試，選的是這一款配置里的 p2.xlarge。
直接把 2.2 里用到的 kaggle 的內(nèi)核導進去了，測試結果如下：
性能上比前兩者都差一點。?
順便一提，這個測試做得我腦殼痛，前期開 instance，配置環(huán)境的就花了一個多小時。對于 AWS 新手來說，可能折騰一天，薅了十幾美刀，還是沒能把代碼跑通。真的強烈不推薦在 AWS 來練習自己 deep learning 技能。?
2.4. 測試總結?
下表總結在不同環(huán)境下的測試效果及成本：
在使用體驗上，和 Kaggle Kernel 或者 Jupyter Notebook 很接近，雖然外觀稍有不同，但快捷鍵基本一樣，沒有太大的不適應。除此之外，AI Studio 由于在國內(nèi)，頁面響應比 Kaggle 更快，比 Kaggle 網(wǎng)絡更穩(wěn)定，斷線重連幾率要更低，畢竟斷線重連要重跑還是挺蛋疼的。?
不過需要提醒的是，AI Studio 目前還是按運行環(huán)境啟動時間來計費，是在無 GPU 環(huán)境下把代碼寫好，再開啟 GPU 去跑。雖然 AI Studio 的算力卡也是送的，但也要趕緊薅起來，囤點算力資源，萬一哪天百度沒錢了，不送了呢？
3
羊毛來了，薅起來
現(xiàn)在的算力卡還是很好拿的，沒什么門檻，自己申請一下就拿到了，而且每天運行一次項目，就送 24 個小時算力，連續(xù)運行 5 天再加送 48 小時。值得注意的是，申請的算力卡到手就是 48 小時，裂變之后能湊 120 小時，而且有效期比日常運行獲取的 24 小時這種要長很多。這豈不是白送嘛，我尋思每天免費讓你 24 小時 NVIDIA V100 GPU 這種事情，真的是天上掉餡餅吧。此外，AI Studio 官方也有比賽，有獎金，如果你的實力在 Kaggle 里離拿獎金只是一步之遙，那么趁 AI Studio 還沒火起來之前，去 AI Studio 比賽應該是很好拿獎的。?
3.1 自己申請
點擊「閱讀原文」或訪問以下鏈接：https://aistudio.baidu.com/aistudio/questionnaire?activityid=674
接著填寫個人信息：
提交后，會出現(xiàn)下圖：
然后就靜候佳音。通過運營人員核驗后，用戶的郵箱將收到運營人員發(fā)送的算力邀請碼：一串 32 位數(shù)字。?
通過上面鏈接能申請到 48 小時的算力卡（有效期 1 個月），并且可以分裂，送給別人（稍后送上我的分裂算力卡）。
使用算力卡的方法很簡單，在運行項目時選上 GPU，就會開始使用了，如下圖。
3.2 跑項目賺算力卡?
這個簡直了，你不僅可以運行自己的深度學習代碼，測試自己的項目，而且同時還會得到算力卡。原先是每天跑一次可以得到 12 小時算力卡（有效期 2 天），十月份變成跑一次送24小時算力卡，另外算力充電計劃，就是連續(xù) 5 天有使用算力卡，就會額外送 48 小時（有效期 7 天）。但預感這么高成本的事情應該不會持續(xù)太久，建議早薅。下面是我的算力卡獎勵歷史，感覺只要你用，AI Studio 就送你算力，不擔心算力不夠。
3.3 算力卡分裂?
AI Studio 的算力卡有分裂功能，你申請到算力卡會有三個邀請碼，你可以分享給你的朋友。我申請的算力卡有三個分裂，我每天會在評論區(qū)放一個算力卡，對羊毛貪得無厭，或者懶得申請又想馬上使用的，那可要盯緊評論區(qū)了。后續(xù)我再薅到新的算力卡就會評論區(qū)更新，先到先得，希望各位多多關注本文。?
3.4 比賽薅羊毛
另外額外告訴大家一個可能能行的薅羊毛的方法，需要一定的實力。AI Studio 也有一些常規(guī)比賽，相對于 Kaggle，可能競爭會小點，如果你在 Kaggle 能 top10% 以上，來 AI Studio 薅類似的比賽，就很大幾率拿得到獎金了。?
羊毛不是天天有，該出手時就出手！Reference
[1] https://ai.baidu.com/docs#/AIStudio_Tutorial/top?fr=pw
[2] http://www.PaddlePaddle.org/?fr=pw
[3] https://ai.baidu.com/forum/topic/show/943419/?fr=pw
?
現(xiàn)在，在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域，歡迎在公眾號后臺點擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 獲取免費GPU
總結
以上是生活随笔為你收集整理的国内免费GPU资源哪里找，让我告诉你最新的薅羊毛“秘籍”的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： NeurIPS 2019 | 用于弱监督
- 下一篇： “让Keras更酷一些！”：层与模型的重