實驗室一塊GPU都沒有！怎么做深度學(xué)習(xí)？

對于很多入門的小伙伴，或者實驗室資金并不是非常充足的情況。都會遇到一個問題，想要開始玩一下 深度學(xué)習(xí)，但是硬件條件非常的短缺，沒有GPU，搞個毛線。或者GPU的顯存不足，用自己的電腦跑，聽著顯卡風(fēng)扇，“呼呼呼”響是真的心痛。

之前寫過一些國內(nèi)外可以白嫖的GPU的平臺

白嫖GPU，我們是認(rèn)真的！（點擊即可跳轉(zhuǎn)）

今天分享一下知乎一些過來人的經(jīng)驗 

來源：https://www.zhihu.com/question/299434830

編輯：AI算法與圖像處理，本文僅供學(xué)習(xí)交流分享，如有侵權(quán)，請連續(xù)刪文

嗨咯卡特

https://www.zhihu.com/question/299434830/answer/1677664738

作為一個窮學(xué)生實驗室也是缺GPU，現(xiàn)在來分享一下我最近整理的國內(nèi)外比較靠譜的解決方案。

國內(nèi)產(chǎn)品

• 矩池云

矩池云是我們實驗室正在用的，也是使用當(dāng)中服務(wù)體驗非常好的一家。為什么會選這家的原因是因為他們家有很優(yōu)惠的教育折扣。我們老師購買后給我們分發(fā)的時長卡。教育折扣算下來應(yīng)該是全網(wǎng)最低了。

• mistGPU

在知乎上口碑不錯的一家。

• OpenBayes

知道這家是因為在超神經(jīng)上下數(shù)據(jù)集的時候發(fā)現(xiàn)的，前端非常好看。

• 百度AI studio

百度AI studio有免費的使用時長，網(wǎng)上有教程怎么裝別的框架，不過難度越來越大了。但是屬于國內(nèi)產(chǎn)品中Google Colab一樣的存在。所以放最后壓軸。

國外產(chǎn)品

• Google Colab

Google Colab真的是宇宙良心了。

• FloydHub

FloydHub據(jù)說很不錯，但是之前出現(xiàn)過用國內(nèi)信用卡買不了的情況。

• Paperspace

Paperspace也是一家非常不錯的供應(yīng)商。

• Vast

Vast在國外幾家里面價格優(yōu)勢最強的。

總結(jié)一下，如果是個人用戶堅守那家便宜用那家，那家服務(wù)好用那家。如果是實驗室和老師個人建議可以聯(lián)系一下矩池云看看矩池云對教育的扶持還是蠻大的。

張航

https://www.zhihu.com/question/299434830/answer/1693216384

這個問題，5年前我也想問。

還記得 CVPR 2015 開完會回來，感覺大家都在討論 deep learning，convolutional neural network，當(dāng)時覺得應(yīng)該試試。我就用網(wǎng)上開源的 LetNet 在筆記本上訓(xùn)練了一下我們當(dāng)時自己采集的數(shù)據(jù)集，結(jié)果完爆我們費盡心思手動設(shè)計的傳統(tǒng)方法。我當(dāng)時就鼓動我老板，讓她給實驗室買個帶 GPU 的機器。結(jié)果她語重心長地說: "你看實驗室這些舊電腦，我之前給每一個 PhD 學(xué)生都配一臺電腦，結(jié)果沒過多長時間，大家都不用了，只用自己的筆記本，所以不要把錢花在硬件上"。我竟無言以對。。。

但是 Research 還是要做，我就一狠心買了個 Titan-Z GPU，大概花了博士一個月的工資，然后就有了下面這張圖：

那時候還沒有 eGPU，我就自己搞了個解決方案，用一個外置臺式機電源帶動 thunderbolt to PCIe 的轉(zhuǎn)接器。有了這些“裝備”之后，我就開始了調(diào)參的不歸路。

比較早入坑，16 年用 MatConvNet 復(fù)現(xiàn)了一下 ResNet zhanghang1989/ResNet-Matconvnet，然后用 ResNet 提了下 feature，比較容易水 paper。在 NVIDIA 實習(xí)的時候，聽說可以自己寫 proposal 向 NVIDIA 申請免費的 GPU，之后就每年都申請一塊，直到畢業(yè) (鏈接：GPU Grant Application)。在發(fā)了幾篇 deep learning 的 paper 之后，我老板也開始換方向了，而且給組里的學(xué)弟們買了8卡的GPU Server（當(dāng)時是我畢業(yè)前幫老板挑的機器，可惜自己沒有用到）。

很難想象，當(dāng)初如果自己沒有自費買 GPU，現(xiàn)在我會在哪里，在做什么。如果客觀條件不好，盡量想辦法克服一下，機會要好好把握

目楽

https://www.zhihu.com/question/299434830/answer/1329278982

Google colab應(yīng)該是非常不錯的選擇，長期免費，褥資本主義羊毛，我們絕不手軟2333，下面是一個非常簡單的三步上手使用教程

首先是介紹（甚至可以跳過）：

它的配置大概是15g硬盤（Google drive的云空間）當(dāng)然各種庫文件是不算在內(nèi)的，你可以把它理解成一個數(shù)據(jù)存儲空間，內(nèi)存大概是12gb左右，gpu目前有4種，p100，T4，P4，K80，內(nèi)置tensorflow以及pytorch的完整庫文件，如果想用其他深度學(xué)習(xí)庫，一個pip就可以搞定，基本可以滿足大部分項目或者比賽的使用體驗。

比如之前參加的，情緒識別比賽，數(shù)據(jù)集大概是10w條文本，使用bert之類的超大預(yù)訓(xùn)練模型，也能保證正常運算，不至于內(nèi)存外存溢出，顯存也是8gb-16gb不等

對于colab使用其實只需三個步驟就可以輕松上手：

使用前的必備條件：

一個可以上Google的工具，這里的工具一般有按時間計費還有按流量計費（當(dāng)然也有各種免費的）我推薦用流量計費的工具比較劃算。

Google賬號，這個有手機有上一個工具就行。

1. 創(chuàng)建一個colab文件

https://drive.google.com/drive/my-drive

進入Google云盤后

如上圖所示，紅框是新建文件（比如colab文件）綠框是對已有文件，共享文件之類的查看，黃框是儲存空間顯示，藍框是存儲空間文件可視化。

在使用上，點擊之前圖里的新建，然后點擊更多，再點擊colab就可以新建文件了，當(dāng)然如果是第一次使用，可能存在colab選項不顯示的情況，點擊關(guān)聯(lián)更多應(yīng)用即可。

點擊colab選項后會跳轉(zhuǎn)到該頁面，它與jupyter基本一模一樣，黃框是輸入代碼段，綠框是連接服務(wù)器，白框是文件目錄，紅框是colab文件名，藍框是使用選項。

2. 配置colab環(huán)境（無需任何代碼）

使用第一步，選擇gpu，點擊前一張圖藍框里的修改，再點擊筆記本設(shè)置就可以配置gpu了。

藍框點擊選擇gpu即可

然后點之前綠框的連接即配置好環(huán)境

點擊圖中紅框，再點擊藍框即可將Google drive的云空間連接起來

這時就有了drive文件夾

現(xiàn)在配置已經(jīng)全部完成

3. 簡單的上手與配置

既然已經(jīng)配置完了，那么就上手使用一下吧，看看我們配置的gpu會是哪一個

很幸運是P100，擁有16g顯存，這塊卡京東大概3w RMB。

這句其實就是把根目錄定位到drive下，這樣你的文件和你在Google drive頁顯示的是相同目錄

4. 后記

一些要點：

1. 如果不知道該寫一個什么樣的項目，下面這篇文章是一篇關(guān)于nlp當(dāng)中情緒識別分類項目的實戰(zhàn)，代碼已放到github上，包括lstm，bert，xlnet等多種分類模型的使用。（路過別忘了點個贊，github加個star吧）

https://blog.csdn.net/weixin_43823140/article/details/106891612

https://github.com/SuperpeakZhou/emotion_reg

2. 對于colab使用的一些竅門：

• 如果gpu不是p100而是k80，兩者計算速度還是有明顯差距的，可以選擇再新建一個colab文件，一般兩三次就可以開到p100了。

• 如果Google drive的云空間不夠了，建議不要買，因為真的很貴，你可以選擇更明智的方式，再弄一個Google賬號2333，因為drive互相分享文件是非常便捷的，且分享文件是不占據(jù)當(dāng)前用戶存儲空間。

• 如果gpu資源用盡，基本上如果你天天使用10小時以上colab，可能就會面臨只能用cpu，gpu用完的場景，需要1天時間恢復(fù)，解決方案和上面一樣，再弄一個谷歌賬號。