《深入淺出 PyTorch——從模型到源碼》源代碼
向AI轉(zhuǎn)型的程序員都關(guān)注了這個號??????
機器學(xué)習(xí)AI算法工程?? 公眾號：datayx
要學(xué)習(xí)深度學(xué)習(xí)，除了學(xué)習(xí)深度學(xué)習(xí)的相關(guān)理論知識，還要學(xué)習(xí)各大框架的使用方法。作為深度學(xué)習(xí)模型的載體，現(xiàn)在實現(xiàn)深度學(xué)習(xí)的框架主要有Tensorflow和PyTorch，還有一些其他框架如mxnet、CNTK和Chainer等。而PyTorch自2016年10月首次對外發(fā)布以來，僅花了兩年時間就可以和Tensorflow分庭抗禮，這與PyTorch的高性能和易用性是分不開的。截止2019年為止，深度學(xué)習(xí)的主要會議如NIPS、ICCV、CVPR、ICML等都有50%～80%的會議論文使用了PyTorch，這也說明了PyTorch的簡明易用、高性能等特點吸引了大量學(xué)術(shù)界的用戶。
現(xiàn)在市面上講解PyTorch的入門級書已經(jīng)有了很多，這些書分別從安裝、使用和簡單示例角度入手講解PyTorch，其優(yōu)點是通俗易懂，但還是缺少一些從底層模塊角度講解PyTorch內(nèi)容的書來幫助讀者進(jìn)一步了解并用好PyTorch。而本書最大的優(yōu)點就是囊括了PyTorch的常用模塊，并給模塊配備了不同使用方法的代碼和代碼背后的底層模塊如何實現(xiàn)的邏輯，以便引導(dǎo)用戶入門PyTorch后繼續(xù)探索PyTorch的各種用法，進(jìn)而提升科研和工作效率。除此以外，本書還囊括了近幾年學(xué)術(shù)界和工業(yè)界都很常用的諸多熱門模型，如SSD、FCN、GAN、LSTM和BERT等的PyTorch實現(xiàn)，省去了讀者去網(wǎng)上搜索相關(guān)實現(xiàn)的煩瑣。本書最后專門介紹了PyTorch的一些高級使用方法，例如，如何編寫算子和自動求導(dǎo)機制，這可以幫助對PyTorch有進(jìn)一步開發(fā)需求的研究者和學(xué)習(xí)者開發(fā)需要的算子。
項目 代碼?獲取方式：
關(guān)注微信公眾號 datayx? 然后回復(fù)?pytorch?即可獲取。
1. 第一章 深度學(xué)習(xí)概念簡介
2. 第二章 PyTorch 深度學(xué)習(xí)框架簡介
代碼2.1?PyTorch軟件包的導(dǎo)入和測試
代碼2.2?安裝PyTorch的依賴關(guān)系
代碼2.3?PyTorch編譯命令
代碼2.4?Python列表和Numpy數(shù)組轉(zhuǎn)換為PyTorch張量
代碼2.5?指定形狀生成張量
代碼2.6-2.7?指定形狀生成張量
代碼2.8?PyTorch在不同設(shè)備上的張量
代碼2.9?PyTorch張量形狀相關(guān)的一些函數(shù)
代碼2.10?PyTorch張量的切片和索引
代碼2.11?PyTorch張量的函數(shù)運算
代碼2.12?PyTorch張量的四則運算
代碼2.13?PyTorch極值和排序的函數(shù)
代碼2.14?PyTorch張量的矩陣乘法運算
代碼2.15?torch.einsum函數(shù)的使用
代碼2.16?張量的拼接和分割
代碼2.17?張量維度擴增和壓縮
代碼2.18?張量的廣播
代碼2.19?PyTorch模塊類的構(gòu)建方法
代碼2.20?PyTorch線性回歸模型示例
代碼2.21?PyTorch線性回歸模型調(diào)用方法實例
代碼2.22?PyTorch模塊方法調(diào)用實例
代碼2.23?反向傳播函數(shù)測試代碼
代碼2.24?梯度函數(shù)的使用方法
代碼2.25?控制計算圖產(chǎn)生的方法示例
代碼2.26?損失函數(shù)模塊的使用方法
代碼2.27?簡單線性回歸函數(shù)和優(yōu)化器
代碼2.28?PyTorch優(yōu)化器對不同參數(shù)指定不同的學(xué)習(xí)率
代碼2.29?PyTorch學(xué)習(xí)率衰減類示例
代碼2.30?torch.utils.data.DataLoader類的簽名
代碼2.31?torch.untils.data.Dataset類的構(gòu)造方法
代碼2.32?簡單torch.utils.data.Dataset類的實現(xiàn)
代碼2.33?torch.utils.data.IterableDataset類的構(gòu)造方法
代碼2.34?PyTorch保存和載入模型
代碼2.35?PyTorch的狀態(tài)字典的保存和載入
代碼2.36?PyTorch檢查點的結(jié)構(gòu)
代碼2.37?TensorBoard使用方法示例
代碼2.38?SummaryWriter提供的添加數(shù)據(jù)顯示的方法
代碼2.39?torch.nn.DataParallel使用方式
代碼2.40?PyTorch分布式進(jìn)程啟動函數(shù)
代碼2.41?多進(jìn)程訓(xùn)練模型的數(shù)據(jù)載入
代碼2.42?分布式數(shù)據(jù)并行模型的API
代碼2.43?分布式數(shù)據(jù)并行模型訓(xùn)練時的輸出
3. 第三章 PyTorch 計算機視覺模塊
代碼3.1-3.3?線性層的定義和使用方法
代碼3.4?ConvNd類的定義代碼
代碼3.5-3.9?歸一化層模塊的定義
代碼3.10-3.15?池化模塊的定義
代碼3.16?丟棄層模塊的定義
代碼3.17?順序模塊的構(gòu)造方法
代碼3.18?模塊列表和模塊字典的構(gòu)造方法
代碼3.19-3.22?AlexNet實例及特征提取模塊
代碼3.23-3.24?增益系數(shù)的計算和模塊參數(shù)初始化
代碼3.25?InceptionNet的基礎(chǔ)框架代碼
代碼3.26-3.27?ResNet的基礎(chǔ)框架代碼
4. 第四章 PyTorch 機器視覺案例
代碼4.1?PyTorch常用的數(shù)據(jù)集包裝類
代碼4.2-4.9?LeNet模型工程
代碼4.10-4.12?使用argparse庫指定LeNet神經(jīng)網(wǎng)絡(luò)超參數(shù)
代碼4.13?imagenet.py訓(xùn)練代碼數(shù)據(jù)載入部分
代碼4.14?ResNet瓶頸殘差模塊的代碼實現(xiàn)
代碼4.15-4.20?InceptionNet子模塊的實現(xiàn)
代碼4.21-4.26?SSD模型的代碼實現(xiàn)
代碼4.27-4.30?FCN模型的代碼實現(xiàn)
代碼4.31?U-Net模型的代碼實現(xiàn)
代碼4.32-4.37?圖像風(fēng)格遷移代碼
代碼4.38-4.39?變分自編碼器（VAE）代碼實現(xiàn)
代碼4.40-4.42?生成對抗網(wǎng)絡(luò)（GAN）代碼實現(xiàn)
5. 第五章 PyTorch 自然語言處理模塊
代碼5.1?使用sklearn的CountVectorizer來提取詞頻特征
代碼5.2?CountVectorizer類聲明
代碼5.3?TF-IDF代碼實例
代碼5.4?TfidfTransformer和TfidfVectorizer類的聲明
代碼5.5?nn.Embedding類的定義
代碼5.6?詞嵌入模塊的使用示例
代碼5.7?從預(yù)訓(xùn)練的詞嵌入矩陣得到詞嵌入模塊
代碼5.8?nn.EmbeddingBag類的定義
代碼5.9-5.10?pack_padded_sequence和pad_packed_sequence的使用
代碼5.11?簡單RNN的參數(shù)代碼
代碼5.12?RNN代碼使用實例
代碼5.13?LSTM和GRU的參數(shù)定義
代碼5.14?LSTM和GRU模塊的使用方法
代碼5.15?RNNCell、LSTMCell和GRUCell參數(shù)定義
代碼5.16?RNNCell、LSTMCell和GRUCell的使用方法
代碼5.17?MultiheadAttention模塊參數(shù)定義
代碼5.18?Transformer單層編碼器和解碼器模塊定義
代碼5.19?Transformer編碼器、解碼器和Transformer模型
6. 第六章 PyTorch 自然語言處理案例
代碼6.1?使用collections.Counter類構(gòu)建單詞表
代碼6.2-6.3?CBOW模型及其訓(xùn)練過程
代碼6.4?PyTorch余弦相似度的模塊的參數(shù)定義和使用
代碼6.5-6.6?用于情感分析的深度學(xué)習(xí)模型代碼
代碼6.7-6.9?基于循環(huán)神經(jīng)網(wǎng)絡(luò)的語言模型代碼
代碼6.10-6.12?Seq2Seq模型代碼
代碼6.13-6.16?BERT模型代碼
第七章 其他重要模型
代碼7.1?寬深模型代碼
代碼7.2?CTC損失函數(shù)的定義
代碼7.3?DeepSpeech模型代碼
代碼7.4-7.7?Tacotron模型代碼
代碼7.8-7.9?WaveNet模型代碼
代碼7.10-7.14?DQN模型代碼
代碼7.15-7.17?半精度模型的訓(xùn)練
第八章 PyTorch 高級應(yīng)用
代碼8.1-8.10?PyTorch自定義激活函數(shù)和梯度
代碼8.11-8.14?PyTorch鉤子使用方法示例
代碼8.15-8.17?PyTorch靜態(tài)圖使用方法示例
代碼8.18-8.22?PyTorch靜態(tài)模型的保存和載入
第九章 PyTorch 源代碼解析
代碼9.1?native_functions.yaml文件的聲明
代碼9.2-9.4?pybind11的簡單例子
機器學(xué)習(xí)算法AI大數(shù)據(jù)技術(shù)
?搜索公眾號添加：?datanlp
長按圖片，識別二維碼
閱讀過本文的人還看了以下文章：
TensorFlow 2.0深度學(xué)習(xí)案例實戰(zhàn)
基于40萬表格數(shù)據(jù)集TableBank，用MaskRCNN做表格檢測
《基于深度學(xué)習(xí)的自然語言處理》中/英PDF
【全套視頻課】最全的目標(biāo)檢測算法系列講解，通俗易懂！
《美團機器學(xué)習(xí)實踐》_美團算法團隊.pdf
《深度學(xué)習(xí)入門：基于Python的理論與實現(xiàn)》高清中文PDF+源碼
《深度學(xué)習(xí)：基于Keras的Python實踐》PDF和代碼
python就業(yè)班學(xué)習(xí)視頻，從入門到實戰(zhàn)項目
2019最新《PyTorch自然語言處理》英、中文版PDF+源碼
《21個項目玩轉(zhuǎn)深度學(xué)習(xí)：基于TensorFlow的實踐詳解》完整版PDF+附書代碼
《深度學(xué)習(xí)之pytorch》pdf+附書源碼
PyTorch深度學(xué)習(xí)快速實戰(zhàn)入門《pytorch-handbook》
【下載】豆瓣評分8.1,《機器學(xué)習(xí)實戰(zhàn):基于Scikit-Learn和TensorFlow》
《Python數(shù)據(jù)分析與挖掘?qū)崙?zhàn)》PDF+完整源碼
汽車行業(yè)完整知識圖譜項目實戰(zhàn)視頻(全23課)
李沐大神開源《動手學(xué)深度學(xué)習(xí)》，加州伯克利深度學(xué)習(xí)（2019春）教材
筆記、代碼清晰易懂！李航《統(tǒng)計學(xué)習(xí)方法》最新資源全套！
《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》最新2018版中英PDF+源碼
FashionAI服裝屬性標(biāo)簽圖像識別Top1-5方案分享
重要開源！CNN-RNN-CTC 實現(xiàn)手寫漢字識別
同樣是機器學(xué)習(xí)算法工程師，你的面試為什么過不了？
前海征信大數(shù)據(jù)算法：風(fēng)險概率預(yù)測
【Keras】完整實現(xiàn)‘交通標(biāo)志’分類、‘票據(jù)’分類兩個項目，讓你掌握深度學(xué)習(xí)圖像分類
VGG16遷移學(xué)習(xí)，實現(xiàn)醫(yī)學(xué)圖像識別分類工程項目
特征工程(二) :文本數(shù)據(jù)的展開、過濾和分塊
如何利用全新的決策樹集成級聯(lián)結(jié)構(gòu)gcForest做特征工程并打分？
Machine Learning Yearning 中文翻譯稿
斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）
python+flask搭建CNN在線識別手寫中文網(wǎng)站
中科院Kaggle全球文本匹配競賽華人第1名團隊-深度學(xué)習(xí)與特征工程
不斷更新資源
深度學(xué)習(xí)、機器學(xué)習(xí)、數(shù)據(jù)分析、python
?搜索公眾號添加：?datayx??