深度學習的四個學習階段
點擊左上方藍字關注我們
轉載自 | Coggle數據科學
階段1：入門級
入門級能夠掌握以下技能：
能夠處理小型數據集 理解經典機器學習技術的關鍵概念 理解經典網絡DNN、CNN和RNN
數據處理
在入門級使用的數據集很小，可以放入主內存中。只需幾行代碼即可應用此類操作。在此階段數據包括Audio、Image、Time-series和Text等類型。
經典機器學習
在深入研究深度學習之前，學習基本機器學習技術是一個不錯的選擇，其包括回歸、聚類、SVM和樹模型。
網絡
掌握常見的網絡層，以及相應的神經網絡；GAN、AE、VAE、DNN、CNN、RNN 等等。在入門階段，可以優(yōu)先掌握DNN、CNN和RNN。
理論
沒有神經網絡就沒有深度學習，沒有（數學）理論就沒有神經網絡?？梢酝ㄟ^了解數學符號來開始學習，可以從矩陣、線性代數和概率論開始你的學習。
階段2：進階水平
進階和入門級之間沒有真正的分界，進階水平能夠處理更大的數據集，能夠使用高級網絡處理自定義項模型：
處理更大的數據集 能夠自定義模型完成任務 網絡模型精度變得更好
數據處理
能夠處理幾GB的數據集，需要自定義數據擴增方法和數據處理函數。
自己完成任務
能夠根據具體任務完成代碼的開發(fā)，而不是參考MNIST的教程完成編碼。
自定義網絡
處理自定義項目時，如何處理數據數據？如何定義自己的網絡層？
模型訓練
掌握遷移學習的思路，學會使用預訓練權重完成新任務。并掌握凍結部分網絡層的方法。
深度學習理論
掌握深度學習模型的正向傳播和反向傳播，特別是鏈式求導法則。掌握激活函數和目標函數的作用，能夠選擇合適的激活函數和目標函數。
階段3：熟練水平
與進階相比你需要掌握更加的數據集處理方法，并掌握加速模型訓練的方法：
大規(guī)模數據的處理和存儲 網絡模型的調參 無監(jiān)督學習和強化學習
數據處理
需要掌握幾百GB數據集的處理，學會Linux的操作。此階段可能接觸到多模態(tài)任務。
無監(jiān)督項目
開始嘗試無監(jiān)督網絡模型的搭建，如自編碼器和GAN模型，能夠掌握模型原理。
模型訓練
掌握模型調參的方法和常見的日志和可視化工具，如TensorBoard的使用。掌握學習率的調節(jié)方法，如余弦退火。掌握多機和混合精度訓練。
階段4：專家級
掌握前沿的學術模型的發(fā)展，知道自己的興趣是什么，并能提出新的模型：
學會使用JAX或DALI處理數據 熟悉圖神經網絡和Transformer模型
本文在原文基礎上進行了精簡，原文鏈接：https://towardsdatascience.com/a-guide-to-the-field-of-deep-learning-9bb9b21dae2
END
整理不易，點贊三連↓