筆記|李宏毅老師機(jī)器學(xué)習(xí)課程，視頻11深度學(xué)習(xí)簡(jiǎn)介
《學(xué)習(xí)筆記》專欄·第3篇
文 | MLer
1009字 | 6分鐘閱讀
【數(shù)據(jù)科學(xué)與人工智能】開通了機(jī)器學(xué)習(xí)群，大家可以相互學(xué)習(xí)和交流。請(qǐng)掃描下方二維碼，備注：姓名-ML，添加我為好友，誠(chéng)邀你入群，一起進(jìn)步。
感謝李宏毅老師的分享，他的課程幫助我更好地學(xué)習(xí)、理解和應(yīng)用機(jī)器學(xué)習(xí)。李老師的網(wǎng)站：http://speech.ee.ntu.edu.tw/~tlkagk/index.html。這個(gè)學(xué)習(xí)筆記是根據(jù)李老師2017年秋季機(jī)器學(xué)習(xí)課程的視頻和講義做的記錄和總結(jié)。因?yàn)檫@個(gè)視頻是在Youtube上面，有些朋友可能無(wú)法觀看，我把它搬運(yùn)下來(lái)放在云盤上面，大家點(diǎn)擊閱讀原文，就可以直接在手機(jī)隨時(shí)隨地觀看了。再次，感謝李老師的付出和貢獻(xiàn)。
這門課，共有36個(gè)視頻，每個(gè)視頻播放的時(shí)間不一。我按著視頻播放的順序，觀看，聆聽和學(xué)習(xí)，并結(jié)合講義，做學(xué)習(xí)筆記。我做學(xué)習(xí)筆記目的有三：
1 幫助自己學(xué)習(xí)和理解機(jī)器學(xué)習(xí)
2 記錄機(jī)器學(xué)習(xí)的重要知識(shí)、方法、原理和思想
3 為傳播機(jī)器學(xué)習(xí)做點(diǎn)事情
視頻11：深度學(xué)習(xí)簡(jiǎn)介
一、深度學(xué)習(xí)是爆款
深度學(xué)習(xí)應(yīng)用廣泛，眼球十足。谷歌公司的深度學(xué)習(xí)應(yīng)用，如下圖：
二、深度學(xué)習(xí)的歷史
深度學(xué)習(xí)的發(fā)展進(jìn)程，如下圖所示：
給我的幾點(diǎn)啟示：
1）簡(jiǎn)單到復(fù)雜的進(jìn)階
2）在不斷解決問題中前進(jìn)
3）大數(shù)據(jù)-大算法-大算力，造就今日的深度學(xué)習(xí)的繁榮
4）深度學(xué)習(xí)還有一系列問題待優(yōu)化和解決
三、深度學(xué)習(xí)的框架
深度學(xué)習(xí)的框架，和機(jī)器學(xué)習(xí)一樣。如下圖：
第一步：定義函數(shù)集
通過神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來(lái)構(gòu)建函數(shù)集
例如：Fully Connect Feedforward Network
深度學(xué)習(xí)的deep的理解？
它表示包括許多隱藏層。
例如一些經(jīng)典深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)，如下圖：
矩陣運(yùn)算和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
1）具體例子
2）一般式
深度學(xué)習(xí)的分解，如下圖：
上圖的幾點(diǎn)啟示
1）深度學(xué)習(xí)可以自動(dòng)做特征提取，完成特征工程的任務(wù)
2）深度學(xué)習(xí)對(duì)數(shù)據(jù)的輸入具有更大包容性，更接近原始層
3）深度學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)問題
FAQ，如何設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)？試錯(cuò)+經(jīng)驗(yàn)+直覺
第二步：度量函數(shù)的好與壞
一個(gè)樣本的損失函數(shù)
所有樣本的損失函數(shù)
第三步：找到最佳的函數(shù)
利用梯度下降算法，尋找到一組最佳的參數(shù)，用到數(shù)學(xué)里面的微分
可以采用一些深度學(xué)習(xí)框架，幫助計(jì)算微分
四、為什么要深度學(xué)習(xí)
李老師在后續(xù)的課程，會(huì)回答這個(gè)問題，大家也提前思考一下。同時(shí)，持續(xù)跟著李老師學(xué)習(xí)和實(shí)踐。
附錄：深度學(xué)習(xí)的一些參考資料
朋友們，在學(xué)習(xí)中有什么問題或者想法，請(qǐng)加入機(jī)器學(xué)習(xí)群，大家一起討論，共同進(jìn)步。
每周一書
5數(shù)據(jù)科學(xué)導(dǎo)論：Python語(yǔ)言實(shí)現(xiàn)
課程視頻點(diǎn)擊
↓↓↓