Coursera-ML-AndrewNg-Notes吳恩達(dá)老師的機(jī)器學(xué)習(xí)課程個(gè)人筆記
斯坦福大學(xué)2014（吳恩達(dá)）機(jī)器學(xué)習(xí)教程中文筆記
課程地址：https://www.coursera.org/course/ml
Machine Learning(機(jī)器學(xué)習(xí))是研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類(lèi)的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身的性能。它是人工智能的核心，是使計(jì)算機(jī)具有智能的根本途徑，其應(yīng)用遍及人工智能的各個(gè)領(lǐng)域，它主要使用歸納、綜合而不是演譯。在過(guò)去的十年中，機(jī)器學(xué)習(xí)幫助我們自動(dòng)駕駛汽車(chē)，有效的語(yǔ)音識(shí)別，有效的網(wǎng)絡(luò)搜索，并極大地提高了人類(lèi)基因組的認(rèn)識(shí)。機(jī)器學(xué)習(xí)是當(dāng)今非常普遍，你可能會(huì)使用這一天幾十倍而不自知。很多研究者也認(rèn)為這是最好的人工智能的取得方式。在本課中，您將學(xué)習(xí)最有效的機(jī)器學(xué)習(xí)技術(shù)，并獲得實(shí)踐，讓它們?yōu)樽约旱墓ぷ鳌８匾氖牵銜?huì)不僅得到理論基礎(chǔ)的學(xué)習(xí)，而且獲得那些需要快速和強(qiáng)大的應(yīng)用技術(shù)解決問(wèn)題的實(shí)用技術(shù)。最后，你會(huì)學(xué)到一些硅谷利用機(jī)器學(xué)習(xí)和人工智能的最佳實(shí)踐創(chuàng)新。
本課程提供了一個(gè)廣泛的介紹機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、統(tǒng)計(jì)模式識(shí)別的課程。主題包括：
（一）監(jiān)督學(xué)習(xí)（參數(shù)/非參數(shù)算法，支持向量機(jī)，核函數(shù)，神經(jīng)網(wǎng)絡(luò)）。
（二）無(wú)監(jiān)督學(xué)習(xí)（聚類(lèi)，降維，推薦系統(tǒng)，深入學(xué)習(xí)推薦）。
（三）在機(jī)器學(xué)習(xí)的最佳實(shí)踐（偏差/方差理論；在機(jī)器學(xué)習(xí)和人工智能創(chuàng)新過(guò)程）。本課程還將使用大量的案例研究，您還將學(xué)習(xí)如何運(yùn)用學(xué)習(xí)算法構(gòu)建智能機(jī)器人（感知，控制），文本的理解（Web搜索，反垃圾郵件），計(jì)算機(jī)視覺(jué)，醫(yī)療信息，音頻，數(shù)據(jù)挖掘，和其他領(lǐng)域。
本課程需要10周共18節(jié)課，相對(duì)以前的機(jī)器學(xué)習(xí)視頻，這個(gè)視頻更加清晰，而且每課都有ppt課件，推薦學(xué)習(xí)。
本人2014年下半年開(kāi)始翻譯本課程字幕，并寫(xiě)了課程的中文筆記。筆記被下載了幾萬(wàn)次，應(yīng)該幫助了不少人，也有很多人一直在幫助我，現(xiàn)在我把筆記的word原稿和markdown原稿分享給大家。
markdown的筆記和課程中英文字幕我將放在github，希望大家能繼續(xù)完善。為方便數(shù)學(xué)公式的在線(xiàn)顯示，在線(xiàn)觀看的是html文件，公式已經(jīng)被轉(zhuǎn)為圖片，公式源碼在markdown文件。
最后想對(duì)各位朋友說(shuō)： 贈(zèng)人玫瑰，手有余香！ 在人工智能的道路上，你不是一個(gè)人在戰(zhàn)斗！
黃海廣
2018-3-26 夜
微信公眾號(hào)：機(jī)器學(xué)習(xí)初學(xué)者 知識(shí)星球：黃博的機(jī)器學(xué)習(xí)圈子
參考：https://www.coursera.org/course/ml 機(jī)器學(xué)習(xí)公開(kāi)課
https://mooc.guokr.com/note/12/ 小小人_V 的個(gè)人筆記
《統(tǒng)計(jì)學(xué)習(xí)方法》李航
《機(jī)器學(xué)習(xí)課》鄒博
注意：github下載太慢的話(huà)，關(guān)注我的公眾號(hào)：“機(jī)器學(xué)習(xí)初學(xué)者”，回復(fù)“github鏡像”即可下載本倉(cāng)庫(kù)的鏡像文件，整個(gè)倉(cāng)庫(kù)壓縮成一個(gè)iso。
備注：吳恩達(dá)老師的深度學(xué)習(xí)課（deepLearning.ai）的筆記地址：https://github.com/fengdu78/deeplearning_ai_books
文件夾說(shuō)明：
docx：筆記的word版本
markdown：筆記的markdown版本
html：筆記的html版本
images：筆記的圖片
ppt：課程的原版課件
srt：課程的中英文字幕（mp4文件需要在百度云下載，大家可以用記事本或者字幕編輯軟件來(lái)編輯字幕，共同完善，百度云鏈接：https://pan.baidu.com/s/1h8QjqBlOm0Exh7orm9teMQ 密碼：d3we，下載后解壓）
code：課程的python代碼（有一部分是國(guó)外大牛寫(xiě)的）
機(jī)器學(xué)習(xí)視頻下載鏈接：https://pan.baidu.com/s/1raoOPOg 密碼：48m8，包含視頻和字幕，下載后解壓，建議用potplayer播放，此視頻與mp4一致。
筆記pdf版本下載 ：見(jiàn)github根目錄。
機(jī)器學(xué)習(xí)qq群：704220115（我們有11個(gè)群，加過(guò)一個(gè)就不需要加了）
機(jī)器學(xué)習(xí)教程中文筆記目錄
一、 引言(Introduction)
1.1 歡迎
1.2 機(jī)器學(xué)習(xí)是什么？
1.3 監(jiān)督學(xué)習(xí)
1.4 無(wú)監(jiān)督學(xué)習(xí)
二、單變量線(xiàn)性回歸(Linear Regression with One Variable)
2.1 模型表示
2.2 代價(jià)函數(shù)
2.3 代價(jià)函數(shù)的直觀理解I
2.4 代價(jià)函數(shù)的直觀理解II
2.5 梯度下降
2.6 梯度下降的直觀理解
2.7 梯度下降的線(xiàn)性回歸
2.8 接下來(lái)的內(nèi)容
三、線(xiàn)性代數(shù)回顧(Linear Algebra Review)
3.1 矩陣和向量
3.2 加法和標(biāo)量乘法
3.3 矩陣向量乘法
3.4 矩陣乘法
3.5 矩陣乘法的性質(zhì)
3.6 逆、轉(zhuǎn)置
四、多變量線(xiàn)性回歸(Linear Regression with Multiple Variables)
4.1 多維特征
4.2 多變量梯度下降
4.3 梯度下降法實(shí)踐1-特征縮放
4.4 梯度下降法實(shí)踐2-學(xué)習(xí)率
4.5 特征和多項(xiàng)式回歸
4.6 正規(guī)方程
4.7 正規(guī)方程及不可逆性（選修）
五、Octave教程(Octave Tutorial)
5.1 基本操作
5.2 移動(dòng)數(shù)據(jù)
5.3 計(jì)算數(shù)據(jù)
5.4 繪圖數(shù)據(jù)
5.5 控制語(yǔ)句：for，while，if語(yǔ)句
5.6 向量化 88
5.7 工作和提交的編程練習(xí)
六、邏輯回歸(Logistic Regression)
6.1 分類(lèi)問(wèn)題
6.2 假說(shuō)表示
6.3 判定邊界
6.4 代價(jià)函數(shù)
6.5 簡(jiǎn)化的成本函數(shù)和梯度下降
6.6 高級(jí)優(yōu)化
6.7 多類(lèi)別分類(lèi)：一對(duì)多
七、正則化(Regularization)
7.1 過(guò)擬合的問(wèn)題
7.2 代價(jià)函數(shù)
7.3 正則化線(xiàn)性回歸
7.4 正則化的邏輯回歸模型
第八、神經(jīng)網(wǎng)絡(luò)：表述(Neural Networks: Representation)
8.1 非線(xiàn)性假設(shè)
8.2 神經(jīng)元和大腦
8.3 模型表示1
8.4 模型表示2
8.5 樣本和直觀理解1
8.6 樣本和直觀理解II
8.7 多類(lèi)分類(lèi)
九、神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)(Neural Networks: Learning)
9.1 代價(jià)函數(shù)
9.2 反向傳播算法
9.3 反向傳播算法的直觀理解
9.4 實(shí)現(xiàn)注意：展開(kāi)參數(shù)
9.5 梯度檢驗(yàn)
9.6 隨機(jī)初始化
9.7 綜合起來(lái)
9.8 自主駕駛
十、應(yīng)用機(jī)器學(xué)習(xí)的建議(Advice for Applying Machine Learning)
10.1 決定下一步做什么
10.2 評(píng)估一個(gè)假設(shè)
10.3 模型選擇和交叉驗(yàn)證集
10.4 診斷偏差和方差
10.5 正則化和偏差/方差
10.6 學(xué)習(xí)曲線(xiàn)
10.7 決定下一步做什么
十一、機(jī)器學(xué)習(xí)系統(tǒng)的設(shè)計(jì)(Machine Learning System Design)
11.1 首先要做什么
11.2 誤差分析
11.3 類(lèi)偏斜的誤差度量
11.4 查準(zhǔn)率和查全率之間的權(quán)衡
11.5 機(jī)器學(xué)習(xí)的數(shù)據(jù)
十二、支持向量機(jī)(Support Vector Machines)
12.1 優(yōu)化目標(biāo)
12.2 大邊界的直觀理解
12.3 數(shù)學(xué)背后的大邊界分類(lèi)（選修）
12.4 核函數(shù)1
12.5 核函數(shù)2
12.6 使用支持向量機(jī)
十三、聚類(lèi)(Clustering)
13.1 無(wú)監(jiān)督學(xué)習(xí)：簡(jiǎn)介
13.2 K-均值算法
13.3 優(yōu)化目標(biāo)
13.4 隨機(jī)初始化
13.5 選擇聚類(lèi)數(shù)
十四、降維(Dimensionality Reduction)
14.1 動(dòng)機(jī)一：數(shù)據(jù)壓縮
14.2 動(dòng)機(jī)二：數(shù)據(jù)可視化
14.3 主成分分析問(wèn)題
14.4 主成分分析算法
14.5 選擇主成分的數(shù)量
14.6 重建的壓縮表示
14.7 主成分分析法的應(yīng)用建議
十五、異常檢測(cè)(Anomaly Detection)
15.1 問(wèn)題的動(dòng)機(jī)
15.2 高斯分布
15.3 算法
15.4 開(kāi)發(fā)和評(píng)價(jià)一個(gè)異常檢測(cè)系統(tǒng)
15.5 異常檢測(cè)與監(jiān)督學(xué)習(xí)對(duì)比
15.6 選擇特征
15.7 多元高斯分布（選修）
15.8 使用多元高斯分布進(jìn)行異常檢測(cè)（選修）
十六、推薦系統(tǒng)(Recommender Systems)
16.1 問(wèn)題形式化
16.2 基于內(nèi)容的推薦系統(tǒng)
16.3 協(xié)同過(guò)濾
16.4 協(xié)同過(guò)濾算法
16.5 向量化：低秩矩陣分解
16.6 推行工作上的細(xì)節(jié)：均值歸一化
十七、大規(guī)模機(jī)器學(xué)習(xí)(Large Scale Machine Learning)
17.1 大型數(shù)據(jù)集的學(xué)習(xí)
17.2 隨機(jī)梯度下降法
17.3 小批量梯度下降
17.4 隨機(jī)梯度下降收斂
17.5 在線(xiàn)學(xué)習(xí)
17.6 映射化簡(jiǎn)和數(shù)據(jù)并行
十八、應(yīng)用實(shí)例：圖片文字識(shí)別(Application Example: Photo OCR)
18.1 問(wèn)題描述和流程圖
18.2 滑動(dòng)窗口
18.3 獲取大量數(shù)據(jù)和人工數(shù)據(jù)
18.4 上限分析：哪部分管道的接下去做
十九、總結(jié)(Conclusion)
19.1 總結(jié)和致謝
機(jī)器學(xué)習(xí)qq群：704220115（我們有11個(gè)群，加過(guò)一個(gè)就不需要加了）