深度學(xué)習(xí)需要掌握的13個概率分布（附代碼）

概率分布?

知乎作者：Sophia

來源：深度學(xué)習(xí)自然語言處理

本文僅用于學(xué)術(shù)分享，著作權(quán)歸作者所有。如有侵權(quán)，請聯(lián)系后臺作刪文處理。

在逛Github時發(fā)現(xiàn)了一個不錯的總結(jié)，對深度學(xué)習(xí)的概率分布進行了總結(jié)。

作者的Github開源地址：

https://github.com/graykode/distribution-is-all-you-needgithub.com

1. 均勻分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py

均勻分布在 [a，b] 上具有相同的概率值，是簡單概率分布。

2. 伯努利分布（離散）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py

先驗概率 p（x）不考慮伯努利分布。因此，如果我們對最大似然進行優(yōu)化，那么我們很容易被過度擬合。

利用二元交叉熵對二項分類進行分類。它的形式與伯努利分布的負(fù)對數(shù)相同。

3. 二項分布（離散）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py

參數(shù)為 n 和 p 的二項分布是一系列 n 個獨立實驗中成功次數(shù)的離散概率分布。

二項式分布是指通過指定要提前挑選的數(shù)量而考慮先驗概率的分布。

4. 多伯努利分布/分類分布（離散）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py

多伯努利稱為分類分布。交叉熵和采取負(fù)對數(shù)的多伯努利分布具有相同的形式。

5. 多項式分布（離散）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py

多項式分布與分類分布的關(guān)系與伯努爾分布與二項分布的關(guān)系相同。

6. β分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py

β分布與二項分布和伯努利分布共軛。

利用共軛，利用已知的先驗分布可以更容易地得到后驗分布。

當(dāng)β分布滿足特殊情況（α=1，β=1）時，均勻分布是相同的。

7. Dirichlet 分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py

dirichlet 分布與多項式分布是共軛的。

如果 k=2，則為β分布。

8.伽馬分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py

如果 gamma（a，1）/gamma（a，1）+gamma（b，1）與 beta（a，b）相同，則 gamma 分布為β分布。

指數(shù)分布和卡方分布是伽馬分布的特例。

9. 指數(shù)分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py

指數(shù)分布是 α 為 1 時 γ 分布的特例。

10. 高斯分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py

高斯分布是一種非常常見的連續(xù)概率分布。

11. 正態(tài)分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py

正態(tài)分布為標(biāo)準(zhǔn)高斯分布，平均值為0，標(biāo)準(zhǔn)差為1。

12. 卡方分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py

k 自由度的卡方分布是 k 個獨立標(biāo)準(zhǔn)正態(tài)隨機變量的平方和的分布。

卡方分布是 β 分布的特例。

13. t 分布（連續(xù)）代碼：

https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.py

t分布是對稱的鐘形分布，與正態(tài)分布類似，但尾部較重，這意味著它更容易產(chǎn)生遠低于平均值的值。

往期精彩：

【原創(chuàng)首發(fā)】機器學(xué)習(xí)公式推導(dǎo)與代碼實現(xiàn)30講.pdf

【原創(chuàng)首發(fā)】深度學(xué)習(xí)語義分割理論與實戰(zhàn)指南.pdf

喜歡您就點個在看！