機器學(xué)習(xí)需要掌握的 13 個概率分布
作者的 Github 開源地址:?https://github.com/graykode/distribution-is-all-you-needgithub.com

1、均勻分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py

2、伯努利分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py
先驗概率 p(x)不考慮伯努利分布。因此,如果我們對最大似然進行優(yōu)化,那么我們很容易被過度擬合。
利用二元交叉熵對二項分類進行分類。它的形式與伯努利分布的負(fù)對數(shù)相同。

參數(shù)為 n 和 p 的二項分布是一系列 n 個獨立實驗中成功次數(shù)的離散概率分布。
二項式分布是指通過指定要提前挑選的數(shù)量而考慮先驗概率的分布。

4、多伯努利分布/分類分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py
多伯努利稱為分類分布。交叉熵和采取負(fù)對數(shù)的多伯努利分布具有相同的形式。

5、多項式分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py
多項式分布與分類分布的關(guān)系與伯努爾分布與二項分布的關(guān)系相同。

6、β 分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py

7、Dirichlet 分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py

8、伽馬分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py

9、指數(shù)分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py
指數(shù)分布是 α 為 1 時 γ 分布的特例。

10、高斯分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py

11、正態(tài)分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py
正態(tài)分布為標(biāo)準(zhǔn)高斯分布,平均值為 0,標(biāo)準(zhǔn)差為 1。

12、卡方分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py
卡方分布是 β 分布的特例。

13、t 分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.py
t 分布是對稱的鐘形分布,與正態(tài)分布類似,但尾部較重,這意味著它更容易產(chǎn)生遠低于平均值的值。

