<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          【深度學(xué)習(xí)】深度學(xué)習(xí)需要掌握的 13 個(gè)概率分布

          共 4527字,需瀏覽 10分鐘

           ·

          2024-04-15 12:00

          作者丨Sophia@知乎

          來(lái)源丨h(huán)ttps://zhuanlan.zhihu.com/p/158801020

          編輯 | 極市平臺(tái)

          本文僅用于學(xué)術(shù)分享,著作權(quán)歸作者所有。如有侵權(quán),請(qǐng)聯(lián)系后臺(tái)作刪文處理。

          在逛Github時(shí)發(fā)現(xiàn)了一個(gè)不錯(cuò)的總結(jié),對(duì)深度學(xué)習(xí)的概率分布進(jìn)行了總結(jié)。

          作者的Github開(kāi)源地址:https://github.com/graykode/distribution-is-all-you-needgithub.com

          1.均勻分布(連續(xù))代碼https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py

          均勻分布在 [a,b] 上具有相同的概率值,是簡(jiǎn)單概率分布。

          2.伯努利分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py

          先驗(yàn)概率 p(x)不考慮伯努利分布。因此,如果我們對(duì)最大似然進(jìn)行優(yōu)化,那么我們很容易被過(guò)度擬合。
          利用二元交叉熵對(duì)二項(xiàng)分類(lèi)進(jìn)行分類(lèi)。它的形式與伯努利分布的負(fù)對(duì)數(shù)相同。

          3.二項(xiàng)分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py

          參數(shù)為 n 和 p 的二項(xiàng)分布是一系列 n 個(gè)獨(dú)立實(shí)驗(yàn)中成功次數(shù)的離散概率分布。
          二項(xiàng)式分布是指通過(guò)指定要提前挑選的數(shù)量而考慮先驗(yàn)概率的分布。

          4.多伯努利分布/分類(lèi)分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py

          多伯努利稱(chēng)為分類(lèi)分布。
          交叉熵和采取負(fù)對(duì)數(shù)的多伯努利分布具有相同的形式。

          5.多項(xiàng)式分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py

          多項(xiàng)式分布與分類(lèi)分布的關(guān)系與伯努爾分布與二項(xiàng)分布的關(guān)系相同。

          6.β分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py

          β分布與二項(xiàng)分布和伯努利分布共軛。
          利用共軛,利用已知的先驗(yàn)分布可以更容易地得到后驗(yàn)分布。
          當(dāng)β分布滿(mǎn)足特殊情況(α=1,β=1)時(shí),均勻分布是相同的。

          7.Dirichlet 分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py

          dirichlet 分布與多項(xiàng)式分布是共軛的。
          如果 k=2,則為β分布。

          8.伽馬分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py

          如果 gamma(a,1)/gamma(a,1)+gamma(b,1)與 beta(a,b)相同,則 gamma 分布為β分布。
          指數(shù)分布和卡方分布是伽馬分布的特例。

          9.指數(shù)分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py

          指數(shù)分布是 α 為 1 時(shí) γ 分布的特例。

          10.高斯分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py

          高斯分布是一種非常常見(jiàn)的連續(xù)概率分布。

          11.正態(tài)分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py

          正態(tài)分布為標(biāo)準(zhǔn)高斯分布,平均值為0,標(biāo)準(zhǔn)差為1。

          12.卡方分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py

          k 自由度的卡方分布是 k 個(gè)獨(dú)立標(biāo)準(zhǔn)正態(tài)隨機(jī)變量的平方和的分布。
          卡方分布是 β 分布的特例。

          13.t 分布(連續(xù))代碼https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.py

          t分布是對(duì)稱(chēng)的鐘形分布,與正態(tài)分布類(lèi)似,但尾部較重,這意味著它更容易產(chǎn)生遠(yuǎn)低于平均值的值。

                
                 
                       
                          
                             
                                   
                                      
          往期精彩回顧




          • 交流群

          歡迎加入機(jī)器學(xué)習(xí)愛(ài)好者微信群一起和同行交流,目前有機(jī)器學(xué)習(xí)交流群、博士群、博士申報(bào)交流、CV、NLP等微信群,請(qǐng)掃描下面的微信號(hào)加群,備注:”昵稱(chēng)-學(xué)校/公司-研究方向“,例如:”張小明-浙大-CV“。請(qǐng)按照格式備注,否則不予通過(guò)。添加成功后會(huì)根據(jù)研究方向邀請(qǐng)進(jìn)入相關(guān)微信群。請(qǐng)勿在群內(nèi)發(fā)送廣告,否則會(huì)請(qǐng)出群,謝謝理解~(也可以加入機(jī)器學(xué)習(xí)交流qq群772479961


          瀏覽 163
          10點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          10點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  无码操逼视频免费有声音 | www.av影音先锋 | 国产日产精品一区二区三区四区 | 成人视频国产欧美日韩豆花 | 欧美黄片一区 |