【電子書(shū)】慕尼黑工業(yè)大學(xué)《基于物理的深度學(xué)習(xí)》(Jupyter Notebook實(shí)現(xiàn))

新智元報(bào)道
新智元報(bào)道
來(lái)源:pbdl
編輯:David
【新智元導(dǎo)讀】這本“基于物理的深度學(xué)習(xí)” (PBDL)電子書(shū)結(jié)合了物理建模和深度學(xué)習(xí)技術(shù)的方法,包含在物理模擬背景下與深度學(xué)習(xí)相關(guān)的所有內(nèi)容的實(shí)用而全面的介紹,本書(shū)由慕尼黑工業(yè)大學(xué)計(jì)算機(jī)科學(xué)研究所副教授Nils Thuerey研究團(tuán)隊(duì)編寫(xiě)。
今天分享一本電子書(shū)資源《基于物理的深度學(xué)習(xí)》(Physics-based Deep Learning),編寫(xiě)者為慕尼黑工業(yè)大學(xué)計(jì)算機(jī)科學(xué)研究所副教授Nils Thuerey研究團(tuán)隊(duì)。
本書(shū)包含在物理模擬背景下與深度學(xué)習(xí)相關(guān)的所有內(nèi)容的實(shí)用而全面的介紹。
本書(shū)盡可能地為文檔中的所有主題以 Jupyter Notebook的形式提供動(dòng)手代碼示例,以方便快速入門(mén)。
除了從數(shù)據(jù)中進(jìn)行標(biāo)準(zhǔn)的監(jiān)督學(xué)習(xí)之外,本書(shū)還將研究物理?yè)p失約束、具有可微模擬的更緊密耦合的學(xué)習(xí)算法,以及強(qiáng)化學(xué)習(xí)和不確定性建模。

電子書(shū)鏈接:
Physics-based Deep Learning Book
https://www.physicsbaseddeeplearning.org/intro.html
本書(shū)重點(diǎn)解決什么問(wèn)題
本書(shū)旨在解決的關(guān)鍵問(wèn)題:
解釋如何使用深度學(xué)習(xí)技術(shù)解決 PDE 問(wèn)題
如何將它們與現(xiàn)有的物理學(xué)知識(shí)結(jié)合起來(lái)
不放棄關(guān)于數(shù)值方法的知識(shí)。
本書(shū)的重點(diǎn)內(nèi)容:
基于場(chǎng)的模擬(拉格朗日方法)
與深度學(xué)習(xí)的結(jié)合(盡管還有許多其他有趣的機(jī)器學(xué)習(xí)技術(shù),但不會(huì)在這里討論)
實(shí)驗(yàn)作為展望(用真實(shí)世界的觀察替換合成數(shù)據(jù))
這本書(shū)的名字Physics-based Deep Learning,基于物理的深度學(xué)習(xí),表示“物理建模和數(shù)值模擬”與“基于人工神經(jīng)網(wǎng)絡(luò)的方法”的組合。目的是利用強(qiáng)大的數(shù)值技術(shù)上,并在任何可能的地方使用這些技術(shù)。因此,本書(shū)的一個(gè)中心目標(biāo)是,協(xié)調(diào)以數(shù)據(jù)為中心的觀點(diǎn)與物理模擬之間的關(guān)系。

由此產(chǎn)生的新方法具有巨大的潛力,可以改進(jìn)傳統(tǒng)數(shù)值方法的運(yùn)行質(zhì)量:比如求解器問(wèn)題,對(duì)于某個(gè)明確定義的問(wèn)題域中的案例,其效率會(huì)大大提高。投入大量資源對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,對(duì)于重復(fù)求解問(wèn)題就很有意義,其性能可能大大優(yōu)于傳統(tǒng)的通用求解器。
幾個(gè)問(wèn)題實(shí)例

下一代模擬可以通過(guò)集成深度學(xué)習(xí)組件來(lái)對(duì)我們的世界做出更準(zhǔn)確的預(yù)測(cè)
如何訓(xùn)練網(wǎng)絡(luò)來(lái)推斷圍繞翼型等形狀的流體流動(dòng),并估計(jì)預(yù)測(cè)的不確定性。這里需要研究替代傳統(tǒng)數(shù)值模擬的替代模型。
如何使用模型方程作為殘差來(lái)訓(xùn)練表示解的網(wǎng)絡(luò),以及如何通過(guò)使用可微模擬來(lái)改進(jìn)這些殘差約束。
如何更緊密地與完整的模擬器交互以解決逆問(wèn)題。例如,如何通過(guò)在訓(xùn)練循環(huán)中利用模擬器,來(lái)規(guī)避標(biāo)準(zhǔn)強(qiáng)化學(xué)習(xí)技術(shù)的收斂問(wèn)題。
本書(shū)將介紹將物理模型引入深度學(xué)習(xí)的不同方法,即基于物理的深度學(xué)習(xí) (PBDL) 方法。這些算法變體將按照增加集成緊密度的順序介紹,并討論不同方法的優(yōu)缺點(diǎn)。
在基于物理的深度學(xué)習(xí)領(lǐng)域,我們可以區(qū)分各種不同的基于物理的方法,從目標(biāo)設(shè)計(jì)、約束、組合方法和優(yōu)化到應(yīng)用。更具體地說(shuō),所有方法都針對(duì)正向模擬(比如預(yù)測(cè)狀態(tài)或時(shí)間演化)或逆向問(wèn)題(比如從觀察中獲得物理系統(tǒng)的參數(shù)化)。

物理系統(tǒng)與深度學(xué)習(xí)之間的融合
按照深度學(xué)習(xí)和物理體系的整合類(lèi)型不同,又可以將問(wèn)題分為下面幾類(lèi)解決方法:
數(shù)據(jù)驅(qū)動(dòng):數(shù)據(jù)由物理系統(tǒng)(真實(shí)或模擬)產(chǎn)生,但二者不存在進(jìn)一步的交互。
損失項(xiàng):物理動(dòng)力學(xué)通常以可微形式在損失函數(shù)中編碼。學(xué)習(xí)過(guò)程可以重復(fù)評(píng)估損失,并且通常從偏微分方程中來(lái)獲得梯度。
交錯(cuò):完整的物理模擬被交錯(cuò)處理,并與深度神經(jīng)網(wǎng)絡(luò)的輸出相結(jié)合;這類(lèi)問(wèn)題需要一個(gè)完全可微的模擬器,代表物理系統(tǒng)和深度學(xué)習(xí)過(guò)程之間最緊密的耦合。這種方法對(duì)于時(shí)間演化問(wèn)題尤其重要,可以產(chǎn)生對(duì)動(dòng)態(tài)未來(lái)行為的估計(jì)。
本書(shū)中使用 Jupyter notebook,它的一個(gè)關(guān)鍵優(yōu)勢(shì)是所有代碼示例都可以在瀏覽器中現(xiàn)場(chǎng)執(zhí)行。您可以修改內(nèi)容并立即查看會(huì)發(fā)生什么,不妨嘗試一下......
意見(jiàn)及建議
本書(shū)是數(shù)字文本和代碼示例的集合,由慕尼黑工業(yè)大學(xué) Physics-based Simulation 團(tuán)隊(duì)維護(hù)。如果您有任何意見(jiàn),請(qǐng)隨時(shí)與我們聯(lián)系,提前致謝??!

