<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          Jupyter筆記本實(shí)現(xiàn),物理+深度學(xué)習(xí)!

          共 3237字,需瀏覽 7分鐘

           ·

          2021-09-27 17:28

          深度學(xué)習(xí)


          轉(zhuǎn)自:機(jī)器之心
          物理知識和深度學(xué)習(xí)已經(jīng)成為了解決現(xiàn)實(shí)問題的絕佳組合,但如何更有效地將物理模型引入深度學(xué)習(xí)領(lǐng)域缺少一個全面的綜述。慕尼黑工業(yè)大學(xué)計算機(jī)科學(xué)副教授 Nils Thuerey 團(tuán)隊編寫的這本書籍對基于物理的深度學(xué)習(xí)展開了詳盡的介紹。


          • 書籍地址:https://arxiv.org/pdf/2109.05237.pdf

          • 項目地址:https://github.com/thunil/Physics-Based-Deep-Learning

          • 網(wǎng)站地址:https://www.physicsbaseddeeplearning.org/diffphys-examples.html


          文如書名,《基于物理的深度學(xué)習(xí)》(Physics-based Deep Learning)介紹了物理建模、數(shù)值模擬與基于人工神經(jīng)網(wǎng)絡(luò)方法的結(jié)合?;谖锢淼纳疃葘W(xué)習(xí)代表了一個非?;钴S、快速發(fā)展和令人興奮的研究領(lǐng)域。

          就內(nèi)容而言,本書對物理模擬背景下與深度學(xué)習(xí)相關(guān)的所有內(nèi)容展開了非常全面的介紹。并且,所有主題都以 Jupyter 筆記本的形式提供 hands-on 代碼示例,從而可以快速上手學(xué)習(xí)。

          除了基于數(shù)據(jù)的標(biāo)準(zhǔn)監(jiān)督學(xué)習(xí)之外,書籍作者還研究了物理損失約束、具有可微模擬的更緊密耦合的學(xué)習(xí)算法以及強(qiáng)化學(xué)習(xí)和不確定性建模。他們在書中表示,「我們生活在激動人心的時代,基于物理的 DL 方法具有從根本上改變計算機(jī)模擬可以實(shí)現(xiàn)的目標(biāo)的巨大潛力。」

          以「數(shù)值模擬的時間序列」的視覺示例為例,本書將解讀如何實(shí)現(xiàn)使用神經(jīng)網(wǎng)絡(luò)和數(shù)值求解器的算法。


          更具體地,本書主要解決了以下幾個核心問題:

          • 如何使用深度學(xué)習(xí)技術(shù)解決偏微分方程(PDE);

          • 如何更有效地結(jié)合深度學(xué)習(xí)技術(shù)與現(xiàn)有物理學(xué)知識;

          • 數(shù)值方法知識的重要性。


          書籍作者之一 Nils Thuerey 為慕尼黑工業(yè)大學(xué)副教授,他的主要研究興趣是「用于物理模擬的深度學(xué)習(xí)方法」。


          背景知識

          從天氣和氣候預(yù)測,到量子物理學(xué),再到等離子體聚變的控制,使用數(shù)值分析獲得物理模型的解決方案已經(jīng)成為科研中必不可缺的一部分。

          近年來,機(jī)器學(xué)習(xí)(ML)技術(shù),尤其深度神經(jīng)網(wǎng)絡(luò)(DNN),在各個領(lǐng)域取得了令人矚目的成就:從圖像分類到自然語言處理以及最近的蛋白質(zhì)折疊。

          深度學(xué)習(xí)(DL)方法的這些成功案例引起了廣泛關(guān)注,并認(rèn)為相關(guān)技術(shù)有可能取代傳統(tǒng)的、模擬驅(qū)動的科學(xué)方法。舉例而言,最近的工作表明,基于神經(jīng)網(wǎng)絡(luò)(NN)的智能體模型實(shí)現(xiàn)了現(xiàn)實(shí)世界工業(yè)應(yīng)用(如翼型流)所需的準(zhǔn)確度,同時在運(yùn)行時間方面比傳統(tǒng)求解器高出幾個數(shù)量級。

          不依賴根據(jù)第一性原理精心制作的模型,是否可以通過處理足夠大規(guī)模的數(shù)據(jù)集來提供正確答案呢?在這一過程中,將經(jīng)典數(shù)值算法與深度學(xué)習(xí)技術(shù)相結(jié)合至關(guān)重要。其中一個核心原因是深度學(xué)習(xí)方法非常強(qiáng)大,但同時又可以從物理模型領(lǐng)域知識中獲益匪淺。深度學(xué)習(xí)技術(shù)和神經(jīng)網(wǎng)絡(luò)有時難以應(yīng)用,而且將我們對物理過程的理解正確地整合到學(xué)習(xí)算法中通常也非易事。

          過去幾十年,研究社區(qū)已經(jīng)開發(fā)出高度專業(yè)化和精確的離散化方案來求解基礎(chǔ)模型方程,如納維 - 斯托克斯方程(Navier-Stokes)、麥克斯韋方程組(Maxwell's equations)或薛定諤方程(Schroedinger )。與其舍棄在數(shù)值數(shù)學(xué)領(lǐng)域已經(jīng)開發(fā)的強(qiáng)大方法,本書將展示在應(yīng)用深度學(xué)習(xí)技術(shù)時盡可能多地使用這些方法反而獲益頗多。

          書籍概覽

          本書共分 8 大部分、25 個章節(jié)。機(jī)器之心簡單摘取了部分章節(jié)的主要內(nèi)容,更多信息還請參閱原書籍。

          可微物理 

          本章主要分五個小節(jié):介紹可微物理、具有可微物理梯度的 Burgers 優(yōu)化、討論、可微流體模擬、可微分物理與 Physics-informed 訓(xùn)練。

          為了將深度學(xué)習(xí)和物理模擬更緊密的結(jié)合在一起,可以在學(xué)習(xí)過程中加入可微模擬,簡而言之,可稱之為可微物理(differentiable physics,DP)。這些方法旨在使用現(xiàn)有的數(shù)值求解器,并使其具備根據(jù)輸入計算梯度的功能。

          可微物理訓(xùn)練。

          為了說明在 DP 設(shè)置中計算梯度的過程,該小節(jié)目標(biāo)是針對相同的逆問題,使用 Physics-Informed NN 進(jìn)行 Burgers 優(yōu)化的 PINN 例子。

          此外,當(dāng)我們?yōu)?DP 方法選擇初始離散化時,未知初始狀態(tài)由相關(guān)物理場的采樣點(diǎn)組成,我們可以簡單地將這些未知表示為浮點(diǎn)變量。因此,即使對于初始狀態(tài),也不需要設(shè)置 NN。因此,Burgers 重建問題在用 DP 求解時簡化為一個基于梯度的優(yōu)化問題,沒有任何神經(jīng)網(wǎng)絡(luò)。

          接下來,本章還介紹了一個更復(fù)雜的示例,將 Navier-Stokes 方程作為物理模型。與「Navier-Stokes Forward Simulation」 一致,用來針對 2D 案例。

          DP 復(fù)雜示例 

          本章主要分四個小節(jié):復(fù)雜示例整體概覽;利用深度學(xué)習(xí)減少數(shù)值誤差、用神經(jīng)網(wǎng)絡(luò)求解逆問題以及概述和評論。

          本章給出了更復(fù)雜案例的代碼示例,以向讀者展示通過可微物理訓(xùn)練能夠?qū)崿F(xiàn)哪種任務(wù)。首先,本章展示了一個使用深度學(xué)習(xí)來表示數(shù)值模擬誤差的場景,遵循 Um 等人的建議。這是一項基本任務(wù),需要學(xué)習(xí)模型與數(shù)值求解器密切交互。因此,這是將數(shù)值求解器引入深度學(xué)習(xí)循環(huán)至關(guān)重要情況的一個主要例子。

          接下來,本章展示了如何讓神經(jīng)網(wǎng)絡(luò)解決棘手的逆問題,即 Navier-Stokes 模擬的長期控制問題,遵循 Holl 等人研究。這項任務(wù)需要長期規(guī)劃,因此需要兩個網(wǎng)絡(luò),一個用于預(yù)測演變過程,另一個用于實(shí)現(xiàn)預(yù)期目標(biāo)。

          粗糙和參考流形的視覺概述

          強(qiáng)化學(xué)習(xí)

          本章主要分兩個小節(jié):強(qiáng)化學(xué)習(xí)概述、用強(qiáng)化學(xué)習(xí)控制伯格斯方程(Burgers equation)。

          深度強(qiáng)化學(xué)習(xí)(DRL)是深度學(xué)習(xí)領(lǐng)域中的一類方法,它可以讓人工智能體與周圍環(huán)境進(jìn)行交互。在執(zhí)行此操作過程中,智能體接收其行為獎勵信號,并嘗試辨別哪些行為有助于獲得更高的獎勵,從而相應(yīng)地調(diào)整自身行為。強(qiáng)化學(xué)習(xí)在圍棋等游戲方面非常成功,并且在機(jī)器人技術(shù)等工程應(yīng)用方面也非常重要。

          RL 的設(shè)置通常由兩部分組成:環(huán)境和智能體。環(huán)境從智能體接收動作 a,同時以狀態(tài) s 的形式向 a 提供觀察,并獎勵 r。觀察結(jié)果代表了智能體能夠感知來自各個環(huán)境狀態(tài)的信息的一部分。獎勵是由預(yù)定義的函數(shù)提供的,通常是根據(jù)環(huán)境量身定制的,可能包括游戲分?jǐn)?shù)、錯誤行為的懲罰或成功完成任務(wù)的獎勵。

          強(qiáng)化學(xué)習(xí)、環(huán)境與智能體相互影響

          本小節(jié)將 Burgers 方程的逆問題作為強(qiáng)化學(xué)習(xí) (RL) 的實(shí)驗平臺。該設(shè)置類似于針對可微物理 (DP) 訓(xùn)練的逆問題。與之前類似,Burgers 方程簡單但非線性,具有有趣的動力學(xué),因此是 RL 實(shí)驗的良好起點(diǎn)。本小節(jié)目標(biāo)是訓(xùn)練一個控制力估計器網(wǎng)絡(luò),該網(wǎng)絡(luò)應(yīng)該預(yù)測在兩個給定狀態(tài)之間產(chǎn)生平滑過渡所需的力。

          可微物理方法似乎比 RL 智能體產(chǎn)生更少的噪聲軌跡,而兩者都設(shè)法近似真值

           PBDL 和不確定性

          本章主要分兩個小節(jié):后驗推理介紹、RANS Airfoil Flows 與貝葉斯神經(jīng)網(wǎng)絡(luò)。

          所有的測量、模型和離散化,都有其不確定性。對于測量,通常以測量誤差的形式出現(xiàn)。另一方面,模型方程通常只包含我們感興趣的一部分(剩余部分是不確定性的),而對于數(shù)值模擬,則引入了離散化誤差。所以這里要問的一個非常重要的問題是,我們?nèi)绾尾拍艽_保我們得到的答案是正確的。從統(tǒng)計學(xué)家的角度來看,后驗概率分布捕獲了我們對模型或數(shù)據(jù)可能存在不確定性的一些信息。

          書籍完整目錄如下:



          往期精彩:

           時隔一年!深度學(xué)習(xí)語義分割理論與代碼實(shí)踐指南.pdf第二版來了!

           我工作第五年的學(xué)習(xí)與讀書之法

          瀏覽 61
          點(diǎn)贊
          評論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報
          評論
          圖片
          表情
          推薦
          點(diǎn)贊
          評論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  天堂a 中文在线 | 亚洲男人的天堂在线观看 | 日本调教视频 | 精品亲子伦一区二区三区小说国产 | 看毛片网站|