點擊下方“AI算法與圖像處理”，一起進步！
重磅干貨，第一時間送達
物理知識和深度學習已經成為了解決現(xiàn)實問題的絕佳組合，但如何更有效地將物理模型引入深度學習領域缺少一個全面的綜述。慕尼黑工業(yè)大學計算機科學副教授 Nils Thuerey 團隊編寫的這本書籍對基于物理的深度學習展開了詳盡的介紹。
書籍地址：https://arxiv.org/pdf/2109.05237.pdf
項目地址：https://github.com/thunil/Physics-Based-Deep-Learning
網(wǎng)站地址：https://www.physicsbaseddeeplearning.org/diffphys-examples.html
文如書名，《基于物理的深度學習》（Physics-based Deep Learning）介紹了物理建模、數(shù)值模擬與基于人工神經網(wǎng)絡方法的結合?；谖锢淼纳疃葘W習代表了一個非?；钴S、快速發(fā)展和令人興奮的研究領域。就內容而言，本書對物理模擬背景下與深度學習相關的所有內容展開了非常全面的介紹。并且，所有主題都以 Jupyter 筆記本的形式提供 hands-on 代碼示例，從而可以快速上手學習。除了基于數(shù)據(jù)的標準監(jiān)督學習之外，書籍作者還研究了物理損失約束、具有可微模擬的更緊密耦合的學習算法以及強化學習和不確定性建模。他們在書中表示，「我們生活在激動人心的時代，基于物理的 DL 方法具有從根本上改變計算機模擬可以實現(xiàn)的目標的巨大潛力?！?/span>以「數(shù)值模擬的時間序列」的視覺示例為例，本書將解讀如何實現(xiàn)使用神經網(wǎng)絡和數(shù)值求解器的算法。
書籍作者之一 Nils Thuerey 為慕尼黑工業(yè)大學副教授，他的主要研究興趣是「用于物理模擬的深度學習方法」。
從天氣和氣候預測，到量子物理學，再到等離子體聚變的控制，使用數(shù)值分析獲得物理模型的解決方案已經成為科研中必不可缺的一部分。近年來，機器學習（ML）技術，尤其深度神經網(wǎng)絡（DNN），在各個領域取得了令人矚目的成就：從圖像分類到自然語言處理以及最近的蛋白質折疊。深度學習（DL）方法的這些成功案例引起了廣泛關注，并認為相關技術有可能取代傳統(tǒng)的、模擬驅動的科學方法。舉例而言，最近的工作表明，基于神經網(wǎng)絡（NN）的智能體模型實現(xiàn)了現(xiàn)實世界工業(yè)應用（如翼型流）所需的準確度，同時在運行時間方面比傳統(tǒng)求解器高出幾個數(shù)量級。不依賴根據(jù)第一性原理精心制作的模型，是否可以通過處理足夠大規(guī)模的數(shù)據(jù)集來提供正確答案呢？在這一過程中，將經典數(shù)值算法與深度學習技術相結合至關重要。其中一個核心原因是深度學習方法非常強大，但同時又可以從物理模型領域知識中獲益匪淺。深度學習技術和神經網(wǎng)絡有時難以應用，而且將我們對物理過程的理解正確地整合到學習算法中通常也非易事。過去幾十年，研究社區(qū)已經開發(fā)出高度專業(yè)化和精確的離散化方案來求解基礎模型方程，如納維 - 斯托克斯方程（Navier-Stokes）、麥克斯韋方程組（Maxwell's equations）或薛定諤方程（Schroedinger ）。與其舍棄在數(shù)值數(shù)學領域已經開發(fā)的強大方法，本書將展示在應用深度學習技術時盡可能多地使用這些方法反而獲益頗多。本書共分 8 大部分、25 個章節(jié)。機器之心簡單摘取了部分章節(jié)的主要內容，更多信息還請參閱原書籍。本章主要分五個小節(jié)：介紹可微物理、具有可微物理梯度的 Burgers 優(yōu)化、討論、可微流體模擬、可微分物理與 Physics-informed 訓練。為了將深度學習和物理模擬更緊密的結合在一起，可以在學習過程中加入可微模擬，簡而言之，可稱之為可微物理（differentiable physics，DP）。這些方法旨在使用現(xiàn)有的數(shù)值求解器，并使其具備根據(jù)輸入計算梯度的功能。
為了說明在 DP 設置中計算梯度的過程，該小節(jié)目標是針對相同的逆問題，使用 Physics-Informed NN 進行 Burgers 優(yōu)化的 PINN 例子。此外，當我們?yōu)?DP 方法選擇初始離散化時，未知初始狀態(tài)由相關物理場的采樣點組成，我們可以簡單地將這些未知表示為浮點變量。因此，即使對于初始狀態(tài)，也不需要設置 NN。因此，Burgers 重建問題在用 DP 求解時簡化為一個基于梯度的優(yōu)化問題，沒有任何神經網(wǎng)絡。接下來，本章還介紹了一個更復雜的示例，將 Navier-Stokes 方程作為物理模型。與「Navier-Stokes Forward Simulation」 一致，用來針對 2D 案例。本章主要分四個小節(jié)：復雜示例整體概覽；利用深度學習減少數(shù)值誤差、用神經網(wǎng)絡求解逆問題以及概述和評論。本章給出了更復雜案例的代碼示例，以向讀者展示通過可微物理訓練能夠實現(xiàn)哪種任務。首先，本章展示了一個使用深度學習來表示數(shù)值模擬誤差的場景，遵循 Um 等人的建議。這是一項基本任務，需要學習模型與數(shù)值求解器密切交互。因此，這是將數(shù)值求解器引入深度學習循環(huán)至關重要情況的一個主要例子。接下來，本章展示了如何讓神經網(wǎng)絡解決棘手的逆問題，即 Navier-Stokes 模擬的長期控制問題，遵循 Holl 等人研究。這項任務需要長期規(guī)劃，因此需要兩個網(wǎng)絡，一個用于預測演變過程，另一個用于實現(xiàn)預期目標。
本章主要分兩個小節(jié)：強化學習概述、用強化學習控制伯格斯方程（Burgers equation）。深度強化學習（DRL）是深度學習領域中的一類方法，它可以讓人工智能體與周圍環(huán)境進行交互。在執(zhí)行此操作過程中，智能體接收其行為獎勵信號，并嘗試辨別哪些行為有助于獲得更高的獎勵，從而相應地調整自身行為。強化學習在圍棋等游戲方面非常成功，并且在機器人技術等工程應用方面也非常重要。RL 的設置通常由兩部分組成：環(huán)境和智能體。環(huán)境從智能體接收動作 a，同時以狀態(tài) s 的形式向 a 提供觀察，并獎勵 r。觀察結果代表了智能體能夠感知來自各個環(huán)境狀態(tài)的信息的一部分。獎勵是由預定義的函數(shù)提供的，通常是根據(jù)環(huán)境量身定制的，可能包括游戲分數(shù)、錯誤行為的懲罰或成功完成任務的獎勵。
本小節(jié)將 Burgers 方程的逆問題作為強化學習 (RL) 的實驗平臺。該設置類似于針對可微物理 (DP) 訓練的逆問題。與之前類似，Burgers 方程簡單但非線性，具有有趣的動力學，因此是 RL 實驗的良好起點。本小節(jié)目標是訓練一個控制力估計器網(wǎng)絡，該網(wǎng)絡應該預測在兩個給定狀態(tài)之間產生平滑過渡所需的力。
可微物理方法似乎比 RL 智能體產生更少的噪聲軌跡，而兩者都設法近似真值本章主要分兩個小節(jié)：后驗推理介紹、RANS Airfoil Flows 與貝葉斯神經網(wǎng)絡。所有的測量、模型和離散化，都有其不確定性。對于測量，通常以測量誤差的形式出現(xiàn)。另一方面，模型方程通常只包含我們感興趣的一部分（剩余部分是不確定性的），而對于數(shù)值模擬，則引入了離散化誤差。所以這里要問的一個非常重要的問題是，我們如何才能確保我們得到的答案是正確的。從統(tǒng)計學家的角度來看，后驗概率分布捕獲了我們對模型或數(shù)據(jù)可能存在不確定性的一些信息。
努力分享優(yōu)質的計算機視覺相關內容，歡迎關注：交流群
歡迎加入公眾號讀者群一起和同行交流，目前有美顏、三維視覺、計算攝影、檢測、分割、識別、醫(yī)學影像、GAN、算法競賽等微信群
請注明：地區(qū)+學校/企業(yè)+研究方向+昵稱
下載1：何愷明頂會分享
在「AI算法與圖像處理」公眾號后臺回復：何愷明，即可下載。總共有6份PDF，涉及 ResNet、Mask RCNN等經典工作的總結分析
下載2：終身受益的編程指南：Google編程風格指南
在「AI算法與圖像處理」公眾號后臺回復：c++，即可下載。歷經十年考驗，最權威的編程規(guī)范！
在「AI算法與圖像處理」公眾號后臺回復：CVPR，即可下載1467篇CVPR 2020論文 和 CVPR 2021 最新論文
