中國(guó)DPU行業(yè)發(fā)展白皮書(shū)（2021）
伴隨著數(shù)據(jù)中心的高速發(fā)展，通信能力和計(jì)算能力成為數(shù)據(jù)中心基礎(chǔ)設(shè)施中的兩個(gè)重要的發(fā)展方向。隨著網(wǎng)絡(luò)傳輸帶寬的增加，數(shù)據(jù)中心的計(jì)算資源被愈加復(fù)雜的基礎(chǔ)設(shè)施操作所占據(jù)，使得業(yè)務(wù)處理遭遇瓶頸。DPU的提出背景就是應(yīng)對(duì)數(shù)據(jù)中心的數(shù)據(jù)量和復(fù)雜性的指數(shù)級(jí)增長(zhǎng)帶來(lái)的性能瓶頸。DPU對(duì)數(shù)據(jù)中心來(lái)說(shuō)，是通過(guò)更明細(xì)的分工來(lái)實(shí)現(xiàn)效率的提升、實(shí)現(xiàn)總體系統(tǒng)的成本最優(yōu)化。
2021中國(guó)DPU行業(yè)發(fā)展白皮書(shū)?共分4章內(nèi)容，包括智能網(wǎng)卡的簡(jiǎn)介及趨勢(shì)分析、DPU的簡(jiǎn)介及分析、DPU產(chǎn)業(yè)分析及NVIDIA的DPU前景展望等。
第一章為智能網(wǎng)卡的簡(jiǎn)介及趨勢(shì)分析。該章節(jié)介紹了智能網(wǎng)卡的發(fā)展背景，并與通用網(wǎng)卡的框架做對(duì)比，介紹了網(wǎng)卡及智能網(wǎng)卡的技術(shù)差別，對(duì)比了各種智能網(wǎng)卡不同實(shí)現(xiàn)的技術(shù)要點(diǎn)，分析了智能網(wǎng)卡發(fā)展的優(yōu)劣勢(shì)，引出了DPU在數(shù)據(jù)中心的發(fā)展。
第二章為DPU的簡(jiǎn)介及分析，介紹了DPU的發(fā)展背景和DPU的定義，對(duì)DPU介紹并分析了其優(yōu)勢(shì)和未來(lái)技術(shù)發(fā)展路徑。并從NVIDIA BlueField-3 DPU產(chǎn)品技術(shù)特點(diǎn)、產(chǎn)業(yè)定位分析、技術(shù)優(yōu)勢(shì)分析、和技術(shù)對(duì)比等方面綜合介紹了NVIDIA BlueField-3 DPU產(chǎn)品技術(shù)情況。
第三章為DPU的產(chǎn)業(yè)宏觀分析，分別列舉出目前市場(chǎng)上主流產(chǎn)品的產(chǎn)品技術(shù)特點(diǎn)，分析了DPU行業(yè)的市場(chǎng)競(jìng)爭(zhēng)格局，概述了DPU應(yīng)用市場(chǎng)的發(fā)展現(xiàn)狀，研究了DPU行業(yè)的發(fā)展趨勢(shì)，展望了數(shù)據(jù)中心的未來(lái)前景。
第四章為NVIDIA DPU的前景分析，從結(jié)構(gòu)通用化、功能多樣化、應(yīng)用廣泛化，場(chǎng)景豐富化四個(gè)方面對(duì)NVIDIA DPU的前景進(jìn)行了相關(guān)分析與展望。
網(wǎng)卡（Network Interface Card，簡(jiǎn)稱(chēng)NIC）是將電腦接入局域網(wǎng)的設(shè)備，網(wǎng)卡插在計(jì)算機(jī)主板的總線插槽中，負(fù)責(zé)將用戶要傳遞的數(shù)據(jù)轉(zhuǎn)換為網(wǎng)絡(luò)設(shè)備能夠識(shí)別的格式，通過(guò)網(wǎng)絡(luò)介質(zhì)傳輸。
智能網(wǎng)卡（Smart NIC），也稱(chēng)智能網(wǎng)絡(luò)適配器，除了能完成標(biāo)準(zhǔn)網(wǎng)卡所具有的網(wǎng)絡(luò)傳輸功能之外，還提供內(nèi)置的可編程、可配置的硬件加速引擎，提升應(yīng)用的性能和大幅降低CPU在通信中的消耗，為應(yīng)用提供更多的CPU資源。例如，在高度虛擬化的環(huán)境中，主機(jī)CPU需要運(yùn)行OVS（Open Virtual Switch）相關(guān)任務(wù)，同時(shí)CPU還要處理存儲(chǔ)、數(shù)據(jù)包的在線加解密或離線加解密、數(shù)據(jù)包深度檢查、防火墻、復(fù)雜路由等操作，這些操作不僅消耗大量的CPU資源，同時(shí)由于不同業(yè)務(wù)之間的CPU資源爭(zhēng)奪，導(dǎo)致業(yè)務(wù)的性能不能發(fā)揮到最佳。
網(wǎng)卡作為連接各種業(yè)務(wù)的樞紐，在網(wǎng)卡上對(duì)于上述業(yè)務(wù)進(jìn)行加速，成為了最理想的場(chǎng)所。智能網(wǎng)卡的出現(xiàn)，為解決這個(gè)問(wèn)題提供了新的思路，我們可以通過(guò)智能網(wǎng)卡來(lái)將OVS操作從CPU卸載下來(lái)，并完成存儲(chǔ)加速、數(shù)據(jù)加密、深度包檢測(cè)和復(fù)雜路由等各種功能，將花費(fèi)在處理這些工作負(fù)載上的大量的CPU周期返回給主機(jī)CPU，同時(shí)解決了不同業(yè)務(wù)之間的沖突問(wèn)題，大幅提升了各項(xiàng)業(yè)務(wù)的性能，也確保了服務(wù)器CPU能為應(yīng)用提供最大的處理能力或者提供更多的虛擬機(jī)（VM）服務(wù)，創(chuàng)造更大的價(jià)值。?
網(wǎng)卡的架構(gòu)如圖所示，一個(gè)典型的NIC由一個(gè)處理網(wǎng)絡(luò)流量的處理器、一對(duì)處理數(shù)據(jù)移動(dòng)的DMA引擎和一個(gè)用于緩沖區(qū)和Doorbell的本地存儲(chǔ)器（通常是RAM）組成。
智能網(wǎng)卡是具有獨(dú)立的計(jì)算單元，能完成特定的基礎(chǔ)設(shè)施功能操作的網(wǎng)卡，如智能網(wǎng)卡可完成特定的重組加速、安全加速等操作，相對(duì)于普通網(wǎng)卡可以帶來(lái)較大的性能提升。智能網(wǎng)卡上的可編程ASIC或FPGA單元有可以運(yùn)行自定義軟件的計(jì)算層，計(jì)算層可以為網(wǎng)絡(luò)流量提供服務(wù)，并可以執(zhí)行特定網(wǎng)絡(luò)及數(shù)據(jù)中心基礎(chǔ)設(shè)施功能，還為外部網(wǎng)絡(luò)和服務(wù)器OS之間提供了額外的安全層（也就是將安全保障由ToR交換機(jī)轉(zhuǎn)移向了該設(shè)備）。
目前的智能網(wǎng)卡有ASIC、FPGA和片上系統(tǒng)（SoC）三種實(shí)現(xiàn)。
不同實(shí)現(xiàn)方式的智能網(wǎng)卡在成本、編程的簡(jiǎn)易性和靈活性方面存在各種權(quán)衡。ASIC非常具有成本效益，可以提供最佳的性?xún)r(jià)比，但它的靈活性受ASIC中定義的功能的限制。
基于FPGA智能網(wǎng)卡則可以在可用邏輯門(mén)約束范圍內(nèi)，花費(fèi)足夠的時(shí)間和成本來(lái)相對(duì)有效地支持幾乎任何功能。但FPGA編程簡(jiǎn)易性較差且價(jià)格昂貴。對(duì)于更復(fù)雜的、更廣泛的用例，基于SoC（如NVIDIA的BlueField DPU）提供了最佳的智能網(wǎng)卡實(shí)施選項(xiàng)：良好的性?xún)r(jià)比、易于編程且高度靈活。
智能網(wǎng)卡為數(shù)據(jù)中心網(wǎng)絡(luò)提供了幾項(xiàng)重要優(yōu)勢(shì)，包括：
1) 對(duì)于運(yùn)營(yíng)大型數(shù)據(jù)中心的公共云服務(wù)提供商而言，智能網(wǎng)卡可以釋放CPU核來(lái)為最終用戶運(yùn)行業(yè)務(wù)應(yīng)用程序，從而可能實(shí)現(xiàn)更高的服務(wù)器利用率。
2) 各種基礎(chǔ)設(shè)施操作卸載。例如RDMA融合以太網(wǎng)(RoCE)、傳輸控制協(xié)議（TCP）、NVMeoF（NVMe-over-Fabrics）、互聯(lián)網(wǎng)安全協(xié)議（IPSec）、安全傳輸層協(xié)議（TLS）、深度報(bào)文檢測(cè)（DPI）、OVS（Open Virtual Switch）等。
3) 某些類(lèi)別的智能網(wǎng)卡是可編程的，可以針對(duì)廣泛的應(yīng)用程序進(jìn)行定制，并且可以重新組裝以滿足新的要求。
智能網(wǎng)卡并非沒(méi)有缺點(diǎn)，在智能網(wǎng)卡被更廣泛的采用之前，需要解決以下問(wèn)題：
1) 與標(biāo)準(zhǔn)網(wǎng)卡相比，智能網(wǎng)卡的價(jià)格顯著溢價(jià)。考慮到相同的端口速度，溢價(jià)可能會(huì)影響智能網(wǎng)卡的普及，尤其是在批量生產(chǎn)時(shí)需要降低價(jià)格。
2) 智能網(wǎng)卡的功耗較普通網(wǎng)卡高，一般20W~80W，隨著更多功能的集成，功耗也會(huì)越來(lái)越高。
3) 鑒于智能網(wǎng)卡上支持的功能越來(lái)越多，其可編程性和復(fù)雜性也越來(lái)越高，它們可能會(huì)消耗大量工程資源來(lái)進(jìn)行開(kāi)發(fā)和調(diào)試，從而導(dǎo)致實(shí)施時(shí)間長(zhǎng)且成本高。
基于以上考慮，主要的云服務(wù)提供商和網(wǎng)卡供應(yīng)商已經(jīng)基于不同的解決方案開(kāi)發(fā)了智能網(wǎng)卡：基于ARM的SoC、FPGA和定制ASIC。這些解決方案中的每一個(gè)都提供不同程度的卸載和可編程性， 本文中將會(huì)對(duì)于不同的實(shí)現(xiàn)進(jìn)行對(duì)比。
在智能網(wǎng)卡發(fā)展的過(guò)程中，NVIDIA將智能網(wǎng)卡升級(jí)為DPU（Data Processing Unit）。DPU延續(xù)了智能網(wǎng)卡的基本功能，并將通用工作任務(wù)做了加速處理。如圖4所示，相比智能網(wǎng)卡在數(shù)據(jù)層面上實(shí)現(xiàn)加速，DPU的最大的區(qū)別是能在實(shí)現(xiàn)智能網(wǎng)卡的功能的基礎(chǔ)之上實(shí)現(xiàn)控制面的加速。
隨著數(shù)據(jù)中心的高速發(fā)展，通信能力和計(jì)算能力成為數(shù)據(jù)中心基礎(chǔ)設(shè)施的相輔相成的兩個(gè)重要發(fā)展方向。若數(shù)據(jù)中心僅關(guān)注計(jì)算能力的提升，通信基礎(chǔ)設(shè)施的提升跟不上，那么數(shù)據(jù)中心的整體系統(tǒng)性能依然受限，無(wú)法發(fā)揮出真正的潛力。DPU的提出背景就是應(yīng)對(duì)這些數(shù)據(jù)量和復(fù)雜性的指數(shù)級(jí)增長(zhǎng)。未來(lái)，需要將計(jì)算移至接近數(shù)據(jù)的位置，這是目前業(yè)界所公認(rèn)的以數(shù)據(jù)為中心的體系結(jié)構(gòu)下的創(chuàng)新。綜上，DPU對(duì)數(shù)據(jù)中心來(lái)說(shuō)，是通過(guò)更明細(xì)的分工來(lái)實(shí)現(xiàn)效率的提升、實(shí)現(xiàn)總體系統(tǒng)的成本最優(yōu)化。
DPU（Data Processing Unit）市場(chǎng)仍處于百家爭(zhēng)鳴的早期發(fā)展階段，各家廠商定義略有不同。目前市場(chǎng)上主流的DPU定義是NVIDIA提出的，即DPU是集數(shù)據(jù)中心基礎(chǔ)架構(gòu)于芯片的通用處理器。它結(jié)合了：
1) 行業(yè)標(biāo)準(zhǔn)的、高性能及軟件可編程的多核CPU，通常基于已應(yīng)用廣泛的ARM架構(gòu)，與其它的SoC組件密切配合。
2) 高性能網(wǎng)絡(luò)接口，能以線速或網(wǎng)絡(luò)中的可用速度解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。
3) 各種靈活和可編程的加速引擎，可以卸載AI、機(jī)器學(xué)習(xí)、安全、電信和存儲(chǔ)等應(yīng)用，并提升性能。
4) 具備開(kāi)放性集成功能，未來(lái)支持更多功能集成。例如NVIDIA計(jì)劃未來(lái)在Bluefield-4產(chǎn)品中，將GPU集成至DPU中以完成數(shù)據(jù)中心的架構(gòu)的終極整合。
5) NVIDIA DPU的軟件開(kāi)發(fā)包DOCA，提供了統(tǒng)一的面向各種應(yīng)用的編程接口，讓用戶可以不用關(guān)注DPU的底層硬件接口而直接對(duì)硬件進(jìn)行編程。
DPU的出現(xiàn)實(shí)現(xiàn)了以數(shù)據(jù)為中心的業(yè)務(wù)和基礎(chǔ)設(shè)施操作的分離，大幅降低了業(yè)務(wù)的長(zhǎng)尾延時(shí)，對(duì)于實(shí)現(xiàn)安全的、裸性能的、云原生的下一代大規(guī)模計(jì)算至關(guān)重要。
DPU將基礎(chǔ)設(shè)施任務(wù)從CPU轉(zhuǎn)移至DPU，釋放CPU的資源，使更多的服務(wù)器CPU核可用于運(yùn)行應(yīng)用程序，完成業(yè)務(wù)計(jì)算，從而提高服務(wù)器和數(shù)據(jù)中心的效率。如通過(guò)在DPU上運(yùn)行OVS，使業(yè)務(wù)域和基礎(chǔ)設(shè)施域分離，實(shí)現(xiàn)VM和VM間的高效安全通信，如圖6所示，傳統(tǒng)應(yīng)用場(chǎng)景中會(huì)使用CPU來(lái)執(zhí)行OVS操作，其效率較低，消耗CPU核較多，且VM之間的通訊延時(shí)較長(zhǎng)。Red Hat在部署了DPU后，用DPU來(lái)執(zhí)行同樣的OVS操作，其效率大幅提升，幾乎不消耗CPU核，VM之間的通訊延時(shí)也得到了大幅縮減，大幅減少了長(zhǎng)尾延時(shí)，從而提升了應(yīng)用的性能。
DPU針對(duì)云原生環(huán)境進(jìn)行了優(yōu)化，提供數(shù)據(jù)中心級(jí)的軟件定義和硬件加速的網(wǎng)絡(luò)、存儲(chǔ)、安全和管理等服務(wù)。如圖7所示，紅帽Red Hat的容器化云平臺(tái)即服務(wù)（PaaS）OpenShift上，借助DPU優(yōu)化數(shù)據(jù)中心資源利用率，將網(wǎng)絡(luò)相關(guān)的數(shù)據(jù)處理（如VxLan和IPSec等）卸載到DPU加速執(zhí)行，在25Gb/s網(wǎng)絡(luò)條件下，OpenShift部署DPU用來(lái)加速，可以只用1/3的CPU占用了來(lái)達(dá)到25Gb/s性能，而在100Gb/s網(wǎng)絡(luò)條件下，未部署DPU的場(chǎng)景將達(dá)不到100Gb/s網(wǎng)絡(luò)線速，DPU可以帶來(lái)10倍的性能優(yōu)勢(shì)。
零信任（Zero Trust）是一種以安全性為中心的模型，其基于以下思想：企業(yè)不應(yīng)對(duì)其內(nèi)外的任何事物授予默認(rèn)信任選項(xiàng)。零信任可以減少數(shù)據(jù)泄露、拒絕未授權(quán)的訪問(wèn)，因此在數(shù)據(jù)安全方面價(jià)值巨大。DPU可以為企業(yè)提供零信任保護(hù)，通過(guò)將控制平面由主機(jī)下放到了DPU，實(shí)現(xiàn)主機(jī)業(yè)務(wù)和控制平面的完全隔離，數(shù)據(jù)將無(wú)法進(jìn)行穿透，保證安全性。DPU的出現(xiàn)相當(dāng)于為每個(gè)服務(wù)器配備了一臺(tái)“計(jì)算機(jī)前的計(jì)算機(jī)”以提供獨(dú)立、安全的基礎(chǔ)設(shè)施服務(wù)，并與服務(wù)器應(yīng)用域安全隔離。如果主機(jī)遭受入侵，安全控制代理與被入侵主機(jī)之間的DPU隔離層可防止攻擊擴(kuò)散至整個(gè)數(shù)據(jù)中心。這樣DPU就解決了企業(yè)不愿直接在計(jì)算平臺(tái)上部署安全代理的情況。通過(guò)在完全隔離于應(yīng)用程序域的DPU上部署安全代理，企業(yè)不僅能獲得對(duì)應(yīng)用程序工作負(fù)載的可見(jiàn)性，還能在其基礎(chǔ)設(shè)施中執(zhí)行一致的安全策略。
DPU的BlueField SNAP技術(shù)方案通過(guò)在服務(wù)器系統(tǒng)的數(shù)據(jù)入口處引入計(jì)算資源，在DPU上獨(dú)立實(shí)現(xiàn)面對(duì)應(yīng)用需求的存儲(chǔ)方案，幫助存儲(chǔ)廠商在數(shù)據(jù)中心中低成本地靈活部署、升級(jí)高級(jí)存儲(chǔ)協(xié)議，而完全不需要對(duì)現(xiàn)有軟件棧進(jìn)行任何更改。
存儲(chǔ)廠商可以把自家團(tuán)隊(duì)為各行業(yè)應(yīng)用開(kāi)發(fā)的開(kāi)放系統(tǒng)的直連式存儲(chǔ)(DAS)、縱向擴(kuò)展（Scale-UP）、橫向擴(kuò)展（Scale-OUT）、超融合架構(gòu)（Hyperconverged）等存儲(chǔ)解決方案，零開(kāi)銷(xiāo)地推廣到各個(gè)應(yīng)用領(lǐng)域的現(xiàn)有業(yè)務(wù)處理平臺(tái)和數(shù)據(jù)中心基礎(chǔ)架構(gòu)中，而所有的安全加密、數(shù)據(jù)壓縮、負(fù)載均衡等復(fù)雜又必須的功能則完全由DPU透明地卸載。存儲(chǔ)行業(yè)的革新算法和實(shí)現(xiàn)，可以在DPU架構(gòu)中，獨(dú)立于服務(wù)器操作系統(tǒng)進(jìn)行部署。DPU技術(shù)幫助存儲(chǔ)廠商實(shí)現(xiàn)真正的“算存分離”，完全發(fā)揮自家產(chǎn)品的技術(shù)優(yōu)勢(shì)，打通最高效服務(wù)應(yīng)用需求的通路。
目前DPU以數(shù)據(jù)為中心作為計(jì)算架構(gòu)，能針對(duì)數(shù)據(jù)中心的安全、網(wǎng)絡(luò)、存儲(chǔ)、AI、HPC等業(yè)務(wù)進(jìn)行加速。從DPU概念的提出者NVIDIA的現(xiàn)有技術(shù)發(fā)展趨勢(shì)來(lái)看，未來(lái)的技術(shù)發(fā)展趨勢(shì)將會(huì)是高度集成化的片上數(shù)據(jù)中心的模式（Data Center Infrastructure on a chip），即一個(gè)GPU、CPU、DPU共存的時(shí)代。
NVIDIA布局的數(shù)據(jù)中心從核心到邊緣（Edge）都采用了統(tǒng)一的一個(gè)計(jì)算架構(gòu)——CPU、GPU、DPU，如圖所示，形成了“3U”一體架構(gòu)。3U一體的統(tǒng)一計(jì)算單元架構(gòu)將會(huì)讓管理程序、調(diào)度程序都會(huì)變得非常容易。通過(guò)CPU、GPU、DPU之間的協(xié)調(diào)計(jì)算，可以在數(shù)據(jù)中心和邊緣端都可以達(dá)到高性能與高安全性。
更多DPU行業(yè)分析，請(qǐng)參閱白皮書(shū)《2021中國(guó)DPU行業(yè)發(fā)展白皮書(shū)》。本白皮書(shū)內(nèi)容共分4章內(nèi)容，包括智能網(wǎng)卡的簡(jiǎn)介及趨勢(shì)分析、DPU的簡(jiǎn)介及分析、DPU產(chǎn)業(yè)分析及NVIDIA的DPU前景展望等。
下載鏈接：
2021中國(guó)DPU行業(yè)發(fā)展白皮書(shū)?
ARM系列處理器應(yīng)用技術(shù)完全手冊(cè)
來(lái)源：智能計(jì)算芯世界
轉(zhuǎn)載申明：轉(zhuǎn)載本號(hào)文章請(qǐng)注明作者和來(lái)源，本號(hào)發(fā)布文章若存在版權(quán)等問(wèn)題，請(qǐng)留言聯(lián)系處理，謝謝。
推薦閱讀
更多架構(gòu)相關(guān)技術(shù)知識(shí)總結(jié)請(qǐng)參考“架構(gòu)師全店鋪技術(shù)資料打包”相關(guān)電子書(shū)(37本技術(shù)資料打包匯總詳情可通過(guò)“閱讀原文”獲取)。
全店內(nèi)容持續(xù)更新，現(xiàn)下單“全店鋪技術(shù)資料打包(全)”，后續(xù)可享全店內(nèi)容更新“免費(fèi)”贈(zèng)閱，價(jià)格僅收198元(原總價(jià)350元)。
溫馨提示：
掃描二維碼關(guān)注公眾號(hào)，點(diǎn)擊閱讀原文鏈接獲取“架構(gòu)師技術(shù)全店資料打包匯總(全)”電子書(shū)資料詳情。
