多樣性算力技術(shù)愿景白皮書（附鏈接）
隨著5G、人工智能、云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)等新一代信息技術(shù)在各行各業(yè)廣泛應(yīng)用并取得加 速突破，人類社會已經(jīng)迎來了數(shù)字經(jīng)濟時代。萬物互聯(lián)產(chǎn)生各種各樣的數(shù)據(jù)，數(shù)據(jù)成為勞動、資 本、土地和技術(shù)之外的第5個生產(chǎn)要素，圍繞數(shù)據(jù)分析處理的算力成為新的生產(chǎn)力。行業(yè)應(yīng)用的 多樣性帶來數(shù)據(jù)和算力的多樣性，沒有一種計算架構(gòu)可以高效滿足所有業(yè)務(wù)訴求。計算密集型應(yīng) 用需要計算平臺執(zhí)行邏輯復(fù)雜的調(diào)度任務(wù)，而數(shù)據(jù)密集型應(yīng)用則需要高效率地完成海量數(shù)據(jù)并發(fā) 處理，這使得單一計算平臺難以適應(yīng)業(yè)務(wù)要求，計算多樣性成為必然。
本文來自“多樣性算力技術(shù)愿景白皮書”，白皮書內(nèi)容包括多樣性算了現(xiàn)狀、發(fā)展趨勢、挑戰(zhàn)、ARM發(fā)展策略和方案等方面，下載鏈接：多樣性算力技術(shù)愿景白皮書
傳統(tǒng)CPU架構(gòu)強調(diào)高性能單核處理能力，雖能兼容大量指令，但在AI或高計算力需求下，計算 任務(wù)執(zhí)行效率較低，功耗較高不符合綠色節(jié)能的發(fā)展趨勢。以ARM為代表的RISC流派CPU稱雄 智能終端側(cè)市場。隨著消費側(cè)技術(shù)迭代的快周期，ARM在工藝制程取得領(lǐng)先，并在多核并發(fā)、高 吞吐等方面優(yōu)勢明顯，迅速拓展到數(shù)據(jù)中心、PC、HPC等應(yīng)用場景。與此同時，MIPS架構(gòu)推出 了多款面向桌面應(yīng)用的產(chǎn)品，基于Alpha架構(gòu)的中國超級計算拿下多個世界第一，RISC-V的單板 計算機在2021年年初面世。不同計算架構(gòu)齊頭并進，行業(yè)呈現(xiàn)出百花齊放的狀態(tài)。
一個成熟的計算產(chǎn)業(yè)，需要豐富多元的軟硬件供應(yīng)體系，并制定芯片、整機、軟件等不同層次 一致性的規(guī)范來發(fā)揮產(chǎn)業(yè)規(guī)模效應(yīng)，需要便于應(yīng)用適配和遷移的工具促進應(yīng)用發(fā)展，需要客觀中 立衡量性能的“標(biāo)尺”牽引技術(shù)提升，形成生態(tài)型產(chǎn)業(yè)布局。本白皮書從需求角度，探究國內(nèi)多 樣性算力發(fā)展的現(xiàn)狀和問題，以ARM為例，基于電信行業(yè)需求，提出技術(shù)發(fā)展策略建議，并闡述 電信行業(yè)引入多樣性算力的具體方案和步驟，為業(yè)界提供最佳實踐參考。我們呼吁凝聚行業(yè)力 量，以面向?qū)嶋H應(yīng)用為導(dǎo)向，同心協(xié)力，為世界算力提供更多選擇。
過去十年云計算技術(shù)向各行各業(yè)不斷滲透，直接帶動了數(shù)據(jù)中心建設(shè)的蓬勃發(fā)展，根據(jù)Synergy Research Group發(fā)布的數(shù)據(jù)顯示 ，截至2020年上半年，全球已建成超大型數(shù)據(jù)中心541個，相 比2015年增長了超過一倍。服務(wù)器作為數(shù)據(jù)中心提供算力的計算底座，其出貨量近幾年也一直呈 穩(wěn)定上升趨勢，據(jù)IDC報告顯示 ，2020年上半年全球服務(wù)器出貨量達到了580萬臺。
按照芯片的組成，計算方式可以分為同構(gòu)計算和異構(gòu)計算。例如，由CPU提供算力的通用服務(wù)器 為同構(gòu)計算。CPU作為通用服務(wù)器中最核心的部件，負(fù)責(zé)指令讀取、譯碼和執(zhí)行。CPU指令集可 以分為兩類：復(fù)雜指令集（CISC）和精簡指令集（RISC）。
復(fù)雜指令集以x86架構(gòu)為主，通過可 實現(xiàn)復(fù)雜功能的指令和靈活多樣的編碼方式來提高程序的運行速度；精簡指令集出現(xiàn)在復(fù)雜指令 集之后，主要有ARM架構(gòu)、MIPS架構(gòu)和Alpha架構(gòu)等，精簡指令集采用等長的指令，將一條指令 分割成若干個進程或者線程，交給不同的處理器并行處理，效率較高，工藝相對簡單且成本低。復(fù)雜指令集（x86）憑借其多年來構(gòu)建的完善的生態(tài)體系，占據(jù)了超過99.5%的市場份額，其代表 廠商是Intel和AMD。
分析機構(gòu)Mercury Research公布的2019年全球x86架構(gòu)處理器市場數(shù)據(jù)顯 示 ，Intel份額為95.5%，AMD依靠霄龍(EPYC)處理器的上市，市場份額逐年增加，達到了 4.5%。x86架構(gòu)的國內(nèi)廠商主要有海光和兆芯。精簡指令集主要用于智能手機和嵌入式市場，長 期以來由ARM占據(jù)著絕大多數(shù)的市場份額。
在ARM v8推出后，其市場不再局限于嵌入式和移動領(lǐng)域，高性能計算、服務(wù)器和桌面也都成為其重要拓展方向。近幾年來，在ARM及其生態(tài)合作伙 伴的共同努力下，ARM服務(wù)器市場逐漸興起，特別是在中國，國產(chǎn)的ARM服務(wù)器加速發(fā)展。精簡 指令集國外代表廠商有Ampere（ARM）和Marvell（ARM），國內(nèi)廠商則有華為鯤鵬 （ARM）、飛騰（ARM）、龍芯（MIPS）和申威（Alpha）。
在國家對集成電路產(chǎn)業(yè)優(yōu)惠政策和產(chǎn)業(yè)基金等扶持下，近幾年國內(nèi)培育出了一批國產(chǎn)CPU設(shè)計單 位和研究機構(gòu)，產(chǎn)品覆蓋了高性能計算、桌面、移動和嵌入式等多種應(yīng)用場景。國產(chǎn)CPU研發(fā)絕 大多數(shù)都是采用同國外合作的方式，主要途徑包括購買指令集授權(quán)、技術(shù)合作等。
x86陣營的海光 和兆芯，通過技術(shù)合作獲得架構(gòu)授權(quán)。海光通過和AMD合作，獲得x86指令集架構(gòu)的授權(quán)和AMD Naples的IP授權(quán)，以及CPU設(shè)計的全部接近2000萬行源代碼。基于AMD的Zen1核心架構(gòu)開發(fā)了 海光第一代CPU，采用14nm工藝，支持32核，支持超線程技術(shù)，主頻最高3.2GHz，性能和AMD 的Naples相當(dāng)，同時具備與x86生態(tài)的良好兼容性，目前基于海光自研全新微架構(gòu)設(shè)計的海光第 二代CPU已量產(chǎn)，第三代CPU也即將于2021年中量產(chǎn)。目前海光CPU已經(jīng)大量應(yīng)用于電信、金 融、能源、交通、教育等關(guān)鍵信息基礎(chǔ)設(shè)施領(lǐng)域。
兆芯通過威盛獲得x86授權(quán)，產(chǎn)品線有面向桌 面/嵌入式的“開先”和面向服務(wù)器的“開勝”兩大產(chǎn)品系列，其中最新的桌面處理器KX-6000系 列，基于16nm工藝，支持8核，主頻3GHz，但是與國外高端CPU存在一定差距。
ARM陣營的華 為和飛騰，購買ARM指令集架構(gòu)授權(quán)，自行編寫代碼并設(shè)計芯片，掌握了完整的知識產(chǎn)權(quán)和技 術(shù)。其中，飛騰于2020年7月發(fā)布的面向服務(wù)器的騰云S2500，基于16nm工藝，具有64個自主 核，支持2-8路CPU互聯(lián)，主頻 2.1GHz。華為服務(wù)器芯片鯤鵬920，支持64核，主頻2.6GHz，采 用了先進的7nm工藝，在服務(wù)器CPU市場上具備較強的競爭力，目前已有12家整機廠商基于鯤鵬 主板推出自有品牌的服務(wù)器。
除此以外，龍芯采用MIPS架構(gòu)，推出的3A/3B 3000產(chǎn)品，主要面 向桌面應(yīng)用。申威采用Alpha架構(gòu)，開發(fā)了大量自主知識產(chǎn)權(quán)的指令集，處理器芯片也不斷更新演 進，幫助中國的超級計算機拿下多次世界第一。從整體上看，國產(chǎn)CPU芯片產(chǎn)品線相對豐富，不 同架構(gòu)齊頭并進，處于百花齊放狀態(tài)，但也意味著國產(chǎn)CPU的生態(tài)體系需要持續(xù)完善。
相較于同構(gòu)計算，得益于人工智能、大數(shù)據(jù)、VR/AR等新興應(yīng)用的快速涌現(xiàn)，以GPU、FPGA等 為代表的異構(gòu)計算模式也在快速發(fā)展。異構(gòu)計算是CPU、ASIC、GPU、FPGA等各種使用不同指 令集、不同體系架構(gòu)的計算單元，在一個混合系統(tǒng)下執(zhí)行計算的特殊方式。在這種組合下，CPU 扮演著指揮統(tǒng)籌和核心控制的角色，與GPU、FPGA等協(xié)處理器相互配合實現(xiàn)高效的并行處理。當(dāng) 前，協(xié)處理器的通用性較低，針對不同場景，主要有以下幾種類型：
GPU（Graphics Processing Unit）主要適用于人工智能和圖像處理相關(guān)場景。典型的人工智能 類應(yīng)用有高性能計算、訓(xùn)練、推理等，圖像處理類應(yīng)用有視頻圖像渲染、云AR/VR、云游戲等。目前，全球主要獨立GPU顯卡生產(chǎn)廠家有Nvidia、AMD和Intel。其中，Nvidia在人工智能及圖 像處理領(lǐng)域產(chǎn)品布局全面，性能、生態(tài)良好，占有全球70-90%的市場份額（數(shù)據(jù)來源：前瞻產(chǎn) 業(yè)研究院） ；AMD擁有較豐富產(chǎn)品，性能和生態(tài)略差；Intel的獨立顯卡產(chǎn)品處于起步階段。
NPU（Neural-network Processing Unit）主要適用于推理、訓(xùn)練場景。目前，全球主要獨立 NPU卡生產(chǎn)廠家有華為和寒武紀(jì)等。華為NPU卡在智慧鋼鐵（如鋼鐵表面質(zhì)檢）、工業(yè)視覺（如 缺陷檢測）等領(lǐng)域有一定量的應(yīng)用。寒武紀(jì)NPU卡主要應(yīng)用在機器視覺（如圖像分類、檢測）、 語音識別、自然語言（如智能客服）、搜索推薦等場景。
FPGA（Field Programming Gate Array，現(xiàn)場可編程邏輯門陣列）是由邏輯門電路組合成的 可重復(fù)編程器件，在數(shù)據(jù)中心、通信、航空、國防等有較高并行計算需求的領(lǐng)域有廣泛應(yīng)用。FPGA應(yīng)用對開發(fā)人員要求較高，需要了解底層硬件知識，目前FPGA廠家為了降低開發(fā)門檻，在 不斷優(yōu)化開發(fā)平臺，以期使FPGA開發(fā)更加快速、便捷。美國廠家Xilinx和Intel占據(jù)了90%左右的 市場份額[5]，國內(nèi)廠家主要有紫光同創(chuàng)、廣東高云和復(fù)旦微電子等。
2.2 多樣性算力發(fā)展驅(qū)動
前端移動化和后端集群化逐漸成為當(dāng)前信息技術(shù)發(fā)展的兩大主流趨勢。一方面信息技術(shù)發(fā)展已 經(jīng)從桌面互聯(lián)網(wǎng)時代進入了移動互聯(lián)網(wǎng)時代，并逐步向萬物互聯(lián)時代演進，桌面終端適應(yīng)移動場 景成為大勢所趨，因此芯片生態(tài)能否擁抱移動互聯(lián)甚至萬物互聯(lián)將成為未來能否獲得用戶和市場 的關(guān)鍵。另一方面，隨著各行業(yè)信息系統(tǒng)建設(shè)模式逐步向云端遷移，云端集中承擔(dān)了海量的信息 處理需求，這對云端服務(wù)器、存儲、網(wǎng)絡(luò)、安全設(shè)備等的運算性能提出了更高要求，同時出于成 本考慮，也對芯片的單位功耗下的算力要求不斷提升。
傳統(tǒng)CPU架構(gòu)更注重單核性能，堅持性能 和速度的發(fā)展方向與模式，然而隨著摩爾定律遇到瓶頸，分布式數(shù)據(jù)庫、大數(shù)據(jù)、Web前端等高 并發(fā)應(yīng)用場景逐漸廣泛部署，以ARM或其他偏重多核并行的CPU架構(gòu)優(yōu)勢愈加明顯，功耗上也表 現(xiàn)更優(yōu)，從而帶動眾多芯片廠商和云巨頭紛紛布局基于多核ARM架構(gòu)的系列產(chǎn)品。
計算是生態(tài)型的產(chǎn)業(yè)，離不開全球分工合作，但是受外部環(huán)境影響，供應(yīng)鏈安全存在著不確定 性。當(dāng)前數(shù)據(jù)中心領(lǐng)域x86占據(jù)統(tǒng)治地位，為保障供應(yīng)鏈安全，多樣性計算產(chǎn)業(yè)加速發(fā)展。我國 發(fā)展處理器首先需獲取指令集授權(quán)，以華為海思以及天津飛騰為代表的ARM芯片廠商，均已獲得 了ARMv8架構(gòu)的永久指令集授權(quán)。ARM架構(gòu)獨特的授權(quán)模式有利于構(gòu)建多樣性計算生態(tài)，ARM 架構(gòu)由ARM公司以IP對外授權(quán)的方式運營，合作伙伴獲得IP授權(quán)許可證，在IP授權(quán)形式下，芯片 設(shè)計公司可以直接拿到授權(quán)圖紙，研發(fā)周期大大縮短，同時可以結(jié)合自身需求開發(fā)出定制化的 CPU。
相較于傳統(tǒng)CPU架構(gòu)，ARM架構(gòu)開發(fā)難度低、設(shè)計自由度高、架構(gòu)授權(quán)允許自行開發(fā)核心 代碼，且ARM CPU芯片供應(yīng)商眾多，主流的服務(wù)器操作系統(tǒng)如Linux、Ubuntu和Debian對 ARM架構(gòu)支持的力度也在不斷增強，生態(tài)發(fā)展正在持續(xù)完善。同時，基于MIPs、Alpha等指令 集架構(gòu)，我國也有以龍芯、申威等為代表的廠商研發(fā)產(chǎn)品，龍芯和申威早期分別購買了MIPS指 令集架構(gòu)及Alpha指令集架構(gòu)的永久授權(quán)，目前主要在特定領(lǐng)域應(yīng)用。
數(shù)據(jù)中心算力平臺是系統(tǒng)性產(chǎn)品，隨著多樣性技術(shù)路線的引入和發(fā)展，各產(chǎn)品的兼容性問題更 加突出。無論哪一種算力的規(guī)模部署，均需要解決產(chǎn)業(yè)上下游組件的兼容性問題，并推動組件、 產(chǎn)品和解決方案的同步發(fā)展，提供有競爭力的服務(wù)器整機設(shè)計，降低OEM/ODM服務(wù)器開發(fā)成 本，繁榮整個產(chǎn)業(yè)鏈。
圍繞多樣性算力相關(guān)技術(shù)標(biāo)準(zhǔn)及評測標(biāo)準(zhǔn)制定，應(yīng)推動行業(yè)標(biāo)準(zhǔn)化、通用化，促進各產(chǎn)品兼容 性相關(guān)測試規(guī)范和標(biāo)準(zhǔn)的制定，并開展多樣性算力測試驗證促進產(chǎn)業(yè)鏈成熟。算力平臺的硬件、 固件、整機和基礎(chǔ)軟件廠商眾多，OS、BIOS和硬件 (CPU、其它組件)之間如果缺乏統(tǒng)一的接口 定義，OS就需要單獨適配不同廠商的固件和硬件，不僅適配的工作量大，還會由于軟硬件不同的 演進產(chǎn)生兼容性的問題。此外，如果沒有針對工具鏈和編譯器定義統(tǒng)一的接口，上層軟件為了進 行性能優(yōu)化就需要針對不同的系統(tǒng)，分別進行差異化的參數(shù)配置和調(diào)優(yōu)，在某個平臺上編譯構(gòu)建 的軟件，也無法在其他平臺上正常運行。
對于多樣性算力產(chǎn)品的研發(fā)、制造和使用的全生命周期場景，服務(wù)器系統(tǒng)管理能力標(biāo)準(zhǔn)也是產(chǎn) 業(yè)的迫切需求。隨著數(shù)據(jù)中心規(guī)模的擴展，用戶需要智能、高效、可擴展的管理架構(gòu)對服務(wù)器設(shè)備進行運維。服務(wù)器系統(tǒng)管理架構(gòu)的核心是BMC(基板管理控制器)，一方面，需要制定開放的硬 件管理接口（CPU、主板、外設(shè)、機箱等）和軟件管理接口（BIOS、OS、管理軟件等）來推動 各組件間的交互、兼容。另一方面，需要從產(chǎn)品層面規(guī)定服務(wù)器應(yīng)具備的系統(tǒng)管理功能、性能、 安全性等方面的要求，促進先進的服務(wù)器管理能力（故障精準(zhǔn)診斷，動態(tài)能耗管理，安全可信 等）、提升系統(tǒng)可靠性，滿足數(shù)據(jù)中心用戶的需求。通過定義服務(wù)器管理的接口規(guī)范，逐步建立 完善的標(biāo)準(zhǔn)體系，使生態(tài)系統(tǒng)的參與者能夠更好的協(xié)作。
因為業(yè)界現(xiàn)有基準(zhǔn)的設(shè)計開發(fā)過程缺少對ARM等多樣性算力平臺的充分考慮，在評價和基于評 價結(jié)果優(yōu)化多樣性算力平臺的性能時，存在與實際算力的偏差。亟需建立面向多樣性算力的開 放、中立、公正的性能評測基準(zhǔn)體系，并與應(yīng)用相結(jié)合，推動多樣性算力產(chǎn)業(yè)體系的持續(xù)進步。
近幾十年的全球化發(fā)展，在計算和通信等技術(shù)領(lǐng)域都構(gòu)建了緊密、協(xié)作的產(chǎn)業(yè)體系與應(yīng)用生態(tài) 體系。在全球環(huán)境日益不確定的背景之下，如何加強全球產(chǎn)業(yè)伙伴的合作，增進共享多樣性算力 產(chǎn)業(yè)規(guī)?；氖找?，對于全球從業(yè)者都提出了挑戰(zhàn)。
首先，在硬件角度，針對通用計算、AI計算、HPC等多種計算技術(shù)領(lǐng)域，服務(wù)器主要部件/器件 的正常供應(yīng)秩序受到影響，增加了產(chǎn)業(yè)鏈不確定性和業(yè)務(wù)正常開展的風(fēng)險。x86架構(gòu)以外，ARM 架構(gòu)的服務(wù)器供應(yīng)方正日趨完善，而其他計算平臺的服務(wù)器供應(yīng)方均不夠豐富，市場選擇少難以 滿足日益增長的市場需求。
其次，在應(yīng)用角度，由于指令集的差異，選用非x86處理器一般要進行應(yīng)用遷移。以ARM平臺 為例，C/C++/Go等編譯型語言開發(fā)的程序在從x86平臺遷移到ARM平臺時，需要進行重新編 譯。國產(chǎn)ARM生態(tài)經(jīng)由華為和飛騰的持續(xù)建設(shè)，已取得一定成效。其他計算平臺受限于技術(shù)路線 的影響力、OS和生態(tài)工具的支持力度等因素，在從端到云的生態(tài)建設(shè)上仍有不少差距。
供應(yīng)鏈不確定性帶來的硬件生態(tài)問題，大量應(yīng)用遷移帶來的軟件生態(tài)問題，都對多樣性算力產(chǎn) 業(yè)體系的發(fā)展提出了挑戰(zhàn)，考慮到當(dāng)前國內(nèi)各技術(shù)路線的發(fā)展情況，現(xiàn)階段面向數(shù)據(jù)中心領(lǐng)域建 議先收斂到相對成熟的ARM技術(shù)路線，后續(xù)再考慮其他多核CPU，促進多樣性算力產(chǎn)業(yè)的規(guī)模化效益。
《服務(wù)器研究框架合集》下載地址：服務(wù)器研究框架合集
1、華為鯤鵬生態(tài)研究框架
2、服務(wù)器研究框架
3、國產(chǎn)架構(gòu)服務(wù)器研究框架
4、服務(wù)器系列報告(計算篇)CPU平臺
下載鏈接：深度報告：RISC-V異構(gòu)IoT全新架構(gòu)
1、行業(yè)深度報告：GPU研究框架
2、信創(chuàng)產(chǎn)業(yè)研究框架
3、ARM行業(yè)研究框架
4、CPU研究框架
5、國產(chǎn)CPU研究框架
6、行業(yè)深度報告：GPU研究框架
國產(chǎn)基礎(chǔ)軟硬件：開源、遷移、上云，關(guān)鍵在生態(tài)
免責(zé)申明：本號聚焦相關(guān)技術(shù)分享，內(nèi)容觀點不代表本號立場，可追溯內(nèi)容均注明來源，發(fā)布文章若存在版權(quán)等問題，請留言聯(lián)系刪除，謝謝。
電子書<服務(wù)器基礎(chǔ)知識全解(終極版)>更新完畢，知識點深度講解，提供182頁完整版下載。
獲取方式：點擊“閱讀原文”即可查看PPT可編輯版本和PDF閱讀版本詳情。
溫馨提示：
請搜索“AI_Architect”或“掃碼”關(guān)注公眾號實時掌握深度技術(shù)分享，點擊“閱讀原文”獲取更多原創(chuàng)技術(shù)干貨。
