成人在线亚洲色图,色玖玖插person,亚洲综合色色,秋霞欧美性爱,思思热99在线视频,一级片乱伦,免费看黄色A,人人看人人搂人人摸

邊緣計算的概念是對位于應(yīng)用附近的服務(wù)器中的數(shù)據(jù)進行處理和分析。這一概念日益普及，并為成熟的電信提供商、半導(dǎo)體初創(chuàng)公司和新的軟件生態(tài)系統(tǒng)打開了新的市場。在過去的幾十年里，科技是如何融合在一起，使得這一全新領(lǐng)域得以開啟，以大數(shù)據(jù)為起點，借助現(xiàn)在存儲在大型數(shù)據(jù)中心的大量信息，可以對世界上的混亂情況進行分析，從而為消費者提供全新的價值。將這一概念與 IoT 相結(jié)合并與一切互聯(lián)互通，從咖啡杯到藥丸分配器、從煉油廠到造紙廠、從智能護目鏡到手表，為消費者帶來無限的價值。

然而許多人認為，物聯(lián)網(wǎng)在市場中并未發(fā)生預(yù)期的曲棍球棒增長曲線。除了特定的利基市場，IoT 的連通性并沒有帶來足夠的消費者價值。但在過去 5 年里，人工智能 (AI) 的技術(shù)進步已開始徹底改變各行各業(yè)，并改變連接能為消費者帶來多少價值的概念。這是一個非常令人振奮的時刻，因為市場可以看到大數(shù)據(jù)、IoT 和 AI 的組合帶來無限的潛力，但是我們才剛剛踏上這段漫長的旅程。有助于利用這種結(jié)合的一項最初進展，是邊緣計算的概念及其對未來技術(shù)路線圖的影響。

邊緣計算的概念可能不是革命性的，但其實現(xiàn)將是革命性的。這些實現(xiàn)將解決許多日益嚴重的問題，包括降低大型數(shù)據(jù)中心的能耗，提高專用數(shù)據(jù)的安全性，實現(xiàn)故障安全解決方案，降低信息存儲量和通信成本，以及通過降低延遲能力來開創(chuàng)新應(yīng)用。

然而什么是邊緣計算？如何使用邊緣計算，能為網(wǎng)絡(luò)帶來什么好處？要了解邊緣計算，我們需要了解推動其發(fā)展的因素，邊緣計算應(yīng)用的類型以及當今公司如何構(gòu)建和部署邊緣計算 SoC。

邊緣計算，邊緣云，霧計算，企業(yè)版

邊緣計算有很多術(shù)語，包括“邊緣云計算”和“霧計算”。邊緣計算這一概念通常被描述為，在本地服務(wù)器上運行的應(yīng)用，旨在將云進程移近終端設(shè)備。

傳統(tǒng)的“企業(yè)計算”使用方式與邊緣計算類似，但更傾向于準確地描述網(wǎng)絡(luò)功能，卻不一定描述計算的位置。Cisco 創(chuàng)造的霧計算與邊緣計算基本相同，盡管有許多人將霧計算定義為位于邊緣計算空間之上或之下的計算，甚至作為邊緣計算的一個子集來描述霧計算。

作為參考，端點設(shè)備和端點通常被稱為“邊緣設(shè)備”，以免與邊緣計算相混淆，并且這種劃分對于我們的討論很重要。邊緣計算可以采用多種形式，包括小型聚合器、本地服務(wù)器或微型數(shù)據(jù)中心。微型數(shù)據(jù)中心可以按區(qū)域分布在永久性甚或可移動的存儲容器中，這些存儲容器可以捆綁安裝在 18 輪卡車上。

邊緣計算的價值

傳統(tǒng)上，傳感器、攝像頭、麥克風(fēng)以及一系列不同的 IoT 和移動設(shè)備從其位置收集數(shù)據(jù)，并將數(shù)據(jù)發(fā)送到集中式數(shù)據(jù)中心或云。

到 2020 年，全世界會有超過 500 億1臺智能設(shè)備實現(xiàn)連接。這些設(shè)備每年將產(chǎn)生以澤字節(jié) (ZB) 計算的數(shù)據(jù)，到 2025 年將增長到 150 ZB 以上。

互聯(lián)網(wǎng)的骨干網(wǎng)旨在可靠地將設(shè)備彼此連接并與云連接，從而有助于確保數(shù)據(jù)包到達目的地。

但是，將所有這些數(shù)據(jù)發(fā)送到云會帶來一些重大問題。首先，150ZB 的數(shù)據(jù)會造成容量問題。其次，就能源、帶寬和計算能力而言，將大量數(shù)據(jù)從其原始位置傳輸?shù)郊惺綌?shù)據(jù)中心代價高昂。據(jù)估計，目前只有 12% 的數(shù)據(jù)獲得其持有公司執(zhí)行分析，而且只有 3% 的數(shù)據(jù)有助于產(chǎn)生有意義的結(jié)果（對于我們“環(huán)境數(shù)學(xué)家”來說，有 97% 的數(shù)據(jù)在收集和傳輸之后，就被浪費了）。該數(shù)據(jù)清楚地概括了需要處理的業(yè)務(wù)效率問題。第三，存儲、傳輸和分析數(shù)據(jù)能耗巨大，顯然需要找到一種有效的方法來降低成本和浪費。引入邊緣計算以在本地存儲數(shù)據(jù)，降低了傳輸成本；然而，消除數(shù)據(jù)浪費也需要有效率的技術(shù)，目前最主要的方法都寄希望于 AI 功能。因此，所有應(yīng)用中的大多數(shù)本地服務(wù)器都增加了 AI 功能，現(xiàn)在正在安裝的主要基礎(chǔ)設(shè)施是新型的低功耗邊緣計算服務(wù)器 CPU，它們以 GPU 和 ASIC 或一系列芯片的形式連接到 AI 加速 SoC。

除了解決容量、能源和成本問題外，邊緣計算還可以提高網(wǎng)絡(luò)可靠性，因為應(yīng)用可以在發(fā)生普遍的網(wǎng)絡(luò)中斷期間繼續(xù)運行。通過清除某些威脅配置文件（例如全局數(shù)據(jù)中心拒絕服務(wù) (DoS) 攻擊），可以提高安全性。

最后，邊緣計算一個最重要的方面是能夠為實時用例（例如虛擬現(xiàn)實商場和移動設(shè)備視頻緩存）提供低延遲的能力?？s減延遲將產(chǎn)生新的服務(wù)，使設(shè)備能夠在自動駕駛汽車、游戲平臺或具有挑戰(zhàn)性的快節(jié)奏制造環(huán)境中提供許多創(chuàng)新應(yīng)用。

推動拓展應(yīng)用的邊緣計算

5G 基礎(chǔ)架構(gòu)是邊緣計算最具說服力的驅(qū)動力之一。5G 電信提供商發(fā)現(xiàn)了在其基礎(chǔ)架構(gòu)之上提供服務(wù)的機會。除了傳統(tǒng)的數(shù)據(jù)和語音連接之外，5G 電信提供商還在構(gòu)建生態(tài)系統(tǒng)，以托管獨特的本地應(yīng)用。通過將服務(wù)器置于所有基站旁邊，蜂窩流量提供商可以向第三方主機應(yīng)用開放其網(wǎng)絡(luò)，從而改善帶寬和延遲。

Netflix 等流媒體服務(wù)通過其 Netflix Open Connect 計劃2已經(jīng)與本地 ISP 合作多年，以將高流量內(nèi)容托管在距離用戶更近的地方。借助 5G 的多接取邊緣計算 (MEC) 計劃，電信提供商發(fā)現(xiàn)了為流內(nèi)容、游戲和未來的新應(yīng)用提供類似服務(wù)的機會。電信提供商認為，他們可以付費服務(wù)的方式，向所有人開放此功能，讓需要較低延遲的任何人都可以為在邊緣而非在云中定位應(yīng)用支付額外的費用。

Credence Research 認為，到 2026 年，整個邊緣計算市場的價值將為 96 億美元左右。相比之下，Research and Markets 分析認為，移動邊緣計算市場將從今天的幾億美元增長到 2026 年的超過 27.7 億美元。盡管電信行業(yè)是最具聲望且可能是發(fā)展最快的增長動力，但是據(jù)估計，它們僅會占據(jù)邊緣計算市場總量的三分之一。這是因為 web scale、工業(yè)和企業(yè)集團也將為其傳統(tǒng)市場提供邊緣計算硬件、軟件和服務(wù)，期望邊緣計算也將開創(chuàng)新的應(yīng)用機遇。

大眾快餐店正朝著更加自動化的廚房發(fā)展，以確保食品質(zhì)量，減少員工培訓(xùn)，提高運營效率并確?？蛻趔w驗達到預(yù)期。Chick-fil-A 是一家連鎖快餐企業(yè)，它成功地使用了本地服務(wù)器將數(shù)百個傳感器和控制器與相對便宜的本地設(shè)備聚合在一起，這些本地設(shè)備在本地運行以防止任何網(wǎng)絡(luò)中斷。2018 年 Chick-Fil-A 博客3對此作了概括，宣稱：“通過提高廚房設(shè)備智能化，我們能夠收集更多數(shù)據(jù)。通過在我們的餐廳應(yīng)用數(shù)據(jù)，可以構(gòu)建更多智能系統(tǒng)。通過構(gòu)建更多智能系統(tǒng)，我們能夠進一步拓展業(yè)務(wù)?！?/em> 這篇博客進一步概述，在邊緣計算的幫助下，許多餐廳現(xiàn)在可以處理的業(yè)務(wù)量相當于最初計劃的三倍。

總體而言，成功的邊緣計算基礎(chǔ)架構(gòu)需要結(jié)合本地服務(wù)器計算功能、AI 計算功能以及與移動/汽車/IoT 計算系統(tǒng)的連接（圖 1）。

圖 1：邊緣計算通過使用微數(shù)據(jù)中心來分析和處理數(shù)據(jù)，從而使云計算過程更靠近終端設(shè)備。

邊緣計算用例——Microsoft HoloLens

為了解使用邊緣計算帶來的延遲改善優(yōu)勢，羅格斯大學(xué)和 Inria 使用 Microsoft HoloLens 4分析了邊緣計算（或稱“邊緣云”）的可擴展性和性能。

在用例中，HoloLens 讀取條形碼掃描儀，然后使用建筑物中的場景分割功能將用戶導(dǎo)航到指定房間，并在 Hololens 上顯示箭頭。該過程同時使用了映射坐標的小數(shù)據(jù)包和連續(xù)視頻的較大數(shù)據(jù)包，以驗證邊緣計算與傳統(tǒng)云計算相比延遲的改善。HoloLens 最初讀取二維碼，然后將映射坐標數(shù)據(jù)發(fā)送到邊緣服務(wù)器。該服務(wù)器使用了 4 個字節(jié)加上標頭，花費了 1.2 毫秒 (ms)。服務(wù)器找到坐標，并通知用戶該位置，總共耗時 16.22 ms。如果將同樣的數(shù)據(jù)包發(fā)送到云，則大約需要 80 ms（圖 2）。

圖 2：比較邊緣設(shè)備到云服務(wù)器與邊緣設(shè)備到邊緣云服務(wù)器的延遲。

同樣，他們測試了在使用 OpenCV 進行場景分割以將 Hololens 的用戶導(dǎo)航到適當位置時的延遲。HoloLens 以 30 fps 的速度流傳輸視頻，并在邊緣計算服務(wù)器中以 3.33 GHz 的頻率在配備 15GB RAM 的 Intel i7 CPU 上處理圖像。將數(shù)據(jù)流傳輸?shù)竭吘売嬎惴?wù)器需要 4.9 ms。處理 OpenCV 圖像額外花費了 37 ms，總計 47.7 ms。云服務(wù)器上的相同過程花費了將近 115 ms，清楚顯示了邊緣計算降低延遲的明顯優(yōu)勢。

該案例研究顯示了邊緣計算在降低延遲方面的顯著優(yōu)勢，但是有太多新技術(shù)可以在將來更好地實現(xiàn)低延遲。

5G 概述了當今延遲少于 1ms 的用例（圖 3），而 6G 已經(jīng)在討論將其降低到 10 微秒 (μs) 的問題。5G 和 Wi-Fi 6 會增加連接帶寬。5G 打算將帶寬提高到 10Gbps，而 Wi-Fi 6 已經(jīng)支持 2Gbps 帶寬。AI 加速器聲稱場景分割的時間少于 20μs，這與上述示例技術(shù)論文中引用的 Intel i7 CPU 在大約 20ms 內(nèi)處理每個幀的速度相比，有了顯著進步。

圖 3：與圖 2 中 10s 和 100s 的 Msps 相比，從 Hololens 到路由器以及從路由器到邊緣服務(wù)器的帶寬改善高達 10Gbps，另有 AI 處理的改進（從 20ms 改善到 20us），往返延遲 < 1ms。

顯然，如果邊緣計算表現(xiàn)出比云計算更具優(yōu)勢，將計算全都轉(zhuǎn)移到邊緣設(shè)備中不是最好的解決方案嗎？很不幸，目前并不是所有的應(yīng)用程序都是如此（圖 4）。在 HoloLens 案例研究中，數(shù)據(jù)使用的 SQL 數(shù)據(jù)庫太大，無法存儲在耳機中。今天的邊緣設(shè)備，特別是發(fā)生物理磨損的設(shè)備，沒有足夠的計算能力來處理大型數(shù)據(jù)集。除了計算能力之外，云或邊緣服務(wù)器上的軟件比邊緣設(shè)備上的軟件開發(fā)成本更低，因為云/邊緣軟件不需要壓縮到更小的內(nèi)存資源和計算資源中。

圖 4：比較云計算和邊緣計算與端點設(shè)備。

由于某些應(yīng)用程序可以根據(jù)我們基礎(chǔ)架構(gòu)不同位置的計算能力、存儲能力、存儲器可用性和延遲能力來合理地運行，因此無論是在云中、在邊緣服務(wù)器還是在邊緣設(shè)備中，都有一種趨勢來支持未來的混合計算能力（圖 5）。邊緣計算是全球混合計算基礎(chǔ)架構(gòu)的初步建立。

圖 5：安裝在 Hololens、邊緣服務(wù)器和云中的 AI，使混合計算架構(gòu)能夠根據(jù)應(yīng)用需求優(yōu)化計算、存儲器和存儲資源。

了解邊緣計算各部分

邊緣計算是指位置比云更靠近應(yīng)用的運算。但是，這是 300 英里，3 英里還是 300 英尺？在計算領(lǐng)域，云在理論上具有無限的內(nèi)存和無限的計算能力。在設(shè)備上，理論上只需有足夠的計算和內(nèi)存資源可以捕獲數(shù)據(jù)并將其發(fā)送到云即可。兩種理論均與事實稍有不符，但我們可以將其用作描述邊緣計算不同水平的方法。理論上，云計算資源越來越靠近端點設(shè)備或應(yīng)用，因而存儲、內(nèi)存和計算資源就會越來越少。這些資源消耗的功率也隨之降低了。靠近的好處不僅是可以降低功耗，而且可以降低延遲并提高效率。

在該空間中開始出現(xiàn)三種基本的邊緣計算架構(gòu)（圖 6）。首先，最接近傳統(tǒng)數(shù)據(jù)中心的是區(qū)域數(shù)據(jù)中心，這些數(shù)據(jù)中心是戰(zhàn)略性放置的云計算服務(wù)器群的微型版本，旨在減少延遲，同時卻維護所需的計算、存儲和內(nèi)存。許多企業(yè)和初創(chuàng)公司都在解決這個問題，但是專門為解決區(qū)域數(shù)據(jù)中心而設(shè)計的 SoC，與當今著重解決高性能計算 (HPC) 的傳統(tǒng)云計算解決方案幾乎沒有什么區(qū)別。

本地服務(wù)器和內(nèi)部服務(wù)器（第二個邊緣計算部分），是許多 SoC 解決方案用于解決邊緣計算的功耗和連接性需求的地方。如今，軟件也有大規(guī)模的商業(yè)化開發(fā)，尤其是采用了更靈活的平臺，能夠支持 Dockers 和 Kubernetes 之類的容器。前文描述的 Chick-Fil-A 示例就使用了 Kubernetes。對于半導(dǎo)體廠商而言，內(nèi)部服務(wù)器部分中最有趣的部分是在服務(wù)器 SoC 附近引入一種芯片組來處理所需的 AI 加速。顯然，傳統(tǒng)的 AI 加速器位于云計算場中，但略有不同的一類用于邊緣服務(wù)器 AI 加速器已經(jīng)被構(gòu)建出來，因為這是市場有望增長的地方，并且有機會在這一有前途的領(lǐng)域立足。

邊緣計算的第三部分包括旨在執(zhí)行有限功能的聚合器和網(wǎng)關(guān)，它們可能僅以最小的延遲和最低的功耗運行一個或幾個應(yīng)用。

這三個部分中的每一個都已定義為支持實際應(yīng)用。例如，麥肯錫在邊緣計算分析中已經(jīng)確定了 107 個用例4。ETSI 通過其分組規(guī)范 MES 002 v.2.1.1 為 5G MEC 定義了超過 35 個用例，包括游戲、服務(wù)級別協(xié)議、視頻緩存、虛擬現(xiàn)實、流量重復(fù)數(shù)據(jù)刪除等。這些應(yīng)用中的每一個都有一些預(yù)定義的延遲要求，具體取決于邊緣服務(wù)器在基礎(chǔ)架構(gòu)中可能存在的位置。OpenStack Foundation 是另一個將邊緣計算納入其工作的組織，期望改善端局重構(gòu)為數(shù)據(jù)中心 (Central Office ReArchitected as a Data Center, CORD) 延遲，分布在整個網(wǎng)絡(luò)中的傳統(tǒng)電信端局現(xiàn)在負責(zé)托管邊緣云服務(wù)器。

5G 市場期望實現(xiàn)從邊緣設(shè)備到邊緣服務(wù)器再回到邊緣設(shè)備，往返時間延遲低至 1ms 的用例。實現(xiàn)這一目標的唯一方法是通過本地網(wǎng)關(guān)或聚合器，因為到達云全程通常需要 100 ms。2019 年秋天推出的 6G 計劃宣布了 10s μS 延遲的目標。

每個邊緣計算系統(tǒng)都支持類似的 SoC 架構(gòu)，其中包括一個網(wǎng)絡(luò) SoC、一些存儲、一個服務(wù)器 SoC，以及現(xiàn)在的一個 AI 加速器或 AI 加速器陣列。每種類型的系統(tǒng)都有自己的延遲、功耗和性能水平。這些系統(tǒng)的一般準則在圖 X 中進行了描述。市場在變化，這些數(shù)字可能會隨著技術(shù)的進步而迅速變化。

圖 6：比較邊緣計算的三種主要 SoC 架構(gòu)：區(qū)域數(shù)據(jù)中心/邊緣云；內(nèi)部服務(wù)器/本地服務(wù)器；和聚合器/網(wǎng)關(guān)/接入口。

邊緣計算對服務(wù)器系統(tǒng) SoC 有何影響？

許多邊緣計算應(yīng)用的主要目標是圍繞與較低延遲相關(guān)的新服務(wù)。為了支持較低的延遲，許多新系統(tǒng)都采用了一些最新的行業(yè)接口標準，包括 PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于 PCIe 的 NVMe 以及其他基于新一代標準的技術(shù)。與上一代產(chǎn)品相比，這些技術(shù)中的每一種都通過帶寬改進來降低延遲。

比減少延遲的驅(qū)動因素更為突出的是為所有這些邊緣計算系統(tǒng)增加了 AI 加速。某些服務(wù)器芯片通過 x86 擴展AVX-512 向量神經(jīng)網(wǎng)絡(luò)指令 (AVX512 VNNI) 等新指令提供 AI 加速。很多時候，這種額外的指令集不足以提供預(yù)期任務(wù)所需的低延遲和低功耗實現(xiàn)，所以大多數(shù)新系統(tǒng)中還添加了自定義 AI 加速器。這些芯片所需的連接性通常采用帶寬最高的主機來實現(xiàn)加速器連接。例如，由于這些帶寬要求直接影響延遲，因此 PCIe 5.0 的使用正在迅速擴展，最常見的情況是在具有多個 AI 加速器的某種交換配置中。

CXL 是另一種為降低延遲并提供緩存一致性而專門開發(fā)的接口。由于 AI 算法具有異構(gòu)計算需求和廣泛的內(nèi)存需求，因此務(wù)必要確保緩存一致性。

除了本地網(wǎng)關(guān)和聚合服務(wù)器系統(tǒng)之外，單個 AI 加速器通常無法提供足夠的性能，所以需要借助帶寬非常高的芯片到芯片 SerDes PHY 擴展這些加速器。最新發(fā)布的 PHY 支持 56G 和 112G 連接。支持 AI 擴展的芯片到芯片要求已經(jīng)完成多種實現(xiàn)。在基于標準的實現(xiàn)中，以太網(wǎng)可能是一種可擴展的選項，現(xiàn)在已經(jīng)有一些基于這種理念的解決方案。但是，當今許多實現(xiàn)都是通過專有控制器來利用最高帶寬的 SerDes。不同的體系結(jié)構(gòu)可能會改變服務(wù)器系統(tǒng)的未來 SoC 體系結(jié)構(gòu)，從而將網(wǎng)絡(luò)、服務(wù)器、AI 和存儲組件合并到集成度更高的 SoC 中，而不是目前正在實現(xiàn)的 4 種不同的 SoC 中。

圖 7：常見服務(wù)器 SoC 位于邊緣，根據(jù)任務(wù)數(shù)量、功率、延遲和其他需求，具有不同的處理器數(shù)量、以太網(wǎng)吞吐量和存儲能力。

AI 算法正在突破內(nèi)存帶寬要求的極限。例如，最新的 BERT 和 GPT-2 型號分別需要 345M 和 1.5B 參數(shù)。顯然，不僅需要高容量的內(nèi)存能力來支持這些需求，還需把許多復(fù)雜的應(yīng)用放在邊緣云中執(zhí)行。為了支持實現(xiàn)這種能力，設(shè)計人員正在新的芯片組中采用 DDR5。除了容量挑戰(zhàn)之外，還需要存取 AI 算法的系數(shù)，以進行非線性序列中并行執(zhí)行的大量多次累加計算。因此，HBM2e 成為迅速獲得采用的一種最新技術(shù)，有些芯片實現(xiàn)了單芯片中的數(shù)次 HBM2e 實例化。

圖 8：通用 AI SoC 具有高速、高帶寬、內(nèi)存、主機到加速器，以及高速芯片到芯片接口，用于擴展多個 AI 加速器。

不斷變化的目標與邊緣計算的劃分

如果我們仔細研究邊緣計算的不同類型需求，就會發(fā)現(xiàn)區(qū)域數(shù)據(jù)中心、本地服務(wù)器和聚合網(wǎng)關(guān)具有不同的計算、延遲和功率需求。未來的需求顯然集中在降低往返響應(yīng)的延遲，降低特定邊緣應(yīng)用的功率，以及確保有足夠的處理能力來處理特定任務(wù)上。

服務(wù)器 SoC 消耗的功率因等待時間和處理要求而異。新一代解決方案不僅將具有更低的延遲和更低的功耗，而且還將納入 AI 功能，也就是 AI 加速器。這些 AI 加速器的性能也會根據(jù)這些需求的擴展而變化。

但是很明顯，AI 和邊緣計算的需求正在迅速變化，我們今天看到的許多解決方案在過去兩年中已多次取得了進步，并將繼續(xù)加以改進?，F(xiàn)在的性能可以分類，但數(shù)量會不斷變化，從而提高性能、降低功耗并降低總體延遲。

圖 9：新一代服務(wù)器 SoC 再加上 AI 加速器，將加快邊緣計算速度。

結(jié)語

邊緣計算是實現(xiàn)更快連接性的一個非常重要的方面。它將使云服務(wù)更靠近邊緣設(shè)備。它將降低延遲，并為消費者提供新的應(yīng)用和服務(wù)。它將衍生更多 AI 功能，將其擴展到云以外。它將成為支持未來混合計算的基礎(chǔ)技術(shù)。在混合計算中，可以根據(jù)延遲需求、功率需求以及總體存儲和性能需求，在本地、云中或設(shè)備上實時做出決策。

來源：

https://www.synopsys.com/zh-cn/designware-ip/technical-bulletin/ai-edge-computing-5g-iot.html

來源：邊緣計算：AI 如何驅(qū)動5G和IoT？

推薦閱讀：