SmartNIC大比拼：博通vs英特爾vs英偉達vs賽靈思

普通網(wǎng)絡接口卡（NIC）是圍繞專用集成電路（ASIC）構(gòu)建的，該集成電路被設計成以太網(wǎng)控制器。例如，Mellanox的ConnectX系列、博通的NetXtreme或Xilinx XtremeScale。通常，這些芯片會圍繞第二個設計目標進一步優(yōu)化。例如，ConnectX系列還支持Infiniband，而XtremeScale則專注于Linux內(nèi)核旁路。這些控制器的功能非常出色，它們代表了業(yè)界最優(yōu)秀的控制器，但它們還不是SmartNIC。

在本文中，我們將SmartNIC定義為這樣一種網(wǎng)卡：它允許在購買網(wǎng)卡后的某個時間將附加軟件加載到NIC中，以添加新特性或支持其他功能。就像購買智能手機一樣，之后可以從供應商的應用商店里安裝應用。

普通網(wǎng)卡（NIC）和智能網(wǎng)卡（SmartNIC）的根本區(qū)別在于SmartNIC從主機CPU卸載處理量，SmartNIC是圍繞FPGA平臺設計的，F(xiàn)PGA被設計為接受本地化編程，一旦安裝就可以輕松更新。SmartNIC需要滿足以下特征：

SmartNIC需要額外的計算能力和板載內(nèi)存，而這是普通網(wǎng)卡所不具備的。大多數(shù)SmartNIC的實現(xiàn)方法都是把以太網(wǎng)控制器作為基礎，通過固件/芯片或適配器上的芯片方式進行疊加。可以通過以下三種方法來提高其計算能力，從而使普通的NIC智能化：

為了詳細理解SmartNIC與通用NIC有何不同，讓我們來深入了解一下全球四大網(wǎng)卡公司和兩家初創(chuàng)公司的SmartNIC產(chǎn)品。這六家公司分別是Broadcom（博通）、Intel（英特爾）、Nvidia（英偉達，收購了Mellanox）、Xilinx（賽靈思）、Netronome和Pensando。

博通

博通是以太網(wǎng)NIC控制器市場上無可爭議的領導者之一，其產(chǎn)品Stingray SmartNIC采用了一種單芯片方法，與市場上其他競爭對手的芯片板相比，單芯片SmartNIC解決方案在板級生產(chǎn)方面的成本較低。

博通2019年SDC展示的Stingray架構(gòu)

博通以NetXtreme E系列控制器的邏輯為基礎，在Stingray的核心部分設計了NetXtreme-S BCM58800芯片，然后在集群配置中放置了8個主頻為3 GHz的Arm v8 A72內(nèi)核。此外，Stingray還可以配置16 GB DDR4內(nèi)存。

最后，博通還采用了具有神秘色彩的TruFlow技術(shù)，這是一個可配置的流加速器，用于將常見的網(wǎng)絡流過程轉(zhuǎn)移到硬件中。從已發(fā)布的數(shù)據(jù)來看，TruFlow可以在硬件上卸載諸如Open vSwitch（OvS）之類的任務。該公司還聲稱TruFlow在硬件中實現(xiàn)了許多經(jīng)典的軟件定義網(wǎng)絡（SDN）概念，比如分類、匹配和操作。因此，Stingray配備了兩個可編程組件，即TruFlow和由四個3 GHz雙核Arm v8 A72復合體組成的集群。

了解產(chǎn)品的復雜性后，博通還提供了用于SmartNIC應用程序開發(fā)和存儲控制器開發(fā)的Stingray開發(fā)工具包，它是一個完整的SmartNIC產(chǎn)品所必需的組件。

英偉達

英偉達定義了圖形處理單元（GPU），目前其已成為高性能計算（HPC）的首選加速器。今年早些時候，英偉達最終以70億美元的價格收購了Mellanox。為了占領HPC市場，該公司選擇了領先的Infiniband互聯(lián)供應商，以便可以為HPC客戶提供完整的解決方案。

今年5月，英偉達還收購了開源以太網(wǎng)交換機操作系統(tǒng)的領導者Cumulus Networks，近期英偉達還準備收購ARM，不過這筆交易最終能否成功還有待觀望。

Mellanox是最早進入SmartNIC領域的企業(yè)之一，其當前的Bluefield 2解決方案是在2015年通過收購EZchip（Tilera 2014被EZchip收購）而構(gòu)建的，Tilera是最早使用知識產(chǎn)權(quán)實現(xiàn)高度并行SmartNIC的公司之一。

Mellanox的Bluefield 2架構(gòu)

從本質(zhì)上講，Tilera將處理內(nèi)核作為芯片上的塊進行排列，每個內(nèi)核都有一個高速總線與周圍的四個核心相連。早在2013年，其旗艦產(chǎn)品就支持多達72個MIPS內(nèi)核、內(nèi)存控制器、加密模塊、PCIe塊和mPipe。

Mellanox通過用Arm替換內(nèi)核并將mPipe換成ConnectX邏輯，推進了這一進程。當前的核心數(shù)量為8個Arm v8 A72核心，它們排列成四個雙核Arm的集群。這種方法與博通的Stingray非常相似，但是它缺少博通架構(gòu)的核心組成部分，即并行P4處理器。P4也是很多公司關注的一個方向，這也是收購Cumulus Networks的原因之一，其在P4編程方面具有豐富的經(jīng)驗。

英特爾

提到芯片公司，大家可能都會想到英特爾。十多年來，英特爾一直保持著不間斷的高性能10 GbE控制器產(chǎn)品線，其XL710平臺已出貨數(shù)百萬臺，是許多數(shù)據(jù)中心服務器的必備產(chǎn)品。

對于新的N3000 SmartNIC，英特爾使用了其五種芯片制作了一塊主板，這種方法的成本很高，目前大多數(shù)廠商都在努力設計單芯片。英特爾使用48通道PEX8747 PCIe第三代交換機芯片，將一對XL710以太網(wǎng)控制器和Arria 10 FPGA融合在一起。到XL710s都有8條通道，到Arria有16條通道，到PCIe插槽有16條通道。第五塊芯片是用于管理FPGA的MAX 10 FPGA基板管理控制器（BMC），就像在其他SmartNIC上使用Arm內(nèi)核來處理控制平面管理一樣。

英特爾的N3000 SmartNIC架構(gòu)

該板具有雙QSFP28端口，可直接連接到FPGA。然后，8條10G通道將FPGA留給每個XL710，這是一種典型的bump in the wire方法，它使FPGA能夠在將數(shù)據(jù)包傳遞到XL710s之前對其進行處理。

使用現(xiàn)成的以太網(wǎng)控制器和FPGA構(gòu)建NIC并不是什么新鮮事。早在2012年，Solarflare Communications就在網(wǎng)卡的兩個QSFP端口及其以太網(wǎng)控制器之間放置了一個FPGA，以創(chuàng)建Application Onload Engine (AOE)平臺。這是英特爾N3000設計的前身，它幫助Solarflare為金融客戶提供了令人印象深刻的即時交易結(jié)果，耗時僅為 350 納秒。8 年后的今天，該記錄為 24.2 納秒。

英特爾的FPGA具有115萬個可編程邏輯元件和兩組4 GB DDR4存儲器，每組都有足夠的空間來處理SmartNIC任務，例如：

盡管英特爾已針對N3000平臺實現(xiàn)了上述工作負載，但目前尚不清楚該公司是否提供了所有必要的軟件來卸載該SmartNIC上的每個應用程序。

賽靈思

賽靈思是SmartNIC領域中另一位杰出的FPGA供應商，是上世紀80年代中期第一家將FPGA商業(yè)化的公司。該公司于2019年秋季收購了Solarflare Communications。近期，據(jù)媒體報道AMD將要收購賽靈思。

賽靈思Alveo U25架構(gòu)

Alveo U25將雙SFP28端口直接連接到Zynq系列芯片，Zynq是一個片上系統(tǒng)（SoC），因為它不僅包括FPGA，還包括一個用于數(shù)據(jù)包處理的四核Arm A53。Zynq通過第三代PCIe提供的8個通道直接連接到主機服務器，或者通過SerDes連接到X2以太網(wǎng)控制器芯片，X2以太網(wǎng)控制器芯片也通過第三代PCIe 8個通道連接到主機。這種方法使Zynq能夠在將數(shù)據(jù)包傳遞到X2芯片之前對其進行處理，或者完全繞過X2。Alveo U25還包括6GB DDR4內(nèi)存，可以通過運行在該芯片上的程序訪問Zynq的FPGA和Arm內(nèi)核。

賽靈思將Alveo U25推向市場，最初是為了滿足那些要求開放虛擬交換機（OvS）卸載功能的客戶。該公司宣布，在不久的將來，它將增加IPsec、機器學習（ML）、深度包檢查（DPI）、視頻轉(zhuǎn)碼和分析的卸載。

與英特爾一樣，賽靈思也有多條計算芯片產(chǎn)品線：Kintex、Virtex、Zynq和Versal。Kintex和Virtex是純FPGA，該系列中的某些型號具有近3,00萬個邏輯單元，幾乎是英特爾N3000的三倍。賽靈思還與硅中間層合作，在Virtex芯片上分層了多達16 GB的高帶寬存儲器（HBM）。

Zynq是賽靈思的SoC芯片產(chǎn)品線，包括FPGA可編程邏輯、四核Arm、實時Arm內(nèi)核、DDR控制器，以及用于以太網(wǎng)和PCI Express的連接邏輯。Versal在SoC的基礎上開發(fā)了基于7納米芯片技術(shù)的自適應計算加速平臺（ACAP）。ACAP擴展了Zynq架構(gòu)，添加了數(shù)百個人工智能（AI）內(nèi)核、數(shù)字信號處理（DSP）引擎等。最終，賽靈思將其公開展示的SoftNIC與Versal相結(jié)合，使其成為 SmartNIC 平臺中的佼佼者。

Pensando

Pensando是SmartNIC初創(chuàng)公司，由思科前首席執(zhí)行官 John Chambers 創(chuàng)立。人們普遍認為Pensando正在證明其技術(shù)的可行性，然后他們會將其打包賣給思科。思科擁有一些通用的NIC技術(shù)和幾個內(nèi)部的SmartNIC項目，但業(yè)界流傳這些項目可能并非一帆風順，而Pensando顯然是想填補思科這一空白。

Pensando的DSC-25分布式服務卡，似乎是單一的P4處理器芯片，帶有用于某些輔助處理的Arm，數(shù)據(jù)表聲稱兩者都支持高達4 GB的板載內(nèi)存。

Pensando DPU架構(gòu)

稱為Capri的處理器是具有多個并行級的P4可編程單元，然而，確切的并行處理程度尚不清楚，因為數(shù)據(jù)包的性能、延遲和抖動尚未公布。Pensando使P4應用程序保持緊密狀態(tài)，以便它們在緩存丟失時仍保留在Capri的緩存中。其他被稱為服務處理卸載（Service Processing Offloads）的計算單元則處理加密、存儲過程和其他任務。Pensando聲稱Capri可以提供線速性能。

Netronome

Netronome成立于2003年，迄今已獲得五輪融資，總計7300萬美元。自2015年以來，該公司一直在積極推廣P4，當時其展示了首款采用P4的SmartNIC。從那以后，Netronome取得了一些重大進展，但最近有傳言說其可能退出市場。

下圖展示了Netronome當前的NFP4000流處理器架構(gòu)，該公司沒有使用單一的P4處理引擎，而是利用了兩類可編程的內(nèi)核：48個數(shù)據(jù)包處理內(nèi)核和60個流處理內(nèi)核。其他芯片專用于分類、修改和管理。所有這些內(nèi)核都可以在P4中編程。

Netronome的NFP4000流處理器架構(gòu)

Netronome聲稱這些內(nèi)核可以維持一個100 Gb /p的鏈路，每秒1.48億個包，有數(shù)百萬個精確匹配和通配符流。此外，它們還可以支持需要封裝的100K以上隧道連接。該技術(shù)可以支持的目標應用程序很多，包括入侵檢測系統(tǒng)（IDS）、入侵防御系統(tǒng)（IPS）、下一代防火墻（NGFW）、路由器、負載平衡器、數(shù)據(jù)包代理、SDN、NFV和其他應用程序的主機。

目前，SoC和FPGA已經(jīng)成熟到可以作為SmartNIC的基礎技術(shù)。十年前，當硬件加速技術(shù)的第一波浪潮來襲時，人們對GPU產(chǎn)品充滿了興趣?，F(xiàn)在，F(xiàn)PGA已經(jīng)擴展到超過300萬個以上的邏輯單元，還可以與其他可組合的處理模塊緊密地結(jié)合，用于網(wǎng)絡、內(nèi)存、存儲和計算。

有了這些進步，人們開始認識到第二波硬件加速浪潮的形成。GPU需要新的編程API和工具來支持這些平臺，F(xiàn)PGA也是如此。但不同的是，F(xiàn)PGA已經(jīng)發(fā)展了35年，它的時代即將到來。因此，隨著SmartNIC市場興起，它將與下一波基于FPGA的硬件加速器融合。

SmartNIC將推動計算能力逐漸擴展到網(wǎng)絡邊緣，從而釋放服務器CPU的算力，重點關注復雜的業(yè)務關鍵型處理任務。研究表明，在高度虛擬化的環(huán)境中，網(wǎng)絡可以消耗主機30%以上的CPU周期來處理OvS事務等任務。試想一下， 如果在SmartNIC中就可以完成存儲、加密、DPI和復雜的路由等功能，這會將之前花費在處理這些工作負載上的大部分CPU周期交付回主機CPU。

如今，像Pensando和Fungible等新興公司將持續(xù)向SmartNIC市場注入新動力，同時為了保持領先地位，諸如賽靈思、英特爾、博通和英偉達等技術(shù)領導者也將不斷發(fā)展進步。

原文鏈接：

https://www.electronicdesign.com/industrial-automation/article/21136402/xilinx-smartnic-architectures-a-shift-to-accelerators-and-why-fpgas-are-poised-to-dominate

責任編輯：大臉肥飛貓

來源：SNDLAB