AMD高級(jí)副總裁專訪：GPU也將進(jìn)入Chiplet時(shí)代！

6月24日消息，近日，外媒Tomshardware采訪了AMD 高級(jí)副總裁、企業(yè)研究員兼產(chǎn)品技術(shù)架構(gòu)師 Sam Naffziger，就AMD近年來(lái)在CPU、GPU以及Chiplet技術(shù)上的探索進(jìn)行了分享。

AMD 最近提供了有關(guān)其即將推出的RDNA 3 GPU架構(gòu)的一些誘人細(xì)節(jié)，該架構(gòu)將采用Navi 3x核心，5nm工藝，采用基于Chiplet設(shè)計(jì)，計(jì)劃在今年年底前推出。因此，Tomshardware的采訪也主要圍繞著GPU與Chiplet展開(kāi)。

Sam Naffziger擁有超過(guò)33年的行業(yè)經(jīng)驗(yàn)，曾在惠普、英特爾和AMD從事微處理器和電路設(shè)計(jì)。他擁有加州理工學(xué)院(CalTech)的電氣工程學(xué)士學(xué)位和斯坦福大學(xué)的理學(xué)碩士學(xué)位并在該領(lǐng)域擁有130多項(xiàng)美國(guó)專利，并撰寫(xiě)了數(shù)十篇關(guān)于處理器、架構(gòu)和電源管理的出版物和演講。同時(shí)，他還是IEEE院士。

目前，Sam Naffziger已經(jīng)在 AMD 工作了 17 年，負(fù)責(zé)多個(gè)產(chǎn)品領(lǐng)域，專注于推動(dòng)更高的每瓦性能以及提升 AMD CPU 和 GPU 的整體競(jìng)爭(zhēng)力。他也是 AMD Chiplet架構(gòu)背后的主要人物之一，該架構(gòu)在 Ryzen 和 EPYC CPU 系列中已被證明非常成功，現(xiàn)在將以某種形式出現(xiàn)在 AMD RDNA 3 顯卡中。Naffziger 概述了公司面臨的挑戰(zhàn)，以及他認(rèn)為創(chuàng)新技術(shù)（如基于小芯片的 GPU 架構(gòu)）如何提高性能和能效。  

對(duì)于Chiplet設(shè)計(jì)不了解的朋友，可以先觀看此前的文章《后摩爾時(shí)代的“助推劑”：Chiplet到底有何優(yōu)勢(shì)，挑戰(zhàn)又有哪些？》，以便于理解。

撞上功率墻

對(duì)于現(xiàn)代微處理器核心的設(shè)計(jì)來(lái)說(shuō)，性能和功耗問(wèn)題正變得越來(lái)越棘手，沒(méi)有一家公司能幸免于副作用。所有跡象都表明下一代 GPU 會(huì)增加功耗：PCIe 5.0 電源接口和即將推出的支持它的電源可以通過(guò)單個(gè) 16 針連接器提供高達(dá) 600W 的功率，預(yù)示著更廣泛的行業(yè)轉(zhuǎn)向更高功率的 GPU。

眾所周知，Nvidia（英偉達(dá)）的 Ada 架構(gòu)將推動(dòng)比我們過(guò)去看到的更高的功率限制——目前的傳聞表明，我們可能會(huì)看到 450W TBP（典型的主板功率），甚至可能會(huì)看到頂級(jí) RTX 40 系列的 600W TBP GPU。目前還沒(méi)有關(guān)于 AMD RDNA 3 的 TBP 的消息，但公平地認(rèn)為他們可以遵循同樣的趨勢(shì)。 

因此，此次采訪集中在 AMD 提高效率的方法上，但總體功耗問(wèn)題仍然存在。Naffziger 證實(shí)我們可以預(yù)期下一代 GPU 的總功耗會(huì)增加，但解釋了關(guān)注效率如何可以最大限度地提高性能。 

Naffziger 解釋說(shuō)：“物理學(xué)的基本原理持續(xù)推動(dòng)功率的上升。用戶對(duì)游戲和計(jì)算性能的需求正在加速，與此同時(shí)，底層的半導(dǎo)體制程工藝技術(shù)的推進(jìn)正在顯著放緩。因此，功率水平會(huì)繼續(xù)上升。但我們的改進(jìn)速度也在加快。現(xiàn)在，我們有一個(gè)多年的路線圖，有著非常顯著的效率改進(jìn)來(lái)抵消這條曲線，但功率上升的趨勢(shì)確實(shí)在那里?！?/p>

AMD 聲稱 RDNA 和 RDNA 2 的每瓦性能提高了 50%，并且它的目標(biāo)是使用 RDNA 3 將每瓦性能再提高50%。即在相同功耗下，性能提高50%；或者相同的性能下，功耗降低33%。需要注意的是。與 Nvidia 和英特爾一樣，AMD需要在特定的場(chǎng)景下，才能達(dá)到每瓦特的性能提高50%的效果。

Naffziger 解釋了 AMD 在其先前的 RDNA 2 架構(gòu)中看到的一些改進(jìn)。例如，如果它可以在 2.5 GHz 和 1.0V 而不是 1.2V 下運(yùn)行，而后者需要多 40% 的功率。

Naffziger 表示，通過(guò)利用其 CPU 設(shè)計(jì)團(tuán)隊(duì)的專業(yè)知識(shí)，AMD 能夠通過(guò) RDNA 3 驅(qū)動(dòng)更高的時(shí)鐘頻率，同時(shí)保持高效。

AMD 長(zhǎng)期以來(lái)一直在討論其CPU 和 GPU 設(shè)計(jì)團(tuán)隊(duì)的“cross-pollinating”戰(zhàn)略，將雙方最好的技術(shù)帶到每個(gè)新的 CPU 和 GPU 設(shè)計(jì)中。Naffziger 表示，當(dāng)前的 GPU 內(nèi)核“本質(zhì)上更節(jié)能”，但仍需要根據(jù)市場(chǎng)做出對(duì)應(yīng)的商業(yè)決策。 

Naffziger 說(shuō)：“性能為王，即使我們的設(shè)計(jì)更節(jié)能，這并不意味著如果競(jìng)爭(zhēng)對(duì)手在做同樣的事情，你就不會(huì)提高功率水平。只是他們可能會(huì)有把他們功率推得比我們要高得多?！?nbsp;

換句話說(shuō)，如果與 Nvidia 類似的 AMD 最終增加其頂級(jí) RDNA 3 顯卡的 TBP，請(qǐng)不要感到驚訝。

功率效率和每瓦性能

面對(duì)摩爾定律推進(jìn)速度放緩的根本挑戰(zhàn)，必須通過(guò)巧妙的工程和對(duì)功率效率的關(guān)注來(lái)抵消，而 AMD 在這一領(lǐng)域已經(jīng)證明了自己。

目前，AMD 的 Zen 3 CPU 在效率和每瓦性能方面普遍領(lǐng)先于英特爾，不過(guò)我們必須看看Zen 4和Ryzen 7000的變化。此外，AMD 的 RDNA 2 GPU 在效率方面也傾向于擊敗競(jìng)爭(zhēng)對(duì)手 Nvidia 的 GPU，具體取決于比較的具體型號(hào)。這一點(diǎn)至關(guān)重要，因?yàn)榻陙?lái)我們已經(jīng)看到更高功率的 CPU 和 GPU 迅速升級(jí)，從而導(dǎo)致更高的發(fā)熱量和昂貴的冷卻解決方案。

具體來(lái)看 AMD 過(guò)去兩代的圖形顯卡，與上一代 Vega 和 Polaris 架構(gòu)相比，RDNA 1 在 2019 年的每瓦性能明顯提高了 50% 或更多。例如，GPU 基準(zhǔn)層次結(jié)構(gòu)測(cè)試結(jié)果表明，RX 5700 XT 在Tomshardware的 1080p測(cè)試套件中平均為 74 fps，同時(shí)消耗 214W，而 RX Vega 64 消耗了 298W卻只達(dá)到了 57 fps的成績(jī)——這實(shí)際上意味著AMD在提高了 80%的每瓦性能。

與 RDNA 1 相比，2020 年的 RDNA 2 能夠再次提供高達(dá) 50% 的每瓦性能提升。當(dāng)然這也是在特定場(chǎng)景下的結(jié)果。例如，RX 6600 在 1080p 分辨率下平均 67 fps，消耗 137W，比 RX 5700 XT 效率高 41%。同時(shí)，RX 6700 XT 在使用 215W 時(shí)提供 96 fps，僅提升 30% 的純效率，而 RX 6800 XT 達(dá)到 124 fps 并使用 303W，僅提升 18% 的效率。然而，RX 5500 XT 8GB 的平均速度為 40 fps，功率為 126W，因此 RX 6600 至少在某些情況下效率提高了 54%——而且使用了類似的 128 位內(nèi)存接口。

更令人印象深刻的是，這些收益都是在工藝節(jié)點(diǎn)沒(méi)有變化的情況下實(shí)現(xiàn)的，因?yàn)?RDNA 1 和 RDNA 2 都使用了臺(tái)積電的 7nm N7 技術(shù)（盡管一些較新的 GPU，如 Navi 24 現(xiàn)在使用 N6）。

AMD此前在其財(cái)務(wù)分析師日宣布，它再次致力于利用一組新功能，通過(guò) RDNA 3 將每瓦性能提高 50%。我們知道Chiplet設(shè)計(jì)將成為其中的重要組成部分。Naffziger 還暗示將進(jìn)一步優(yōu)化 Infinity Cache 設(shè)計(jì)，以提高其有效帶寬和命中率。不過(guò)，確切的細(xì)節(jié)仍在保密中。

在 CPU 方面，隨著 Zen 2 和后來(lái)的 Zen 3，AMD 將內(nèi)存控制器和 PCIe 通道放在稱為 I/O 芯片的中央小芯片上，以及用于與封裝內(nèi)的其他小芯片通信的高帶寬接口，稱為“Infinity Fabric”。到目前為止，這些其他小芯片包括 CPU內(nèi)核及其關(guān)聯(lián)的緩存，以及小芯片的共享 L3 緩存。

對(duì)于消費(fèi)類 CPU，AMD 發(fā)布了帶有一個(gè)或兩個(gè) CPU 小芯片的處理器，每個(gè)小芯片最多可以啟用八個(gè) CPU 內(nèi)核。然而，AMD 不僅僅創(chuàng)建了一個(gè) I/O 小芯片，它還希望擴(kuò)展到多達(dá) 8 個(gè) CPU 小芯片。消費(fèi)類 I/O 芯片只有兩個(gè) CPU 芯片的 Infinity Fabric 鏈接，EPYC 和 Threadripper 變體可以鏈接多達(dá)八個(gè) CPU 芯片，提供多達(dá) 64 核 CPU，如 Threadripper Pro 5995WX 和 EPYC 7763。

RDNA 3 也將采用Chiplet設(shè)計(jì)

Naffziger 并沒(méi)有對(duì)下一代 RDNA 3 架構(gòu)透露太多，不過(guò)可以猜測(cè)的是，AMD 的 GPU中的Chiplet設(shè)計(jì)最終可能會(huì)類似當(dāng)前的AMD CPU 設(shè)計(jì)，它將擁有容納計(jì)算的 GPU 小芯片單元 (CU)、著色器核心和一些緩存，然后將至少有兩種 I/O 小芯片設(shè)計(jì)，一種可以通過(guò)更寬的內(nèi)存接口擴(kuò)展到更高的小芯片數(shù)量，另一種可能只支持最多兩個(gè)具有更窄接口的 GPU 小芯片。AMD 將通過(guò)更新的 Infinity Fabric 鏈接小芯片，并且它可能會(huì)在 I/O 小芯片上擁有適度的緩存塊，以幫助優(yōu)化內(nèi)存訪問(wèn)。

AMD其在2019年推出的Zen 2 CPU產(chǎn)品線中，就開(kāi)始全面采用Chiplet架構(gòu)，其芯片設(shè)計(jì)最大的特色為將 I/O模塊與邏輯運(yùn)算模塊分離，I/O模塊繼續(xù)延用12nm工藝，而邏輯運(yùn)算模塊則是采用7nm工藝。這也使得AMD的CPU實(shí)現(xiàn)了出色的規(guī)模經(jīng)濟(jì)。

同樣，在Zen 3 CPU設(shè)計(jì)上，CPU邏輯核心依然是使用臺(tái)積電的7nm節(jié)點(diǎn)，而I/O芯片仍使用格芯的12nm工藝。

Zen 3 的邏輯計(jì)算核心中包含8個(gè)CPU內(nèi)核和一個(gè)統(tǒng)一的 32MB 三級(jí)緩存，但它面積大小仍然只有84平方毫米——不到英特爾Alder Lake 酷睿i9-12900K芯片約 215 平方毫米面積的一半，也幾乎是擁有較小的六個(gè)P核的Alder Lake-s的約163mm平方毫米面積一半。

隨后，AMD在其頂級(jí)CPU解決方案中也采用了多達(dá)8個(gè)小芯片的Chiplet設(shè)計(jì)，考慮到芯片尺寸，收益率會(huì)非常高。

對(duì)于 GPU，如果 AMD 抽出所有顯示接口功能、視頻編解碼器、內(nèi)存接口和其他通用硬件，只專注于計(jì)算單元，不難想象 AMD 會(huì)創(chuàng)建一個(gè)具有 40 CU 芯片的構(gòu)建塊，具有2560 個(gè)（也可能是 5120 個(gè)）著色器內(nèi)核和 32–64MB 的 L3 緩存，以及AMD的 Infinity Fabric 高速總線接口。

拿 Navi 22 (RX 6700 XT)舉例來(lái)說(shuō)，這是一個(gè) 335平方毫米的芯片，將其I/O部分單獨(dú)拿出來(lái)制造成小芯片，大約需要一半的大小的面積。然后通過(guò)臺(tái)積電的 5nm N5P 節(jié)點(diǎn)制造剩余的GPU核心的CU，可以得到一個(gè)小于100 平方毫米的小芯片，最后將其封裝在一起。這樣收益率將會(huì)很高。對(duì)于消費(fèi)領(lǐng)域，AMD 可能擁有多達(dá)四個(gè)這樣的小芯片的解決方案。

I/O 小芯片將是一個(gè)完全不同的模塊。它將容納外部存儲(chǔ)器接口，因此，它實(shí)際上可以通過(guò)不在前沿節(jié)點(diǎn)上而受益，這意味著 AMD 可以在 N7 或 N6 上而不是 N5 上制造它。I/O 接口往往不能很好地?cái)U(kuò)展到更小的制程工藝節(jié)點(diǎn)，而外部接口通常需要更高的電壓，這會(huì)給新節(jié)點(diǎn)帶來(lái)設(shè)計(jì)挑戰(zhàn)。AMD 不必在基于稍舊工藝的 I/O 芯片上處理這么多的問(wèn)題——它已經(jīng)擁有來(lái)自各種 RDNA 2 設(shè)計(jì)的現(xiàn)有 GDDR6 接口，這些接口經(jīng)過(guò)測(cè)試可以直接適用于臺(tái)積電的7nm工藝。

I/O 小芯片的主要癥結(jié)在于擴(kuò)展到各種目標(biāo)市場(chǎng)。具有 8 個(gè)小芯片的服務(wù)器CPU的最大配置似乎是合理的，但 AMD 已將其面向消費(fèi)者和數(shù)據(jù)中心的GPU設(shè)計(jì)分別分為 RDNA 和 CDNA。

我們已經(jīng)知道CDNA 3 和即將推出的 Instinct MI300 APU 的一些內(nèi)容，它們也將與 Zen 4 CPU 一起用于El Capitan 超級(jí)計(jì)算機(jī)。RDNA 3 將完全不同，就像 RDNA 2 和 CDNA 2 一樣。簡(jiǎn)而言之，預(yù)計(jì) AMD 不會(huì)像 RDNA 3 那樣為 CDNA 3 使用類似的設(shè)計(jì)，因此可能不需要擴(kuò)展到八個(gè) GPU 小芯片。

相反，AMD 可以創(chuàng)建兩個(gè) I/O 小芯片，一個(gè)用于低端和中端顯卡，另一個(gè)用于高端和超高性能顯卡。同時(shí)，所有 GPU 小芯片都將采用相同的核心設(shè)計(jì)。這仍然是當(dāng)前 RDNA 2 陣容的簡(jiǎn)化，AMD 已經(jīng)擁有四個(gè)獨(dú)立的芯片（Navi 21、22、23 和 24），更不用說(shuō)所有集成的 RDNA 2 解決方案，如 Rembrandt 和 Van Gogh（Steam Deck 處理器） 。

AMD 可以在較小的 I/O 小芯片上放置一個(gè) 128 位內(nèi)存接口，為低層產(chǎn)品提供功能強(qiáng)大的 64 位或 96 位變體，并能夠鏈接到兩個(gè) GPU 計(jì)算小芯片。更大的高端解決方案可能具有 256 位內(nèi)存接口（甚至可能高達(dá) 384 位），具有針對(duì)較低產(chǎn)品層的縮減選項(xiàng)，以及連接四個(gè)甚至更多 GPU 小芯片的能力。

這聽(tīng)起來(lái)可能更復(fù)雜而不是更簡(jiǎn)單，但會(huì)有一些很大的優(yōu)勢(shì)。首先，I/O 小芯片可以采用老一點(diǎn)的制程工藝節(jié)點(diǎn)，這將降低成本，而 AMD 已經(jīng)非常熟悉 N7 和 N6 產(chǎn)品的設(shè)計(jì)。較小的 I/O 小芯片最終可能會(huì)得到大約 150 平方毫米的裸片尺寸（給或?。?，仍然比 Navi 23 小，然后它可以根據(jù)需要連接一個(gè)或兩個(gè) GPU 小芯片。更大的 I/O 芯片可能約為 225 平方毫米，并且可以連接三個(gè)或四個(gè)相同的 GPU 小芯片。

在任何一種情況下，總的組合芯片面積不會(huì)比單片設(shè)計(jì)差多少，但實(shí)際效益卻要高得多。AMD 將把其 5nm 生產(chǎn)集中在 GPU 小芯片設(shè)計(jì)上，并使用較便宜的 N6 或 N7 工藝來(lái)生產(chǎn) I/O 小芯片。唯一的訣竅就是讓它們一起正常工作，并通過(guò)更多的 GPU 小芯片來(lái)擴(kuò)展性能。 

其他 RDNA 3 架構(gòu)細(xì)節(jié)

除了小芯片架構(gòu)之外，Tomshardware還從與 Naffziger 的對(duì)話中收集了有關(guān) RDNA 3 的其他一些細(xì)節(jié)。

比如，AMD 是否會(huì)在架構(gòu)中包含某種形式的張量核心或矩陣核心，類似于 Nvidia 和英特爾在其 GPU 上所做的事情。

Naffziger回應(yīng)說(shuō)，RDNA 和 CDNA 之間的分離意味著將一堆專用矩陣內(nèi)核塞入消費(fèi)圖形產(chǎn)品對(duì)于目標(biāo)市場(chǎng)來(lái)說(shuō)確實(shí)不是必需的，而且以前 RDNA 架構(gòu)中已經(jīng)存在的 FP16 支持應(yīng)該足以滿足推理類型的工作負(fù)載。我們將看看這是否被證明是正確的，但 AMD 似乎滿足于將機(jī)器學(xué)習(xí)留給其 CDNA 芯片。

另一個(gè)問(wèn)題是關(guān)于 Infinity Cache 的大小。RDNA 2 的緩存大小從 Navi 21 上的 128MB 到 Navi 24 上的低至 16MB 不等，即使使用較小的緩存大小，由此帶來(lái)的性能提升仍然令人印象深刻。

對(duì)于標(biāo)準(zhǔn) GPU 小芯片，AMD 最終可能會(huì)放棄 16MB 緩存并使用 32MB ，或者它可能會(huì)使用更大的緩存大小——或者在 I/O 小芯片和 GPU 小芯片中都有緩存。無(wú)論采用何種方法，Naffziger 都暗示 AMD 已經(jīng)學(xué)會(huì)了優(yōu)化緩存使用的更好方法的設(shè)計(jì)決策，包括排除某些不會(huì)從緩存中受益的事物（Naffziger 提到顯示界面、多媒體處理和音頻處理是也許不要。）

尾聲

最終，在像 RDNA 3 這樣的架構(gòu)中需要平衡很多因素。采用Chiplet設(shè)計(jì)在規(guī)模經(jīng)濟(jì)方面具有優(yōu)勢(shì)，并且允許 AMD 比其他方式更快地遷移到最新的先進(jìn)制程的節(jié)點(diǎn)，但這也有缺點(diǎn)，對(duì)四處移動(dòng)的數(shù)據(jù)有更高的功率要求。

在 Infinity Fabric 上移動(dòng)數(shù)據(jù)會(huì)帶來(lái)功率消耗，并且在所有其他因素相同的情況下，與單片芯片設(shè)計(jì)相比，基于Chiplet設(shè)計(jì)的架構(gòu)在數(shù)據(jù)遍歷期間會(huì)損失一些效率。因此，必須注意確保平衡設(shè)計(jì)。AMD 一直處于Chiplet設(shè)計(jì)的最前沿，Ryzen CPU 在過(guò)去三年中一直在使用它們，而 EPYC 和 Threadripper 從 2017 年開(kāi)始使用Chiplet設(shè)計(jì)。每一代都帶來(lái)了性能和效率的提升。

雖然前面已經(jīng)對(duì) AMD RDNA 3的設(shè)計(jì)做出了一些有根據(jù)的猜測(cè)，但 Naffziger 對(duì)分享具體細(xì)節(jié)比較謹(jǐn)慎。

Tomshardware曾一度詢問(wèn)RDNA 3的Chiplet設(shè)計(jì)是否類似于 Aldebaran（兩個(gè)大型芯片，具有快速接口連接它們），或者更像帶有 I/O 小芯片和多個(gè)計(jì)算小芯片的 Ryzen CPU。對(duì)此，Naffziger表示，后一種方法是“合理的推斷”，AMD 將以“一種非常特定于圖形的方式”來(lái)開(kāi)發(fā)基于Chiplet設(shè)計(jì)的 GPU 架構(gòu)。

無(wú)論最終實(shí)施的具體細(xì)節(jié)如何，我們都期待在今年晚些時(shí)候看到 RDNA 3 投入使用。關(guān)于RDNA 3的傳聞仍然充滿了想法和可能性，包括每個(gè)計(jì)算單元的 FP32 管道數(shù)量可能翻倍。我們還想看看 AMD 是否仍能從最大 256 位內(nèi)存接口中獲得所需的帶寬，以及下一代 Infinity Cache 的表現(xiàn)如何。

但最重要的是，我們希望看到代際表現(xiàn)的又一次大飛躍。AMD 專注于電源效率的方法，然后允許它在電壓/頻率曲線的較高端提取更多性能，這是一個(gè)合理的設(shè)計(jì)原則。當(dāng)然，每種基本設(shè)計(jì)理念都有其優(yōu)點(diǎn)和缺點(diǎn)，我們知道 Nvidia 也不會(huì)坐以待斃——當(dāng) RDNA 3 和 4 系列面世時(shí)，可以期待雙方在性能和效能上的激烈競(jìng)爭(zhēng)。