三星HBM2內(nèi)存計(jì)算技術(shù)介紹

HBM 是 GDDR 存儲(chǔ)器的替代品，可用于 GPU 和加速器。GDDR 存儲(chǔ)器旨在以較窄的通道提供更高的數(shù)據(jù)速率，進(jìn)而實(shí)現(xiàn)必要的吞吐量，而 HBM 存儲(chǔ)器通過(guò) 8 條獨(dú)立通道解決這一問(wèn)題，其中每條通道都使用更寬的數(shù)據(jù)路徑（每通道 128 位），并以 2Gbps 左右的較低速度運(yùn)行。因此，HBM 存儲(chǔ)器能夠以更低的功耗提供高吞吐量，而規(guī)格上比 GDDR 存儲(chǔ)器更小。HBM2 是目前該類別中最常用的標(biāo)準(zhǔn)，支持高達(dá) 2.4Gbps 的數(shù)據(jù)速率。

HBM2 DRAM 最多可疊加 8 個(gè) DRAM 晶圓（包括一個(gè)可選的底層晶圓），可提供較小的硅片尺寸。晶圓通過(guò) TSV 和微凸塊相互連接。通?？捎玫拿芏劝總€(gè) HBM2 封裝 4 或 8GB。

除了支持更多的通道外，HBM2 還提供了一些架構(gòu)更改，以提高性能并減少總線擁塞。例如，HBM2 具有“偽通道”模式，該模式將每個(gè) 128 位通道分成兩個(gè) 64 位的半獨(dú)立子通道。它們共享通道的行和列命令總線，卻單獨(dú)執(zhí)行命令。增加通道數(shù)量可以通過(guò)避免限制性時(shí)序參數(shù)（例如 tFAW）以在每單位時(shí)間激活更多存儲(chǔ)體，從而增加整體有效帶寬。標(biāo)準(zhǔn)中支持的其他功能包括可選的 ECC 支持，可為每 128 位數(shù)據(jù)啟用 16 個(gè)錯(cuò)誤檢測(cè)位。

1、Architecting an Open RISC-V 5G and AI SoC for Next Generation 5G Open Radio Access Network.pdf 

2、Arm Neoverse N2 Arm’s second-generation high performance infrastructure CPUs and system products.pdf 

3、Enabling the Next Generation of Autonomous Flight.pdf 

4、Heterogeneous computing to enable the highest level of safety in automotive systems.pdf 

5、Intel’s Hyperscale-Ready SmartNIC for Infrastructure Processing.pdf 

6、NVIDIA DATA Center Processing Unit (DPU) Architecture.pdf 

7、Samsung HBM2-PIM with in-memory processing for machine learning accelerators.pdf

免責(zé)申明：本號(hào)聚焦相關(guān)技術(shù)分享，內(nèi)容觀點(diǎn)不代表本號(hào)立場(chǎng)，可追溯內(nèi)容均注明來(lái)源，發(fā)布文章若存在版權(quán)等問(wèn)題，請(qǐng)留言聯(lián)系刪除，謝謝。

電子書<服務(wù)器基礎(chǔ)知識(shí)全解(終極版)>更新完畢，知識(shí)點(diǎn)深度講解，提供182頁(yè)完整版下載。

獲取方式：點(diǎn)擊“閱讀原文”即可查看PPT可編輯版本和PDF閱讀版本詳情。

溫馨提示：

請(qǐng)搜索“AI_Architect”或“掃碼”關(guān)注公眾號(hào)實(shí)時(shí)掌握深度技術(shù)分享，點(diǎn)擊“閱讀原文”獲取更多原創(chuàng)技術(shù)干貨。