這，就很專業(yè)！
大家好，我是二哥呀。
最近有幾個(gè)同學(xué)問我，如何打好計(jì)算機(jī)基礎(chǔ)。
正值暑假，同學(xué)們可以利用這個(gè)時(shí)間給自己補(bǔ)充一些能量。
時(shí)間充裕的話，其實(shí)這三大方向，都可以學(xué)習(xí)一番：
應(yīng)用程序 操作系統(tǒng) 計(jì)算機(jī)體系結(jié)構(gòu)
自頂向下學(xué)習(xí)，學(xué)完之后有一種一覽眾山小的感覺。
當(dāng)然也可以自底向上學(xué)習(xí)，各有各的優(yōu)缺點(diǎn)，根據(jù)自己的喜好來就好。
軟件也會(huì)，硬件也懂，計(jì)算機(jī)底層了如指掌，這樣的人才，到哪都很吃香。
這，就很專業(yè)！
計(jì)算機(jī)體系結(jié)構(gòu)，真的挺有意思。
先給大家分享一篇技術(shù)文（好朋友 Jack Cui 整理的），找找感覺，學(xué)習(xí)資料的話，直接看文末吧。
桔里貓 | https://zhuanlan.zhihu.com/p/386919471
講一個(gè)最廣泛的一個(gè)東西：Cache。
這方面內(nèi)容圖比較多，不想自己畫了，所以圖都來自《Computer Architecture : A Quantitative Approach》。這是一本體系架構(gòu)方面的神書，推薦大家看一下。
本文主要內(nèi)容如下，基本涉及了cache的概念，工作原理，以及保持一致性的入門內(nèi)容。
1 為什么需要Cache
1.1 為什么需要Cache
我們首先從一張圖來開始講為什么需要cache.
上圖是CPU性能和Memory存儲(chǔ)器訪問性能的發(fā)展。我們可以看到，隨著工藝和設(shè)計(jì)的演進(jìn)，CPU計(jì)算性能其實(shí)發(fā)生了翻天覆地的變化，但是DRAM存儲(chǔ)性能的發(fā)展沒有那么快。
所以造成了一個(gè)問題，存儲(chǔ)限制了計(jì)算的發(fā)展。容量與速度不可兼得。
如何解決這個(gè)問題呢？可以從計(jì)算訪問數(shù)據(jù)的規(guī)律入手。
我們隨便貼段代碼:
for (j = 0; j < 100; j = j + 1)
for (i = 0; i < 5000; i = i + 1)
x[i][j] = 2 * x[i][j];
可以看到，由于大量循環(huán)的存在，我們?cè)L問的數(shù)據(jù)其實(shí)在內(nèi)存中的位置是相近的。換句專業(yè)點(diǎn)的話說，我們?cè)L問的數(shù)據(jù)有局部性。
我們只需要將這些數(shù)據(jù)放入一個(gè)小而快的存儲(chǔ)中，這樣就可以快速訪問相關(guān)數(shù)據(jù)了。
總結(jié)起來，Cache是為了給CPU提供高速存儲(chǔ)訪問，利用數(shù)據(jù)局部性而設(shè)計(jì)的小存儲(chǔ)單元。
1.2 實(shí)際系統(tǒng)中的Cache
我們展示一下實(shí)際系統(tǒng)中的cache。
如上圖所示。整個(gè)系統(tǒng)的存儲(chǔ)架構(gòu)包括了CPU的寄存器，L1/L2/L3 CACHE，DRAM和硬盤。
數(shù)據(jù)訪問時(shí)先找寄存器，寄存器里沒有找L1 Cache, L1 Cache里沒有找L2 Cache依次類推，最后找到硬盤中。
同時(shí)，我們可以看到，速度與存儲(chǔ)容量的折衷關(guān)系。容量越小，訪問速度越快！
其中，一個(gè)概念需要搞清楚。
CPU和Cache是word傳輸?shù)模鳦ache到主存是以塊傳輸?shù)?。一塊大約64Byte.
現(xiàn)有SOC中的Cache一般組成如下。
1.3 Cache的分類
Cache按照不同標(biāo)準(zhǔn)分類可以分為若干類。
按照數(shù)據(jù)類型劃分：I-Cache與D-Cache。其中I-Cache負(fù)責(zé)放置指令，D-Cache負(fù)責(zé)方式數(shù)據(jù)。兩者最大的不同是D-Cache里的數(shù)據(jù)可以寫回，I-Cache是只讀的。 按照大小劃分：分為small cache和large cache。沒路組（后文組相連介紹）<4KB叫small cache, 多用于L1 Cache, 大于4KB叫l(wèi)arge cache。多用于L2及其他cache. 按照位置劃分：Inner Cache和Outer Cache。一般獨(dú)屬于CPU微架構(gòu)的叫Inner cache, 例如上圖的L1 L2 CACHE。不屬于CPU微架構(gòu)的叫outer cache. 按照數(shù)據(jù)關(guān)系劃分：Inclusive/exclusive Cache: 下級(jí)Cache包含上級(jí)的數(shù)據(jù)叫inclusive cache。不包含叫exclusive cache。舉個(gè)例子，L3 Cache里有L2 Cache的數(shù)據(jù)，則L2 Cache叫exclusive cache。
2 Cache的工作原理
要講清楚Cache的工作原理，需要回答4個(gè)問題：
數(shù)據(jù)如何放置 數(shù)據(jù)如何查詢 數(shù)據(jù)如何被替換 如果發(fā)生了寫操作，cache如何處理
2.1 數(shù)據(jù)如何放置
這個(gè)問題也好解決。我們舉個(gè)簡(jiǎn)單的栗子來說明問題。
假設(shè)我們主存中有32個(gè)塊，而我們的cache一共有8個(gè)cache行( 一個(gè)cache行放一行數(shù)據(jù)）。
假設(shè)我們要把主存中的塊12放到cache里。那么應(yīng)該放到cache里什么位置呢？
三種方法：
全相連（Fully associative）?？梢苑旁赾ache的任何位置。 直接映射（Direct mapped）。只允許放在cache的某一行。比如12 mod 8 組相連（set associative）?？梢苑旁赾ache的某幾行。例如2路組相連，一共有4組，所以可以放在0,1位置中的一個(gè)。
可以看到，全相連和直接映射是Cache組相連的兩種極端情況。
不同的放置方式主要影響有兩點(diǎn)：
組相連組數(shù)越大，比較電路就越大，但Cache利用率更高，cache miss發(fā)生的概率小。 組相連數(shù)目變小，cache經(jīng)常發(fā)生替換，但是比較電路比較小。
這也好理解，內(nèi)存中的塊在cache中可放置的位置多，自然找起來就麻煩。
2.2 如何在Cache中找數(shù)據(jù)
其實(shí)找數(shù)據(jù)就是一個(gè)比對(duì)過程。如下圖所示。我們地址都以Byte為單位的。但主存于cache之間的數(shù)據(jù)交換單位都是塊（block，現(xiàn)代cache一般一個(gè)block大約64Byte)。所以地址對(duì)最后幾位是block offset。由于我們采用了組相連，則還有幾個(gè)比特代表的是存儲(chǔ)到了哪個(gè)組。
組內(nèi)放著若干數(shù)據(jù)。我們需要比較Tag, 如果組內(nèi)有Tag出現(xiàn)，則說明我們?cè)L問的數(shù)據(jù)在緩存中，可以開心的使用了。
比如舉個(gè)2路組相連的例子。如下圖所示。T表示Tag。直接比較Tag，就能得知是不是命中了。如果命中了，則根據(jù)index(組號(hào)）將對(duì)應(yīng)的塊取出來即可。
如上圖所示。用index選出位于組相連的哪個(gè)組。然后并行的比較Tag, 判斷最后是不是在cache中。上圖是2路組相連，也就是說兩組并行比較。
那如果不在緩存中呢？這就涉及到另一個(gè)問題。
不在緩存中如何替換cache？
2.3 如何替換Cache中的數(shù)據(jù)
cache中的數(shù)據(jù)如何被替換的？這個(gè)就比較簡(jiǎn)單直接。
隨機(jī)替換。如果發(fā)生cache miss里隨機(jī)替換掉一塊。 Least recently used. LRU。最近使用的塊最后替換。 First in, first out (FIFO), 先進(jìn)先出。
實(shí)際上第一個(gè)不怎么使用，LRU和FIFO根據(jù)實(shí)際情況選擇即可。
cache在什么時(shí)候數(shù)據(jù)會(huì)被替換呢？也有幾種策略。
不在本cache替換。如果cache miss了，直接轉(zhuǎn)發(fā)訪問地址到主存，取到的數(shù)據(jù)不會(huì)寫到cache. 在讀MISS時(shí)替換。如果讀的時(shí)候cache里沒有該數(shù)據(jù)，則從主存讀取該數(shù)據(jù)后寫入cache。 在寫MISS時(shí)替換。如果寫的時(shí)候cache里沒有該數(shù)據(jù)，則將本數(shù)據(jù)調(diào)入cache再寫。
2.4 如果發(fā)生了寫操作怎么辦
Cache畢竟是個(gè)臨時(shí)緩存。如果發(fā)生了寫操作，會(huì)造成cache和主存中的數(shù)據(jù)不一致。如何保證寫數(shù)據(jù)操作正確呢？也有三種策略。
通寫：直接把數(shù)據(jù)寫回cache的同時(shí)寫回主存。極其影響寫速度。
回寫：先把數(shù)據(jù)寫回cache, 然后當(dāng)cache的數(shù)據(jù)被替換時(shí)再寫回主存。
通寫隊(duì)列：通寫與回寫的結(jié)合。先寫回一個(gè)隊(duì)列，然后慢慢往主存儲(chǔ)寫。如果多次寫同一個(gè)數(shù)據(jù)，直接寫這個(gè)隊(duì)列。避免頻繁寫主存。
3 Cache一致性
Cache一致性是Cache中遇到的比較坑的一個(gè)問題。什么原因需要cache處理一致性呢？
主要是多核系統(tǒng)中，假如core 0讀了主存儲(chǔ)的數(shù)據(jù)，寫了數(shù)據(jù)。core 1也讀了主從的數(shù)據(jù)。這個(gè)時(shí)候core 1并不知道數(shù)據(jù)已經(jīng)被改動(dòng)了，也就是說，core 1 cache中的數(shù)據(jù)過時(shí)了，會(huì)產(chǎn)生錯(cuò)誤。
Cache一致性的保證就是讓多核訪問不出錯(cuò)。
Cache一致性主要有兩種策略。
策略一：基于監(jiān)聽的一致性策略
這種策略是所有cache均監(jiān)聽各cache的寫操作，如果一個(gè)cache中的數(shù)據(jù)被寫了，有兩種處理辦法。
寫更新協(xié)議：某個(gè)cache發(fā)生寫了，就索性把所有cache都給更新了。
寫失效協(xié)議：某個(gè)cache發(fā)生寫了，就把其他cache中的該數(shù)據(jù)塊置為無效。
策略1由于監(jiān)聽起來成本比較大，所以只應(yīng)用于極簡(jiǎn)單的系統(tǒng)中。
策略二：基于目錄的一致性策略
這種策略是在主存處維護(hù)一張表。記錄各數(shù)據(jù)塊都被寫到了哪些cache, 從而更新相應(yīng)的狀態(tài)。一般來講這種策略采用的比較多。又分為下面幾個(gè)常用的策略。
SI: 對(duì)于一個(gè)數(shù)據(jù)塊來講，有share和invalid兩種狀態(tài)。如果是share狀態(tài)，直接通知其他cache, 將對(duì)應(yīng)的塊置為無效。 MSI：對(duì)于一個(gè)數(shù)據(jù)塊來講，有share和invalid，modified三種狀態(tài)。其中modified狀態(tài)表表示該數(shù)據(jù)只屬于這個(gè)cache, 被修改過了。當(dāng)這個(gè)數(shù)據(jù)被逐出cache時(shí)更新主存。這么做的好處是避免了大量的主從寫入。同時(shí)，如果是invalid時(shí)寫該數(shù)據(jù)，就要保證其他所有cache里該數(shù)據(jù)的標(biāo)志位不為M，負(fù)責(zé)要先寫回主存儲(chǔ)。 MESI：對(duì)于一個(gè)數(shù)據(jù)來講，有4個(gè)狀態(tài)。modified, invalid, shared, exclusive。其中exclusive狀態(tài)用于標(biāo)識(shí)該數(shù)據(jù)與其他cache不依賴。要寫的時(shí)候直接將該cache狀態(tài)改成M即可。我們著重講講MESI。圖中黑線：CPU的訪問。紅線：總線的訪問，其他cache的訪問。
我們著重講講MESI。圖中黑線：CPU的訪問。紅線：總線的訪問，其他cache的訪問。
當(dāng)前狀態(tài)時(shí)I狀態(tài)時(shí)，如果發(fā)生處理器讀操作prrd
如果其他cache里有這份數(shù)據(jù)，如果其他cache里是M態(tài)，先 把M態(tài)寫回主存再讀。否則直接讀。最終狀態(tài)變?yōu)镾。 其他cache里沒這個(gè)數(shù)據(jù)，直接變到E狀態(tài)。
當(dāng)前狀態(tài)為S態(tài)
如果發(fā)生了處理器讀操作，仍然在S態(tài)。 如果發(fā)生了處理器寫操作，則跳轉(zhuǎn)到M狀態(tài)。 如果其他cache發(fā)生了寫操作，跳到I態(tài)。
當(dāng)前狀態(tài)E態(tài)
發(fā)生了處理器讀操作還是E。 發(fā)生了處理器寫操作變成M。 如果其他cache發(fā)生了讀操作，變到S狀態(tài)。
當(dāng)前狀態(tài)M態(tài)
發(fā)生了讀操作依舊是M態(tài)。 發(fā)生了寫操作依舊是M態(tài)。 如果其他cache發(fā)生了讀操作，則將數(shù)據(jù)寫回主存儲(chǔ)，變換到S態(tài)。
4 總結(jié)
cache在計(jì)算機(jī)體系架構(gòu)中有非常重要的地位。本文講了cache中最主要的內(nèi)容。具體細(xì)節(jié)可以再根據(jù)某個(gè)點(diǎn)深入研究。
文章感覺看起來吃力的話，可以看看視頻，推薦一個(gè) B 站的白嫖速成視頻（二哥已推薦好多次）。
https://www.bilibili.com/video/BV1EW411u7th
當(dāng)然，上班的同學(xué)也可以看看，如果對(duì)計(jì)算機(jī)喜歡的話。
這種基礎(chǔ)類入門科普視頻，等有一定基礎(chǔ)，偶爾看看，別有一番風(fēng)味。
我是二哥呀，我們下期見~
·················END·················