Shopee 送命題：進程切換為什么比線程切換慢

這個問題挺有區(qū)分度的，我也是昨天整理面經(jīng)才看見的這道題。

注意這里問的是為什么進程切換比線程慢，而不是問為什么進程比線程慢。當(dāng)然這里的線程肯定指的是同一個進程中的線程。

老規(guī)矩，背誦版在文末。

引子

在進入文題之前，我想有必要解釋下虛擬地址（邏輯地址）和物理地址的區(qū)別

下面這段 C 代碼摘錄自《操作系統(tǒng)導(dǎo)論 - ?[美] 雷姆茲·H.阿帕希杜塞爾》，依次打印出 main 函數(shù)的地址，由 malloc（類似于 Java 中的 new 操作）返回的堆空間分配的值，以及棧上一個整數(shù)的地址：

得到以下輸出：

我們需要知道的是，所有這些打印出來的地址都是虛擬的，在物理內(nèi)存中這些地址并不真實存在，它們最終都將由操作系統(tǒng)和 CPU 硬件翻譯成真正的物理地址，然后才能從真實的物理位置獲取該地址的值。

OK，上述就當(dāng)作一個引子，讓各位對物理地址和虛擬地址有個直觀的理解，下面正文開始。

物理尋址 Physical ?Addressing

物理地址的概念很好理解，你可以把它稱為真正的地址。《深入理解計算機系統(tǒng) - 第 3 版》中給出的物理地址（physical address）的定義如下：

計算機系統(tǒng)的主存被組織成一個由 M 個連續(xù)的字節(jié)大小的單元組成的數(shù)組。每字節(jié)都有一個唯一的物理地址。

比如說，第一個字節(jié)的物理地址是 0，接下來的字節(jié)地址是 1，再下一個是 2，以此類推，給定這種簡單的結(jié)構(gòu)，CPU 訪問內(nèi)存的最自然的方式就是使用這樣的物理地址。我們把這種方式稱為物理尋址（physical ?addressing）。

舉個例子，比如說當(dāng)程序執(zhí)行了一條加載指令，指令內(nèi)容是從物理地址 4 中讀取 4 字節(jié)字傳送到某個寄存器中。

物理尋址過程如下：當(dāng) CPU 執(zhí)行到這條指令時，會生成物理地址 4，然后通過內(nèi)存主線，把它傳遞給內(nèi)存，內(nèi)存取出從物理地址 4 處開始的 4 字節(jié)字，并將它返回給 CPU，CPU 會將它存放到指定的寄存器中。看下圖：

其實不難發(fā)現(xiàn)，物理尋址這種方式，每一個程序都直接訪問物理內(nèi)存，其實是存在重大缺陷的：

1）首先，用戶程序可以尋址內(nèi)存的任意一個字節(jié)，它們就可以很容易地破壞操作系統(tǒng)，從而使系統(tǒng)慢慢地停止運行。

2）再次，這種尋址方式使得操作系統(tǒng)中同時運行兩個或以上的程序幾乎是不可能的。

舉個例子，我們打開了三個相同的程序（計算器），都執(zhí)行到某一步。比方說，用戶在這三個計算器程序的界面上分別輸入了 10、100、1000，其對應(yīng)的指令就是把用戶輸入的數(shù)字保存在內(nèi)存中的某個地址中。如果這個位置只能保存一個數(shù)，那應(yīng)該保存哪個呢？這不就沖突了嗎？

簡單來說，第一個計算器程序給物理內(nèi)存地址賦值 10，第二個計算器程序也同樣給這個地址賦值為 100，那么第二個程序的賦值會覆蓋掉第一個程序所賦的值，這會造成兩個程序同時崩潰。

當(dāng)然了，我們也說了是幾乎不可能，不是完全不可能，還是有一些方法可以在物理尋址這種方式下實現(xiàn)多個程序并發(fā)運行的。

最簡單的方法就是：首先，將空閑的進程存儲在磁盤上，這樣當(dāng)它們不運行時就不會占用內(nèi)存，然后，讓一個程序（或者說進程）單獨占用全部內(nèi)存運行一小段時間，當(dāng)發(fā)生上下文切換的時候，就停止這個進程，并將它所有的狀態(tài)信息保存在磁盤上，再加載其他進程的狀態(tài)信息，然后運行一段時間...... 只要在某一個時間內(nèi)存中只有一個程序，那么就不會發(fā)生上述所說的地址沖突。這就實現(xiàn)了一種比較粗糙的并發(fā)。

為什么說他是粗糙的呢，因為這種方法有一個問題：將全部的內(nèi)存信息保存到磁盤太慢了！特別是當(dāng)內(nèi)存增長的時候。

因此，我們考慮把進程對應(yīng)的內(nèi)存一直留在物理內(nèi)存中，給每個進程分別劃分各自的區(qū)域，在發(fā)生上下文切換的時候就切換到特定的區(qū)域。

如下圖所示，有 3 個進程（A、B、C），每個進程擁有從 512KB 物理內(nèi)存中切出來給它們的一小部分內(nèi)存，可以理解為這 3 個進程共享物理內(nèi)存：

顯然，這種方式是存在一定安全隱患的。畢竟如果各個進程之間可以隨意讀取、寫入內(nèi)容的話那就亂套了。

那么如何對每個進程使用的地址進行保護（protection）呢？繼續(xù)使用物理內(nèi)存模型肯定是不行了，因此操作系統(tǒng)創(chuàng)造了一個新的內(nèi)存抽象，引入了一個新的內(nèi)存模型，那就是虛擬地址空間，很多書中都會直接稱呼為 “地址空間（Address Space）”。

虛擬尋址 Virtual Addressing

上面提到，對于物理內(nèi)存模型來說，如果各個進程之間可以隨意讀取、寫入內(nèi)容的話那就亂套了。

所以，每個進程的棧啊、堆啊、代碼段啊等等它們的實際物理內(nèi)存地址對于這個進程來說應(yīng)該是不可見的，這樣誰也不能直接訪問這個物理地址。

那問題就來了，物理地址被隱藏起來了，我們該怎么去訪問這個進程呢？

操作系統(tǒng)會給每個進程分配一個虛擬地址空間（vitural address），每個進程包含的棧、堆、代碼段這些都會從這個地址空間中被分配一個地址，這個地址就被稱為虛擬地址。底層指令寫入的地址也是虛擬地址。

每個進程都擁有一個自己的虛擬地址空間，并且獨立于其他進程的地址空間。（注意這句話非常重要！！！兄弟姐妹們背起來）

也就是說一個進程中的虛擬地址 28 所對應(yīng)的物理地址與另一個進程中的虛擬地址 28 所對應(yīng)的物理地址是不同的，這樣就不會發(fā)生沖突了。

可以這么理解，物理地址就是一個倉庫，虛擬地址就是一個門牌，比方說一共有三十個門牌，那么所有的進程都能看見這三十個門牌，但是他們看見的某個相同門牌，指向的并不是同一個倉庫。

有了虛擬地址空間后，CPU 就可以通過生成一個虛擬地址來訪問主存，這個虛擬地址在被送到內(nèi)存之前會先被轉(zhuǎn)換成合適的物理地址，這個虛擬地址到物理地址的轉(zhuǎn)換過程稱為 地址翻譯/地址轉(zhuǎn)換（address translation）。

地址翻譯需要 CPU 硬件和操作系統(tǒng)的密切合作：CPU 上的內(nèi)存管理單元（Memory Management Unit，MMU）就是專門用來進行虛擬地址到物理地址的轉(zhuǎn)換的，不過 MMU 需要借助存放在內(nèi)存中的頁表，而這張表的內(nèi)容正是由操作系統(tǒng)進行管理的。

頁表是一個十分重要的數(shù)據(jù)結(jié)構(gòu)！

操作系統(tǒng)為每個進程建立了一張頁表。一個進程對應(yīng)一張頁表，進程的每個頁面對應(yīng)一個頁表項，每個頁表項由頁號和塊號（頁框號）組成，記錄著進程頁面和實際存放的內(nèi)存塊之間的映射關(guān)系。

從數(shù)學(xué)角度來說，頁表是一個函數(shù)，它的參數(shù)是虛擬頁號，結(jié)果是物理頁框號。

至此，上述這一套 CPU 生成虛擬地址并進行地址翻譯的流程就是虛擬尋址（virtual addressing）：

進程切換為什么比線程切換慢？

呼，講了一大堆，其實最重要的就是這句話：

每個進程都擁有一個自己的虛擬地址空間，并且獨立于其他進程的地址空間

So，Tell me，進程切換會涉及什么的切換？

是的，進程切換會涉及到虛擬地址空間的切換，而這正是導(dǎo)致進程切換比線程切換慢的原因所在！

很多小伙伴可能都云里霧里，啊，是這樣嗎，怎么回事

想一下，上面是不是說過，虛擬地址轉(zhuǎn)換為物理地址需要兩個東西：CPU 上的 MMU 和內(nèi)存中的頁表

每次訪問內(nèi)存，都需要進行虛擬地址到物理地址的轉(zhuǎn)換，對吧，因此，每條指令進行一兩次或更多地去訪問頁表是必要的，而頁表又是存在于內(nèi)存中的。

顯然，訪問頁表（內(nèi)存）次數(shù)太多導(dǎo)致其成為了操作系統(tǒng)地一個性能瓶頸，我們得想個法子解決它

于是，轉(zhuǎn)換檢測緩沖區(qū)（Translation Lookaside Buffer，TLB）應(yīng)運而生，也稱為快表

為啥說他快呢？因為 TLB 通常內(nèi)置在 CPU 的 MMU 中，這訪問速度跟內(nèi)存不是一個檔次的。內(nèi)存中的頁表一般被稱為慢表。

事實上，TLB 的出現(xiàn)是基于這樣一種現(xiàn)象的：大多數(shù)程序總是對少量的頁面進行多次的訪問。因此，只有很少的頁表項會被反復(fù)讀取，而其他的頁表項很少被訪問。

TLB 中存放的就是那些會被反復(fù)讀取的頁表項。換句話說，TLB 中存放的就是頁表中的一部分副本。

若 TLB 命中，就不需要再訪問內(nèi)存了；若 TLB 中沒有目標頁表項，則還需要去查詢內(nèi)存中的頁表（慢表），從頁表中得到物理頁框地址，同時將頁表中的該表項添加到 TLB 中。

簡單理解，TLB 就相當(dāng)于一個緩存

現(xiàn)在再回到問題，不知道各位小伙伴有沒有一點思路了。

由于進程切換會涉及到虛擬地址空間的切換，這就導(dǎo)致內(nèi)存中的頁表也需要進行切換，一個進程對應(yīng)一個頁表是不假，但是 CPU 中的 TLB 只有一個啊，這就尷尬了，頁表切換后這個 TLB 就失效了。這樣，TLB 在一段時間內(nèi)肯定是無法被命中的，操作系統(tǒng)就必須去訪問內(nèi)存，那么虛擬地址轉(zhuǎn)換為物理地址就會變慢，表現(xiàn)出來的就是程序運行會變慢。

而線程切換呢，由于不涉及虛擬地址空間的切換，也就不存在這個問題了。

最后放上這道題的背誦版：

?? 面試官：進程切換為什么比線程切換要慢呢？

?? 小牛肉：額，關(guān)于這個問題，需要從虛擬地址和物理地址說起

物理地址就是真實的地址嘛，這種尋址方式很容易破壞操作系統(tǒng)，而且使得操作系統(tǒng)中同時運行兩個或以上的程序幾乎是不可能的（此處可以舉個例子，第一個程序給物理內(nèi)存地址賦值 10，第二個程序也同樣給這個地址賦值為 100，那么第二個程序的賦值會覆蓋掉第一個程序所賦的值，這會造成兩個程序同時崩潰）。

當(dāng)然，也不是完全不可能，有一種方式可以實現(xiàn)比較粗糙的并發(fā)

就是說，我們將空閑的進程存儲在磁盤上，這樣當(dāng)它們不運行時就不會占用內(nèi)存，當(dāng)進程需要運行的時候再從磁盤上轉(zhuǎn)到內(nèi)存上來，不過很顯然這種方式比較浪費時間。

于是，我們考慮，把所有進程對應(yīng)的內(nèi)存一直留在物理內(nèi)存中，給每個進程分別劃分各自的區(qū)域，這樣，發(fā)生上下文切換的時候就切換到特定的區(qū)域

那問題還是很明顯的，就是仍然沒法避免破壞操作系統(tǒng)，因為各個進程之間可以隨意讀取、寫入內(nèi)容。

所以，我們需要一種機制對每個進程使用的地址進行保護，因此操作系統(tǒng)創(chuàng)造了一個新的內(nèi)存模型，那就是虛擬地址空間

就是說，每個進程都擁有一個自己的虛擬地址空間，并且獨立于其他進程的地址空間，然后每個進程包含的棧、堆、代碼段這些都會從這個地址空間中被分配一個地址，這個地址就被稱為虛擬地址。底層指令寫入的地址也是虛擬地址。

有了虛擬地址空間后，CPU 就可以通過虛擬地址轉(zhuǎn)換成物理地址這樣一個過程，來間接訪問物理內(nèi)存了。

地址轉(zhuǎn)換需要兩個東西，一個是 CPU 上的內(nèi)存管理單元 MMU，另一個是內(nèi)存中的頁表，頁表中存的虛擬地址到物理地址的映射

但是呢，每次訪問內(nèi)存，都需要進行虛擬地址到物理地址的轉(zhuǎn)換，對吧，這樣的話，頁表就會被頻繁地訪問，而頁表又是存在于內(nèi)存中的。所以說，訪問頁表（內(nèi)存）次數(shù)太多導(dǎo)致其成為了操作系統(tǒng)地一個性能瓶頸。

于是，引入了轉(zhuǎn)換檢測緩沖區(qū) TLB，也就是快表，其實就是一個緩存，把經(jīng)常訪問到的內(nèi)存地址映射存在 TLB 中，因為 TLB 是在 CPU 的 MMU 中的嘛，所以訪問起來非常快。

然后，正是因為 TLB 這個東西，導(dǎo)致了進程切換比線程切換慢。

由于進程切換會涉及到虛擬地址空間的切換，這就導(dǎo)致內(nèi)存中的頁表也需要進行切換，一個進程對應(yīng)一個頁表是不假，但是 CPU 中的 TLB 只有一個，頁表切換后這個 TLB 就失效了。這樣，TLB 在一段時間內(nèi)肯定是無法被命中的，操作系統(tǒng)就必須去訪問內(nèi)存，那么虛擬地址轉(zhuǎn)換為物理地址就會變慢，表現(xiàn)出來的就是程序運行會變慢。

而線程切換呢，由于不涉及虛擬地址空間的切換，所以也就不存在這個問題了。

over