Linux內(nèi)核調(diào)度器源碼分析
點(diǎn)擊上方“程序員大白”，選擇“星標(biāo)”公眾號
重磅干貨，第一時(shí)間送達(dá)
來源：騰訊云原生
作者：賴濱
導(dǎo)語
調(diào)度器(Scheduler)子系統(tǒng)是內(nèi)核的核心子系統(tǒng)之一，負(fù)責(zé)系統(tǒng)內(nèi) CPU 資源的合理分配，需要能處理紛繁復(fù)雜的不同類型任務(wù)的調(diào)度需求，還需要能處理各種復(fù)雜的并發(fā)競爭環(huán)境，同時(shí)還需要兼顧整體吞吐性能和實(shí)時(shí)性要求(本身是一對矛盾體)，其設(shè)計(jì)與實(shí)現(xiàn)都極具挑戰(zhàn)。
為了能夠理解 Linux 調(diào)度器的設(shè)計(jì)與實(shí)現(xiàn)，我們將以 Linux kernel 5.4 版本(TencentOS Server3 默認(rèn)內(nèi)核版本)為對象，從調(diào)度器子系統(tǒng)的初始化代碼開始，分析 Linux 內(nèi)核調(diào)度器的設(shè)計(jì)與實(shí)現(xiàn)。
本(系列)文通過分析 Linux 調(diào)度器(主要針對 CFS)的設(shè)計(jì)與實(shí)現(xiàn)，希望能夠讓讀者了解：
調(diào)度器的基本概念 調(diào)度器的初始化(包括調(diào)度域相關(guān)的種種) 進(jìn)程的創(chuàng)建、執(zhí)行與銷毀 進(jìn)程切換原理與實(shí)現(xiàn) CFS 進(jìn)程調(diào)度策略(單核) 如何在全局系統(tǒng)的調(diào)度上保證 CPU 資源的合理使用 如何平衡 CPU 緩存熱度與 CPU 負(fù)載之間的關(guān)系 很 special 的調(diào)度器 features 分析
調(diào)度器的基本概念
在分析調(diào)度器的相關(guān)代碼之前，需要先了解一下調(diào)度器涉及的核心數(shù)據(jù)(結(jié)構(gòu))以及它們的作用
運(yùn)行隊(duì)列（rq）
內(nèi)核會為每個(gè) CPU 創(chuàng)建一個(gè)運(yùn)行隊(duì)列，系統(tǒng)中的就緒態(tài)(處于 Running 狀態(tài)的)進(jìn)程(task)都會被組織到內(nèi)核運(yùn)行隊(duì)列上，然后根據(jù)相應(yīng)的策略，調(diào)度運(yùn)行隊(duì)列上的進(jìn)程到 CPU 上執(zhí)行。
調(diào)度類(sched_class)
內(nèi)核將調(diào)度策略（sched_class）進(jìn)行了高度的抽象，形成調(diào)度類(sched_class)。通過調(diào)度類可以將調(diào)度器的公共代碼(機(jī)制)和具體不同調(diào)度類提供的調(diào)度策略進(jìn)行充分解耦，是典型的 OO(面向?qū)ο?的思想。通過這樣的設(shè)計(jì)，可以讓內(nèi)核調(diào)度器極具擴(kuò)展性，開發(fā)者通過很少的代碼(基本不需改動公共代碼)就可以增加一個(gè)新的調(diào)度類，從而實(shí)現(xiàn)一種全新的調(diào)度器(類)，比如，deadline調(diào)度類就是3.x中新增的，從代碼層面看只是增加了 dl_sched_class 這個(gè)結(jié)構(gòu)體的相關(guān)實(shí)現(xiàn)函數(shù)，就很方便的添加了一個(gè)新的實(shí)時(shí)調(diào)度類型。
目前的5.4內(nèi)核，有5種調(diào)度類，優(yōu)先級從高到底分布如下：
stop_sched_class:
優(yōu)先級最高的調(diào)度類，它與 idle_sched_class 一樣，是一個(gè)專用的調(diào)度類型（除了 migration 線程之外，其他的 task 都是不能或者說不應(yīng)該被設(shè)置為 stop 調(diào)度類）。該調(diào)度類專用于實(shí)現(xiàn)類似 active balance 或 stop machine 等依賴于 migration 線程執(zhí)行的“緊急”任務(wù)。
dl_sched_class:
deadline 調(diào)度類的優(yōu)先級僅次于 stop 調(diào)度類，它是一種基于 EDL 算法實(shí)現(xiàn)的實(shí)時(shí)調(diào)度器（或者說調(diào)度策略）。
rt_sched_class:
rt 調(diào)度類的優(yōu)先級要低于 dl 調(diào)度類，是一種基于優(yōu)先級實(shí)現(xiàn)的實(shí)時(shí)調(diào)度器。
fair_sched_class:
CFS 調(diào)度器的優(yōu)先級要低于上面的三個(gè)調(diào)度類，它是基于公平調(diào)度思想而設(shè)計(jì)的調(diào)度類型，是 Linux 內(nèi)核的默認(rèn)調(diào)度類。
idle_sched_class:
idle 調(diào)度類型是 swapper 線程，主要是讓 swapper 線程接管 CPU，通過 cpuidle/nohz 等框架讓 CPU 進(jìn)入節(jié)能狀態(tài)。
調(diào)度域(sched_domain)
調(diào)度域是在2.6里引入內(nèi)核的，通過多級調(diào)度域引入，能夠讓調(diào)度器更好的適應(yīng)硬件的物理特性（調(diào)度域可以更好的適配 CPU 多級緩存以及 NUMA 物理特性對負(fù)載均衡所帶來的挑戰(zhàn)），實(shí)現(xiàn)更好的調(diào)度性能（sched_domain 是為 CFS 調(diào)度類負(fù)載均衡而開發(fā)的機(jī)制）。
調(diào)度組(sched_group)
調(diào)度組是與調(diào)度域一起被引入內(nèi)核的，它會與調(diào)度域一起配合，協(xié)助 CFS 調(diào)度器完成多核間的負(fù)載均衡。
根域(root_domain)
根域主要是負(fù)責(zé)實(shí)時(shí)調(diào)度類（包括 dl 和 rt 調(diào)度類）負(fù)載均衡而設(shè)計(jì)的數(shù)據(jù)結(jié)構(gòu)，協(xié)助 dl 和 rt 調(diào)度類完成實(shí)時(shí)任務(wù)的合理調(diào)度。在沒有用 isolate 或者 cpuset cgroup 修改調(diào)度域的時(shí)候，那么默認(rèn)情況下所有的CPU都會處于同一個(gè)根域。
組調(diào)度（group_sched）
為了能夠?qū)ο到y(tǒng)里的資源進(jìn)行更精細(xì)的控制，內(nèi)核引入了 cgroup 機(jī)制來進(jìn)行資源控制。而 group_sched 就是 cpu cgroup 的底層實(shí)現(xiàn)機(jī)制，通過 cpu cgroup 我們可以將一些進(jìn)程設(shè)置為一個(gè) cgroup，并且通過 cpu cgroup 的控制接口配置相應(yīng)的帶寬和 share 等參數(shù)，這樣我們就可以按照 group 為單位，對 CPU 資源進(jìn)行精細(xì)的控制。
調(diào)度器初始化(sched_init)
下面進(jìn)入正題，開始分析內(nèi)核調(diào)度器的初始化流程，希望能通過這里的分析，讓大家了解：
1、運(yùn)行隊(duì)列是如何被初始化的
2、組調(diào)度是如何與 rq 關(guān)聯(lián)起來的(只有關(guān)聯(lián)之后才能通過 group_sched 進(jìn)行組調(diào)度)
3、CFS 軟中斷 SCHED_SOFTIRQ 注冊
調(diào)度初始化(sched_init)
start_kernel
|----setup_arch
|----build_all_zonelists
|----mm_init
|----sched_init 調(diào)度初始化
調(diào)度初始化位于 start_kernel 相對靠后的位置，這個(gè)時(shí)候內(nèi)存初始化已經(jīng)完成，所以可以看到 sched_init 里面已經(jīng)可以調(diào)用 kzmalloc 等內(nèi)存申請函數(shù)了。
sched_init 需要為每個(gè) CPU 初始化運(yùn)行隊(duì)列(rq)、dl/rt 的全局默認(rèn)帶寬、各個(gè)調(diào)度類的運(yùn)行隊(duì)列以及 CFS 軟中斷注冊等工作。
接下來我們看看 sched_init 的具體實(shí)現(xiàn)（省略了部分代碼）：
void __init sched_init(void)
{
unsigned long ptr = 0;
int i;
/*
* 初始化全局默認(rèn)的rt和dl的CPU帶寬控制數(shù)據(jù)結(jié)構(gòu)
*
* 這里的rt_bandwidth和dl_bandwidth是用來控制全局的DL和RT的使用帶寬，防止實(shí)時(shí)進(jìn)程
* CPU使用過多，從而導(dǎo)致普通的CFS進(jìn)程出現(xiàn)饑餓的情況
*/
init_rt_bandwidth(&def_rt_bandwidth, global_rt_period(), global_rt_runtime());
init_dl_bandwidth(&def_dl_bandwidth, global_rt_period(), global_rt_runtime());
#ifdef CONFIG_SMP
/*
* 初始化默認(rèn)的根域
*
* 根域是dl/rt等實(shí)時(shí)進(jìn)程做全局均衡的重要數(shù)據(jù)結(jié)構(gòu)，以rt為例
* root_domain->cpupri 是這個(gè)根域范圍內(nèi)每個(gè)CPU上運(yùn)行的RT任務(wù)的最高優(yōu)先級，以及
* 各個(gè)優(yōu)先級任務(wù)在CPU上的分布情況，通過cpupri的數(shù)據(jù)，那么在rt enqueue/dequeue
* 的時(shí)候，rt調(diào)度器就可以根據(jù)這個(gè)rt任務(wù)分布情況來保證高優(yōu)先級的任務(wù)得到優(yōu)先
* 運(yùn)行
*/
init_defrootdomain();
#endif
#ifdef CONFIG_RT_GROUP_SCHED
/*
* 如果內(nèi)核支持rt組調(diào)度(RT_GROUP_SCHED), 那么對RT任務(wù)的帶寬控制將可以用cgroup
* 的粒度來控制每個(gè)group里rt任務(wù)的CPU帶寬使用情況
*
* RT_GROUP_SCHED可以讓rt任務(wù)以cpu cgroup的形式來整體控制帶寬
* 這樣可以為RT帶寬控制帶來更大的靈活性(沒有RT_GROUP_SCHED的時(shí)候，只能控制RT的全局
* 帶寬使用，不能通過指定group的形式控制部分RT進(jìn)程帶寬)
*/
init_rt_bandwidth(&root_task_group.rt_bandwidth,
global_rt_period(), global_rt_runtime());
#endif /* CONFIG_RT_GROUP_SCHED */
/* 為每個(gè)CPU初始化它的運(yùn)行隊(duì)列 */
for_each_possible_cpu(i) {
struct rq *rq;
rq = cpu_rq(i);
raw_spin_lock_init(&rq->lock);
/*
* 初始化rq上cfs/rt/dl的運(yùn)行隊(duì)列
* 每個(gè)調(diào)度類型在rq上都有各自的運(yùn)行隊(duì)列，每個(gè)調(diào)度類都是各自管理自己的進(jìn)程
* 在pick_next_task()的時(shí)候，內(nèi)核根據(jù)調(diào)度類優(yōu)先級的順序，從高到底選擇任務(wù)
* 這樣就保證了高優(yōu)先級調(diào)度類任務(wù)會優(yōu)先得到運(yùn)行
*
* stop和idle是特殊的調(diào)度類型，是為專門的目的而設(shè)計(jì)的調(diào)度類，并不允許用戶
* 創(chuàng)建相應(yīng)類型的進(jìn)程，所以內(nèi)核也沒有在rq里設(shè)計(jì)對應(yīng)的運(yùn)行隊(duì)列
*/
init_cfs_rq(&rq->cfs);
init_rt_rq(&rq->rt);
init_dl_rq(&rq->dl);
#ifdef CONFIG_FAIR_GROUP_SCHED
/*
* CFS的組調(diào)度(group_sched)，可以通過cpu cgroup來對CFS進(jìn)行進(jìn)行控制
* 可以通過cpu.shares來提供group之間的CPU比例控制(讓不同的cgroup按照對應(yīng)
* 的比例來分享CPU)，也可以通過cpu.cfs_quota_us來進(jìn)行配額設(shè)定(與RT的
* 帶寬控制類似)。CFS group_sched帶寬控制是容器實(shí)現(xiàn)的基礎(chǔ)底層技術(shù)之一
*
* root_task_group 是默認(rèn)的根task_group，其他的cpu cgroup都會以它做為
* parent或者ancestor。這里的初始化將root_task_group與rq的cfs運(yùn)行隊(duì)列
* 關(guān)聯(lián)起來，這里做的很有意思，直接將root_task_group->cfs_rq[cpu] = &rq->cfs
* 這樣在cpu cgroup根下的進(jìn)程或者cgroup tg的sched_entity會直接加入到rq->cfs
* 隊(duì)列里，可以減少一層查找開銷。
*/
root_task_group.shares = ROOT_TASK_GROUP_LOAD;
INIT_LIST_HEAD(&rq->leaf_cfs_rq_list);
rq->tmp_alone_branch = &rq->leaf_cfs_rq_list;
init_cfs_bandwidth(&root_task_group.cfs_bandwidth);
init_tg_cfs_entry(&root_task_group, &rq->cfs, NULL, i, NULL);
#endif /* CONFIG_FAIR_GROUP_SCHED */
rq->rt.rt_runtime = def_rt_bandwidth.rt_runtime;
#ifdef CONFIG_RT_GROUP_SCHED
/* 初始化rq上的rt運(yùn)行隊(duì)列，與上面的CFS的組調(diào)度初始化類似 */
init_tg_rt_entry(&root_task_group, &rq->rt, NULL, i, NULL);
#endif
#ifdef CONFIG_SMP
/*
* 這里將rq與默認(rèn)的def_root_domain進(jìn)行關(guān)聯(lián)，如果是SMP系統(tǒng)，那么后面
* 在sched_init_smp的時(shí)候，內(nèi)核會創(chuàng)建新的root_domain，然后替換這里
* def_root_domain
*/
rq_attach_root(rq, &def_root_domain);
#endif /* CONFIG_SMP */
}
/*
* 注冊CFS的SCHED_SOFTIRQ軟中斷服務(wù)函數(shù)
* 這個(gè)軟中斷住要是周期性負(fù)載均衡以及nohz idle load balance而準(zhǔn)備的
*/
init_sched_fair_class();
scheduler_running = 1;
}
多核調(diào)度初始化(sched_init_smp)
多核調(diào)度初始化主要是完成調(diào)度域/調(diào)度組的初始化（當(dāng)然根域也會做，但相對而言，根域的初始化會比較簡單）。
Linux 是一個(gè)可以跑在多種芯片架構(gòu)，多種內(nèi)存架構(gòu)（UMA/NUMA）上運(yùn)行的操作系統(tǒng)，所以 Linu x需要能夠適配多種物理結(jié)構(gòu)，所以它的調(diào)度域設(shè)計(jì)與實(shí)現(xiàn)也是相對比較復(fù)雜的。
調(diào)度域?qū)崿F(xiàn)原理
在講具體的調(diào)度域初始化代碼之前，我們需要先了解調(diào)度域與物理拓?fù)浣Y(jié)構(gòu)之間的關(guān)系（因?yàn)檎{(diào)度域的設(shè)計(jì)是與物理拓?fù)浣Y(jié)構(gòu)息息相關(guān)的，如果不理解物理拓?fù)浣Y(jié)構(gòu)，那么就沒有辦法真正理解調(diào)度域的實(shí)現(xiàn)）
CPU的物理拓?fù)鋱D
我們假設(shè)一個(gè)計(jì)算機(jī)系統(tǒng)(與 intel 芯片類似，但縮小 CPU 核心數(shù)，以方便表示)：
雙 socket 的計(jì)算機(jī)系統(tǒng)，每個(gè) socket 都是2核4線程組成，那么這個(gè)計(jì)算機(jī)系統(tǒng)就應(yīng)該是一個(gè)4核8線程的 NUMA 系統(tǒng)（上面只是 intel 的物理拓?fù)浣Y(jié)構(gòu)，而像 AMD ZEN 架構(gòu)采用了 chiplet 的設(shè)計(jì)，它在 MC 與 NUMA 域之間會多一層 DIE 域）。
第一層（SMT 域）：
如上圖的 CORE0，2個(gè)超線程構(gòu)成了 SMT 域。對于 intel cpu 而言，超線程共享了 L1 與 L2（甚至連 store buffe 都在一定程度上共享），所以 SMT 域之間互相遷移是沒有任何緩存熱度損失的
第二層（MC 域）：
如上圖 CORE0 與 CORE1，他們位于同一個(gè) SOCKET，屬于 MC 域。對于 intel cpu 而言，他們一般共享 LLC（一般是 L3），在這個(gè)域里進(jìn)程遷移雖然會失去 L1 與 L2 的熱度，但 L3 的緩存熱度還是可以保持的
第三層（NUMA域）：
如上圖的 SOCKET0 和 SOCKET1，它們之間的進(jìn)程遷移會導(dǎo)致所有緩存熱度的損失，會有較大的開銷，所以 NUMA 域的遷移需要相對的謹(jǐn)慎。
正是由于這樣的硬件物理特性（不同層級的緩存熱度、NUMA 訪問延遲等硬件因素），所以內(nèi)核抽象了 sched_domain 和 sched_group 來表示這樣的物理特性。在做負(fù)載均衡的時(shí)候，根據(jù)相應(yīng)的調(diào)度域特性，做不同的調(diào)度策略(例如負(fù)載均衡的頻率、不平衡的因子以及喚醒選核邏輯等)，從而在CPU 負(fù)載與緩存親和性上做更好的平衡。
調(diào)度域具體實(shí)現(xiàn)
接下來我們可以看看內(nèi)核如何在上面的物理拓?fù)浣Y(jié)構(gòu)上建立調(diào)度域與調(diào)度組的
內(nèi)核會根據(jù)物理拓?fù)浣Y(jié)構(gòu)建立對應(yīng)層次的調(diào)度域，然后在每層調(diào)度域上再建立相應(yīng)的調(diào)度組。調(diào)度域在做負(fù)載均衡，是在對應(yīng)層次的調(diào)度域里找到負(fù)載最重的 busiest sg(sched_group)，然后再判斷 buiest sg 與 local sg（前 CPU 所在的調(diào)度組）的負(fù)載是否不均。如果存在負(fù)載不均的情況，則會從 buiest sg 里選擇 buisest cpu，然后進(jìn)行2個(gè) CPU 間的負(fù)載平衡。
SMT 域是最底層的調(diào)度域，可以看到每個(gè)超線程對就是一個(gè) smt domain。smt domain 里有2個(gè) sched_group，而每個(gè) sched_group 則只會有一個(gè)CPU。所以 smt 域的負(fù)載均衡就是執(zhí)行超線程間的進(jìn)程遷移，這個(gè)負(fù)載均衡的時(shí)間最短，條件最寬松。
而對于不存在超線程的架構(gòu)（或者說芯片沒有開啟超線程），那么最底層域就是MC域(這個(gè)時(shí)候就只有2層域，MC 與 NUMA)。這樣 MC 域里每個(gè) CORE 都是一個(gè) sched_group，內(nèi)核在調(diào)度的時(shí)候也可以很好的適應(yīng)這樣的場景。
MC 域則是 socket 上 CPU 所有的 CPU 組成，而其中每個(gè) sg 則為上級 smt domain 的所有CPU構(gòu)成。所以對于上圖而言，MC 的 sg 則由2個(gè) CPU 組成。內(nèi)核在 MC 域這樣設(shè)計(jì)，可以讓 CFS 調(diào)度類在喚醒負(fù)載均衡以及空閑負(fù)載均衡時(shí)，要求 MC 域的 sg 間需要均衡。
這個(gè)設(shè)計(jì)對于超線程來說很重要，我們在一些實(shí)際的業(yè)務(wù)里也可以觀察到這樣的情況。例如，我們有一項(xiàng)編解碼的業(yè)務(wù)，發(fā)現(xiàn)它在某些虛擬機(jī)里的測試數(shù)據(jù)較好，而在某些虛擬機(jī)里的測試數(shù)據(jù)較差。通過分析后發(fā)現(xiàn)，這是由于是否往虛擬機(jī)透傳超線程信息導(dǎo)致的。當(dāng)我們向虛擬機(jī)透傳超線程信息后，虛擬機(jī)會形成2層調(diào)度域（SMT 與 MC域），而在喚醒負(fù)載均衡的時(shí)候，CFS 會傾向于將業(yè)務(wù)調(diào)度到空閑的 sg 上（即空閑的物理 CORE，而不是空閑的 CPU），這個(gè)時(shí)候業(yè)務(wù)在 CPU 利用率不高（沒有超過40%）的時(shí)候，可以更加充分的利用物理CORE的性能（還是老問題，一個(gè)物理CORE上的超線程對，它們同時(shí)運(yùn)行 CPU 消耗型業(yè)務(wù)時(shí)，所獲得的性能增益只相當(dāng)于單線程1.2倍左右。），從而獲得較好的性能增益。而如果沒有透傳超線程信息，那么虛擬機(jī)只有一層物理拓?fù)浣Y(jié)構(gòu)(MC域)，那么由于業(yè)務(wù)很可能被調(diào)度通過一個(gè)物理 CORE 的超線程對上，這樣會導(dǎo)致系統(tǒng)無法充分利用物理CORE 的性能，從而導(dǎo)致業(yè)務(wù)性能偏低。
NUMA 域則是由系統(tǒng)里的所有 CPU 構(gòu)成，SOCKET 上的所有 CPU 構(gòu)成一個(gè) sg，上圖的 NUMA 域由2個(gè) sg 構(gòu)成。NUMA 的 sg 之間需要有較大的不平衡時(shí)（并且這里的不平衡是 sg 級別的，即要 sg 上所有CPU負(fù)載總和與另外一個(gè) sg 不平衡），才能進(jìn)行跨 NUMA 的進(jìn)程遷移（因?yàn)榭?NUMA 的遷移會導(dǎo)致 L1 L2 L3 的所有緩存熱度損失，以及可能引發(fā)更多的跨 NUMA 內(nèi)存訪問，所以需要小心應(yīng)對）。
從上面的介紹可以看到，通過 sched_domain 與 sched_group 的配合，內(nèi)核能夠適配各種物理拓?fù)浣Y(jié)構(gòu)（是否開啟超線程、是否開啟使用 NUMA），高效的使用 CPU 資源。
smp_init
/*
* Called by boot processor to activate the rest.
*
* 在SMP架構(gòu)里，BSP需要將其他的非boot cp全部bring up
*/
void __init smp_init(void)
{
int num_nodes, num_cpus;
unsigned int cpu;
/* 為每個(gè)CPU創(chuàng)建其idle thread */
idle_threads_init();
/* 向內(nèi)核注冊cpuhp線程 */
cpuhp_threads_init();
pr_info("Bringing up secondary CPUs ...\n");
/*
* FIXME: This should be done in userspace --RR
*
* 如果CPU沒有online，則用cpu_up將其bring up
*/
for_each_present_cpu(cpu) {
if (num_online_cpus() >= setup_max_cpus)
break;
if (!cpu_online(cpu))
cpu_up(cpu);
}
.............
}
在真正開始 sched_init_smp 調(diào)度域初始化之前，需要先 bring up 所有非 boot cpu，保證這些 CPU 處于 ready 狀態(tài)，然后才能開始多核調(diào)度域的初始化。
sched_init_smp
那這里我們來看看多核調(diào)度初始化具體的代碼實(shí)現(xiàn)（如果沒有配置 CONFIG_SMP，那么則不會執(zhí)行到這里的相關(guān)實(shí)現(xiàn)）
sched_init_numa
sched_init_numa() 是用來檢測系統(tǒng)里是否為 NUMA，如果是的則需要動態(tài)添加 NUMA 域。
/*
* Topology list, bottom-up.
*
* Linux默認(rèn)的物理拓?fù)浣Y(jié)構(gòu)
*
* 這里只有三級物理拓?fù)浣Y(jié)構(gòu)，NUMA域是在sched_init_numa()自動檢測的
* 如果存在NUMA域，則會添加對應(yīng)的NUMA調(diào)度域
*
* 注：這里默認(rèn)的 default_topology 調(diào)度域可能會存在一些問題，例如
* 有的平臺不存在DIE域(intel平臺)，那么就可能出現(xiàn)LLC與DIE域重疊的情況
* 所以內(nèi)核會在調(diào)度域建立好后，在cpu_attach_domain()里掃描所有調(diào)度
* 如果存在調(diào)度重疊的情況，則會destroy_sched_domain對應(yīng)的重疊調(diào)度域
*/
static struct sched_domain_topology_level default_topology[] = {
#ifdef CONFIG_SCHED_SMT
{ cpu_smt_mask, cpu_smt_flags, SD_INIT_NAME(SMT) },
#endif
#ifdef CONFIG_SCHED_MC
{ cpu_coregroup_mask, cpu_core_flags, SD_INIT_NAME(MC) },
#endif
{ cpu_cpu_mask, SD_INIT_NAME(DIE) },
{ NULL, },
};
Linux 默認(rèn)的物理拓?fù)浣Y(jié)構(gòu)
/*
* NUMA調(diào)度域初始化(根據(jù)硬件信息創(chuàng)建新的sched_domain_topology物理拓?fù)浣Y(jié)構(gòu))
*
* 內(nèi)核在默認(rèn)情況下并不會主動添加NUMA topology，需要根據(jù)配置(如果開啟了NUMA)
* 如果開啟了NUMA，這里就要根據(jù)硬件拓?fù)湫畔砼袛嗍欠裥枰砑?br> * sched_domain_topology_level 域(只有添加了這個(gè)域之后，內(nèi)核才會在后面初始化
* sched_domain的時(shí)候創(chuàng)建NUMA DOMAIN)
*/
void sched_init_numa(void)
{
...................
/*
* 這里會根據(jù)distance檢查是否存在NUMA域(甚至存在多級NUMA域)，然后根據(jù)
* 情況將其更新到物理拓?fù)浣Y(jié)構(gòu)里。后面的建立調(diào)度域的時(shí)候，就會這個(gè)新的
* 物理拓?fù)浣Y(jié)構(gòu)來建立新的調(diào)度域
*/
for (j = 1; j < level; i++, j++) {
tl[i] = (struct sched_domain_topology_level){
.mask = sd_numa_mask,
.sd_flags = cpu_numa_flags,
.flags = SDTL_OVERLAP,
.numa_level = j,
SD_INIT_NAME(NUMA)
};
}
sched_domain_topology = tl;
sched_domains_numa_levels = level;
sched_max_numa_distance = sched_domains_numa_distance[level - 1];
init_numa_topology_type();
}
檢測系統(tǒng)的物理拓?fù)浣Y(jié)構(gòu)，如果存在 NUMA 域則需要將其加到 sched_domain_topology 里，后面就會根據(jù) sched_domain_topology 這個(gè)物理拓?fù)浣Y(jié)構(gòu)來建立相應(yīng)的調(diào)度域。
sched_init_domains
下面接著分析 sched_init_domains 這個(gè)調(diào)度域建立函數(shù)
/*
* Set up scheduler domains and groups. For now this just excludes isolated
* CPUs, but could be used to exclude other special cases in the future.
*/
int sched_init_domains(const struct cpumask *cpu_map)
{
int err;
zalloc_cpumask_var(&sched_domains_tmpmask, GFP_KERNEL);
zalloc_cpumask_var(&sched_domains_tmpmask2, GFP_KERNEL);
zalloc_cpumask_var(&fallback_doms, GFP_KERNEL);
arch_update_cpu_topology();
ndoms_cur = 1;
doms_cur = alloc_sched_domains(ndoms_cur);
if (!doms_cur)
doms_cur = &fallback_doms;
/*
* doms_cur[0] 表示調(diào)度域需要覆蓋的cpumask
*
* 如果系統(tǒng)里用isolcpus=對某些CPU進(jìn)行了隔離，那么這些CPU是不會加入到調(diào)度
* 域里面，即這些CPU不會參與到負(fù)載均衡(這里的負(fù)載均衡包括DL/RT以及CFS)。
* 這里用 cpu_map & housekeeping_cpumask(HK_FLAG_DOMAIN) 的方式將isolate
* cpu去除掉，從而在保證建立的調(diào)度域里不包含isolate cpu
*/
cpumask_and(doms_cur[0], cpu_map, housekeeping_cpumask(HK_FLAG_DOMAIN));
/* 調(diào)度域建立的實(shí)現(xiàn)函數(shù) */
err = build_sched_domains(doms_cur[0], NULL);
register_sched_domain_sysctl();
return err;
}
/*
* Build sched domains for a given set of CPUs and attach the sched domains
* to the individual CPUs
*/
static int
build_sched_domains(const struct cpumask *cpu_map, struct sched_domain_attr *attr)
{
enum s_alloc alloc_state = sa_none;
struct sched_domain *sd;
struct s_data d;
struct rq *rq = NULL;
int i, ret = -ENOMEM;
struct sched_domain_topology_level *tl_asym;
bool has_asym = false;
if (WARN_ON(cpumask_empty(cpu_map)))
goto error;
/*
* Linux里的絕大部分進(jìn)程都為CFS調(diào)度類，所以CFS里的sched_domain將會被頻繁
* 的訪問與修改(例如nohz_idle以及sched_domain里的各種統(tǒng)計(jì))，所以sched_domain
* 的設(shè)計(jì)需要優(yōu)先考慮到效率問題，于是內(nèi)核采用了percpu的方式來實(shí)現(xiàn)sched_domain
* CPU間的每級sd都是獨(dú)立申請的percpu變量，這樣可以利用percpu的特性解決它們
* 間的并發(fā)競爭問題(1、不需要鎖保護(hù) 2、沒有cachline偽共享)
*/
alloc_state = __visit_domain_allocation_hell(&d, cpu_map);
if (alloc_state != sa_rootdomain)
goto error;
tl_asym = asym_cpu_capacity_level(cpu_map);
/*
* Set up domains for CPUs specified by the cpu_map:
*
* 這里會遍歷cpu_map里所有CPU，為這些CPU創(chuàng)建與物理拓?fù)浣Y(jié)構(gòu)對應(yīng)(
* for_each_sd_topology)的多級調(diào)度域。
*
* 在調(diào)度域建立的時(shí)候，會通過tl->mask(cpu)獲得cpu在該級調(diào)度域?qū)?yīng)
* 的span(即cpu與其他對應(yīng)的cpu組成了這個(gè)調(diào)度域)，在同一個(gè)調(diào)度域里
* 的CPU對應(yīng)的sd在剛開始的時(shí)候會被初始化成一樣的(包括sd->pan、
* sd->imbalance_pct以及sd->flags等參數(shù))。
*/
for_each_cpu(i, cpu_map) {
struct sched_domain_topology_level *tl;
sd = NULL;
for_each_sd_topology(tl) {
int dflags = 0;
if (tl == tl_asym) {
dflags |= SD_ASYM_CPUCAPACITY;
has_asym = true;
}
sd = build_sched_domain(tl, cpu_map, attr, sd, dflags, i);
if (tl == sched_domain_topology)
*per_cpu_ptr(d.sd, i) = sd;
if (tl->flags & SDTL_OVERLAP)
sd->flags |= SD_OVERLAP;
if (cpumask_equal(cpu_map, sched_domain_span(sd)))
break;
}
}
/*
* Build the groups for the domains
*
* 創(chuàng)建調(diào)度組
*
* 我們可以從2個(gè)調(diào)度域的實(shí)現(xiàn)看到sched_group的作用
* 1、NUMA域 2、LLC域
*
* numa sched_domain->span會包含NUMA域上所有的CPU，當(dāng)需要進(jìn)行均衡的時(shí)候
* NUMA域不應(yīng)該以cpu為單位，而是應(yīng)該以socket為單位，即只有socket1與socket2
* 極度不平衡的時(shí)候才在這兩個(gè)SOCKET間遷移CPU。如果用sched_domain來實(shí)現(xiàn)這個(gè)
* 抽象則會導(dǎo)致靈活性不夠(后面的MC域可以看到)，所以內(nèi)核會以sched_group來
* 表示一個(gè)cpu集合，每個(gè)socket屬于一個(gè)sched_group。當(dāng)這兩個(gè)sched_group不平衡
* 的時(shí)候才會允許遷移
*
* MC域也是類似的，CPU可能是超線程，而超線程的性能與物理核不是對等的。一對
* 超線程大概等于1.2倍于物理核的性能。所以在調(diào)度的時(shí)候，我們需要考慮超線程
* 對之間的均衡性，即先要滿足CPU間均衡，然后才是CPU內(nèi)的超線程均衡。這個(gè)時(shí)候
* 用sched_group來做抽象，一個(gè)sched_group表示一個(gè)物理CPU(2個(gè)超線程)，這個(gè)時(shí)候
* LLC保證CPU間的均衡，從而避免一種極端情況：超線程間均衡，但是物理核上不均衡
* 的情況，同時(shí)可以保證調(diào)度選核的時(shí)候，內(nèi)核會優(yōu)先實(shí)現(xiàn)物理線程，只有物理線程
* 用完之后再考慮使用另外的超線程，讓系統(tǒng)可以更充分的利用CPU算力
*/
for_each_cpu(i, cpu_map) {
for (sd = *per_cpu_ptr(d.sd, i); sd; sd = sd->parent) {
sd->span_weight = cpumask_weight(sched_domain_span(sd));
if (sd->flags & SD_OVERLAP) {
if (build_overlap_sched_groups(sd, i))
goto error;
} else {
if (build_sched_groups(sd, i))
goto error;
}
}
}
/*
* Calculate CPU capacity for physical packages and nodes
*
* sched_group_capacity 是用來表示sg可使用的CPU算力
*
* sched_group_capacity 是考慮了每個(gè)CPU本身的算力不同(最高主頻設(shè)置不同、
* ARM的大小核等等)、去除掉RT進(jìn)程所使用的CPU(sg是為CFS準(zhǔn)備的，所以需要
* 去掉CPU上DL/RT進(jìn)程等所使用的CPU算力)等因素之后，留給CFS sg的可用算力(因?yàn)?br> * 在負(fù)載均衡的時(shí)候，不僅應(yīng)該考慮到CPU上的負(fù)載，還應(yīng)該考慮這個(gè)sg上的CFS
* 可用算力。如果這個(gè)sg上進(jìn)程較少，但是sched_group_capacity也較小，也是
* 不應(yīng)該遷移進(jìn)程到這個(gè)sg上的)
*/
for (i = nr_cpumask_bits-1; i >= 0; i--) {
if (!cpumask_test_cpu(i, cpu_map))
continue;
for (sd = *per_cpu_ptr(d.sd, i); sd; sd = sd->parent) {
claim_allocations(i, sd);
init_sched_groups_capacity(i, sd);
}
}
/* Attach the domains */
rcu_read_lock();
/*
* 將每個(gè)CPU的rq與rd(root_domain)進(jìn)行綁定，并且會檢查sd是否有重疊
* 如果是的則需要用destroy_sched_domain()將其去掉(所以我們可以看到
* intel的服務(wù)器是只有3層調(diào)度域，DIE域其實(shí)與LLC域重疊了，所以在這里
* 會被去掉)
*/
for_each_cpu(i, cpu_map) {
rq = cpu_rq(i);
sd = *per_cpu_ptr(d.sd, i);
/* Use READ_ONCE()/WRITE_ONCE() to avoid load/store tearing: */
if (rq->cpu_capacity_orig > READ_ONCE(d.rd->max_cpu_capacity))
WRITE_ONCE(d.rd->max_cpu_capacity, rq->cpu_capacity_orig);
cpu_attach_domain(sd, d.rd, i);
}
rcu_read_unlock();
if (has_asym)
static_branch_inc_cpuslocked(&sched_asym_cpucapacity);
if (rq && sched_debug_enabled) {
pr_info("root domain span: %*pbl (max cpu_capacity = %lu)\n",
cpumask_pr_args(cpu_map), rq->rd->max_cpu_capacity);
}
ret = 0;
error:
__free_domain_allocs(&d, alloc_state, cpu_map);
return ret;
}
到目前為止，我們已經(jīng)將內(nèi)核的調(diào)度域構(gòu)建起來了，CFS 可以利用 sched_domain 來完成多核間的負(fù)載均衡了。
結(jié)語
本文主要介紹了內(nèi)核調(diào)度器的基本概念，并通過分析5.4內(nèi)核中調(diào)度器的初始化代碼，介紹了調(diào)度域、調(diào)度組等基本概念的具體落地方式。整體上，5.4內(nèi)核相比3.x內(nèi)核，在調(diào)度器初始化邏輯，以及調(diào)度器相關(guān)的基本設(shè)計(jì)(概念/關(guān)鍵結(jié)構(gòu))上沒有本質(zhì)的變化，也從側(cè)面印證了內(nèi)核調(diào)度器設(shè)計(jì)的“穩(wěn)定”和“優(yōu)雅”。
推薦閱讀
國產(chǎn)小眾瀏覽器因屏蔽視頻廣告，被索賠100萬（后續(xù)）
年輕人“不講武德”：因看黃片上癮，把網(wǎng)站和786名女主播起訴了
關(guān)于程序員大白
程序員大白是一群哈工大，東北大學(xué)，西湖大學(xué)和上海交通大學(xué)的碩士博士運(yùn)營維護(hù)的號，大家樂于分享高質(zhì)量文章，喜歡總結(jié)知識，歡迎關(guān)注[程序員大白]，大家一起學(xué)習(xí)進(jìn)步！