一文深入剖析Linux內(nèi)核之內(nèi)核搶占（純干貨~）
1.前言
環(huán)境：
處理器架構(gòu)：arm64內(nèi)核源碼：linux-5.11ubuntu版本：20.04.1代碼閱讀工具：vim+ctags+cscope
我們或許經(jīng)常聽(tīng)說(shuō)過(guò)內(nèi)核搶占，可是我們是否真正理解它呢？?jī)?nèi)核搶占和搶占式內(nèi)核究竟有什么關(guān)系呢？搶占計(jì)數(shù)器究竟干什么用？... 本文我們就來(lái)好好討論下，關(guān)于內(nèi)核搶占的一些技術(shù)細(xì)節(jié)，力求讓大家理解內(nèi)核搶占。
注：本文主要關(guān)注CFS調(diào)度類。
2.內(nèi)核搶占和搶占式內(nèi)核
我們經(jīng)常使用uname -a命令能看到“PREEMPT”的字樣，沒(méi)錯(cuò)，我們使用的是搶占式內(nèi)核。
那什么是搶占式內(nèi)核呢? 實(shí)際上，支持內(nèi)核搶占的內(nèi)核叫做搶占式內(nèi)核，不支持內(nèi)核搶占的內(nèi)核叫做不可搶占式內(nèi)核。那么問(wèn)題又來(lái)了，什么是內(nèi)核搶占呢？我們都知道，拿周期性的tick來(lái)說(shuō)：對(duì)于用戶任務(wù)，當(dāng)每個(gè)時(shí)鐘中斷到來(lái)后都會(huì)檢查它的實(shí)際運(yùn)行時(shí)間是否超過(guò)理想運(yùn)行時(shí)間，或者運(yùn)行隊(duì)列中有沒(méi)有優(yōu)先級(jí)更高的進(jìn)程，一般如果滿足其中一個(gè)條件就會(huì)設(shè)置重新調(diào)度標(biāo)志，然后在中斷返回用戶態(tài)的前夕發(fā)生調(diào)度，這是所謂的用戶任務(wù)搶占。但是如果處于一個(gè)內(nèi)核態(tài)的任務(wù)正在運(yùn)行，這個(gè)時(shí)候發(fā)生中斷喚醒了一個(gè)高優(yōu)先級(jí)的任務(wù)，那么這個(gè)被喚醒的任務(wù)能否被調(diào)度執(zhí)行呢？這個(gè)時(shí)候就會(huì)分兩種情況分析，如果是搶占式內(nèi)核那么高優(yōu)先級(jí)任務(wù)就有可能搶占當(dāng)前任務(wù)而調(diào)度執(zhí)行（之所有是有可能是因?yàn)閮烧咛摂M運(yùn)行時(shí)間差值要大于搶占粒度才允許搶占），如果是不可搶占式內(nèi)核那么不允許搶占，除非當(dāng)前進(jìn)程執(zhí)行完或者主動(dòng)發(fā)生調(diào)度高優(yōu)先級(jí)進(jìn)程該有機(jī)會(huì)被調(diào)度。也就是說(shuō)，支持內(nèi)核搶占的內(nèi)核不僅允許在用戶態(tài)的任務(wù)可以被搶占，處在內(nèi)核態(tài)的任務(wù)也允許被搶占（請(qǐng)注意這里說(shuō)的是內(nèi)核態(tài)，因?yàn)橛脩艨臻g任務(wù)可以通過(guò)系統(tǒng)調(diào)用等進(jìn)入內(nèi)核態(tài)），這樣對(duì)于交互性或者低延遲的應(yīng)用場(chǎng)景很友好，如手持設(shè)備和桌面應(yīng)用，響應(yīng)會(huì)很快。而對(duì)于服務(wù)器來(lái)說(shuō)，它就對(duì)吞吐量要求較高，希望獲得更多的cpu時(shí)間，而交互性或者低延遲都是次要的，所以被設(shè)計(jì)成不可搶占式內(nèi)核。
下圖給出非搶占式內(nèi)核調(diào)度情況：
下圖給出搶占式內(nèi)核調(diào)度情況：
對(duì)比兩個(gè)圖可以發(fā)現(xiàn)：采用搶占式內(nèi)核調(diào)度的情況下，在中斷中喚醒一個(gè)高優(yōu)先級(jí)任務(wù)能夠得到很好的響應(yīng)。
關(guān)于搶占式內(nèi)核還是不可搶占式內(nèi)核的選擇在源碼的kernel/Kconfig.preempt有所描述：
上面列舉了兩個(gè)編譯選項(xiàng)一個(gè)是支持內(nèi)核搶占一個(gè)是不支持內(nèi)核搶占，其實(shí)還有PREEMPT_VOLUNTARY和PREEMPT_RT，前者會(huì)顯式增加一些搶占點(diǎn)，后者用于支持實(shí)時(shí)性 。
【文章福利】小編推薦自己的Linux內(nèi)核技術(shù)交流群:【891587639】整理了一些個(gè)人覺(jué)得比較好的學(xué)習(xí)書(shū)籍、視頻資料共享在群文件里面，有需要的可以自行添加哦！?。。ê曨l教程、電子書(shū)、實(shí)戰(zhàn)項(xiàng)目及代碼)? ?
3.重新調(diào)度標(biāo)志和搶占計(jì)數(shù)器
內(nèi)核有些路徑是不允許調(diào)度的，如原子上下文，那么這個(gè)時(shí)候如果喚醒一個(gè)高優(yōu)先級(jí)的任務(wù)或者tick的時(shí)候檢查可重新調(diào)度條件滿足，那么高優(yōu)先級(jí)的任務(wù)將不能馬上得到執(zhí)行，但是我又要標(biāo)識(shí)一下需要重新調(diào)度，那么就需要設(shè)置重新調(diào)度標(biāo)志，當(dāng)返回到可調(diào)度上下文的時(shí)候（如開(kāi)搶占），這個(gè)時(shí)候就會(huì)檢查是否設(shè)置了這個(gè)標(biāo)志來(lái)決定是否調(diào)用調(diào)度器來(lái)選擇下一個(gè)任務(wù)來(lái)運(yùn)行。
標(biāo)識(shí)重新調(diào)度是設(shè)置：
內(nèi)核的某些路徑上設(shè)置了這個(gè)標(biāo)志之后，將在最近的調(diào)度點(diǎn)發(fā)生調(diào)度（可能是最近開(kāi)啟搶占的時(shí)候，也可能是最近中斷異常返回的時(shí)候）。
當(dāng)前任務(wù)被設(shè)置了重新調(diào)度標(biāo)志，只是表明不久的將來(lái)會(huì)發(fā)生調(diào)度，并不是馬上發(fā)生調(diào)度，對(duì)于用戶任務(wù)來(lái)說(shuō)就是中斷異常返回用戶態(tài)的前夕發(fā)生調(diào)度，而對(duì)于處于內(nèi)核態(tài)的任務(wù)來(lái)說(shuō)，想要在內(nèi)核態(tài)搶占當(dāng)前進(jìn)程，僅僅置位重新調(diào)度標(biāo)志還不行，還需要判斷當(dāng)前進(jìn)程的搶占計(jì)數(shù)器是否為0。
所有對(duì)于處于內(nèi)核態(tài)的任務(wù)來(lái)說(shuō)，搶占計(jì)數(shù)器對(duì)于重新調(diào)度至關(guān)重要，只要搶占計(jì)數(shù)器不為0，無(wú)論被喚醒的任務(wù)在緊急都不能獲得調(diào)度器，我們來(lái)看看這個(gè)搶占計(jì)數(shù)器：
我們來(lái)看下對(duì)于arm64架構(gòu)，搶占計(jì)數(shù)器的定義：
可以發(fā)現(xiàn)它是一個(gè)共用體，內(nèi)核某些路徑使用preempt_count，有的是preempt，為何會(huì)使用這么奇怪的定義呢？因?yàn)橐粋€(gè)成員可以表示兩種狀態(tài)：重新調(diào)度標(biāo)志和搶占計(jì)數(shù)器的數(shù)值
當(dāng)需要重新調(diào)度的時(shí)候會(huì)置位flags的TIF_NEED_RESCHED標(biāo)志，與此同時(shí)會(huì)將preempt.need_resched清零。當(dāng)檢查thread_info 的preempt_count==0成立時(shí)，說(shuō)明搶占計(jì)數(shù)器的數(shù)值為0且flags的TIF_NEED_RESCHED標(biāo)志被置位，這個(gè)時(shí)候可以進(jìn)程重新調(diào)度（如中斷返回內(nèi)核態(tài)前夕的檢查）。
下面看下如何設(shè)置重新調(diào)度標(biāo)志：
當(dāng)內(nèi)核的某個(gè)路徑設(shè)置重新調(diào)度標(biāo)志（如時(shí)鐘中斷tick時(shí)），會(huì)調(diào)用到resched_curr 來(lái)設(shè)置重新調(diào)度標(biāo)志：可以看到除了設(shè)置任務(wù)的flags的TIF_NEED_RESCHED標(biāo)志外，還設(shè)置了preempt.need_resched為0。
如何清除重新調(diào)度標(biāo)志：
可以看到在主調(diào)度器中，除了調(diào)用clear_tsk_need_resched來(lái)清除任務(wù)的flags的TIF_NEED_RESCHED標(biāo)志外，會(huì)調(diào)用clear_preempt_need_resched來(lái)設(shè)置preempt.need_resched為1, 來(lái)清除重新調(diào)度。
下面為搶占計(jì)數(shù)器的各個(gè)域的表示：
0-7 表示搶占計(jì)數(shù) ，8-15表示軟中斷計(jì)數(shù)， 16-19表示硬中斷計(jì)數(shù)，20-23表示不可屏蔽中斷計(jì)數(shù)。當(dāng)進(jìn)入不同的上下文時(shí)會(huì)設(shè)置響應(yīng)的位域，表示在某個(gè)上下文中，當(dāng)某個(gè)位域被設(shè)置，搶占計(jì)數(shù)器不為0，任務(wù)在內(nèi)核態(tài)就不容許被搶占。
所以，搶占計(jì)數(shù)器有兩個(gè)作用：一個(gè)是標(biāo)識(shí)內(nèi)核路徑在某個(gè)原子上下文，一個(gè)是用來(lái)判斷是否允許任務(wù)在內(nèi)核態(tài)被搶占。
4.內(nèi)核搶占的調(diào)度時(shí)機(jī)
這里調(diào)度時(shí)機(jī)我將它細(xì)分為兩種情況，一種是不進(jìn)行調(diào)度的check點(diǎn)，一種是真正的搶占點(diǎn)（即是調(diào)用主調(diào)度器進(jìn)行調(diào)度）：
check點(diǎn)->
tick的時(shí)候 : 滿足條件(任務(wù)使用完理想運(yùn)行時(shí)間，運(yùn)行時(shí)間大于最小搶占粒度且運(yùn)行隊(duì)列有優(yōu)先級(jí)更高的任務(wù)) 時(shí)，設(shè)置TIF_NEED_RESCHED標(biāo)志,最近的搶占點(diǎn)發(fā)生調(diào)度 。
喚醒搶占 : 滿足條件(喚醒的任務(wù)與當(dāng)前任務(wù)的虛擬運(yùn)行時(shí)間差值大于最小喚醒搶占粒度 ，喚醒的任務(wù)虛擬運(yùn)行時(shí)間更小) 時(shí)， 設(shè)置TIF_NEED_RESCHED標(biāo)志，最近的搶占點(diǎn)發(fā)生調(diào)度。
搶占點(diǎn)->
中斷返回內(nèi)核態(tài) : 滿足條件（重新調(diào)度標(biāo)志置位且搶占計(jì)數(shù)器為0） 時(shí)， 搶占式調(diào)度 。
打開(kāi)搶占的時(shí)候 : （如開(kāi)搶占，開(kāi)中斷下半部，釋放自旋鎖） 滿足條件（重新調(diào)度標(biāo)志置位且搶占計(jì)數(shù)器為0）時(shí)， 搶占式調(diào)度。
開(kāi)啟軟中斷的時(shí)候 ： 滿足條件（重新調(diào)度標(biāo)志置位且搶占計(jì)數(shù)器為0）時(shí)， 搶占式調(diào)度。
中斷返回內(nèi)核態(tài)是常規(guī)的搶占點(diǎn)，一般情況下即使沒(méi)有其他中斷產(chǎn)生，周期性的tick中斷也會(huì)發(fā)生， 滿足條件（重新調(diào)度標(biāo)志置位且搶占計(jì)數(shù)器為0）時(shí)，當(dāng)前任務(wù)就會(huì)被搶占。而在一些會(huì)發(fā)生多任務(wù)竟態(tài)的臨界區(qū)中，我們需要關(guān)閉內(nèi)核搶占，有的直接調(diào)用preempt_disable, 有的是間接調(diào)用preempt_disable（如申請(qǐng)自旋鎖的臨界區(qū)）, 有的則是關(guān)閉軟中斷等，這些都會(huì)導(dǎo)致?lián)屨加?jì)數(shù)器不為0，但是在這些臨界區(qū)中如果中斷喚醒了高優(yōu)先級(jí)的任務(wù)，中斷返回內(nèi)核態(tài)的前夕是不能進(jìn)行調(diào)度的，所以在這些臨界區(qū)結(jié)束的時(shí)候會(huì)檢查調(diào)度條件是否滿足，如果滿足進(jìn)行搶占式調(diào)度，從而使得被喚醒的任務(wù)被及時(shí)的響應(yīng)。一般，一些check點(diǎn)設(shè)置了當(dāng)前任務(wù)的重新調(diào)度標(biāo)志之后，如果搶占計(jì)數(shù)器為0，會(huì)在最近的搶占點(diǎn)發(fā)生調(diào)度（就是上面所說(shuō)的三種情況）。還有需要注意的是：關(guān)搶占的臨界區(qū)中，只是禁止了當(dāng)前任務(wù)所在cpu的內(nèi)核搶占，其他cpu依然可以進(jìn)行內(nèi)核搶占，如果這段臨界區(qū)有可能被其他cpu訪問(wèn)到，可以直接使用自旋鎖來(lái)保護(hù)。
4.1 check點(diǎn)
1) 時(shí)鐘中斷tick時(shí)：
每個(gè)時(shí)鐘tick到來(lái)時(shí)，會(huì)調(diào)用scheduler_tick來(lái)檢查是否需要重新調(diào)度，以下兩個(gè)條件有一個(gè)發(fā)生都會(huì)設(shè)置重新調(diào)度標(biāo)志：
當(dāng)前任務(wù)的實(shí)際運(yùn)行時(shí)間大于理想運(yùn)行時(shí)間（保證任務(wù)在一個(gè)調(diào)度周期內(nèi)運(yùn)行時(shí)間不會(huì)超過(guò)理想運(yùn)行時(shí)間，防止“流氓”任務(wù)一直霸占cpu，通過(guò)周期性的時(shí)鐘中斷奪回處理器的使用權(quán)）。
當(dāng)前任務(wù)的實(shí)際運(yùn)行時(shí)間大于最小調(diào)度粒度，且紅黑樹(shù)最左邊的任務(wù)的虛擬運(yùn)行時(shí)間和當(dāng)前任務(wù)的虛擬運(yùn)行時(shí)間的差值大于理想運(yùn)行時(shí)間（紅黑樹(shù)中的高優(yōu)先級(jí)的任務(wù)可以搶占當(dāng)前任務(wù)）。
2）喚醒搶占：
在fork和正常的喚醒路徑上：
fork路徑:
正常喚醒路徑：
無(wú)論是創(chuàng)建新任務(wù)或者是喚醒任務(wù)的時(shí)候，都有可能新喚醒的任務(wù)搶占當(dāng)前任務(wù)，判斷條件如下：?jiǎn)拘训娜蝿?wù)的虛擬運(yùn)行時(shí)間和當(dāng)前任務(wù)的虛擬運(yùn)行時(shí)間差值大于最小喚醒搶占粒度轉(zhuǎn)換的虛擬運(yùn)行時(shí)間（喚醒的任務(wù)的虛擬運(yùn)行時(shí)間更?。?。
4.2 搶占點(diǎn)
上面介紹的都是check點(diǎn)，只是設(shè)置重新調(diào)度標(biāo)志，并沒(méi)有讓搶占的任務(wù)運(yùn)行，真正的搶占點(diǎn)是調(diào)用主調(diào)度器的時(shí)候。
1）中斷返回內(nèi)核態(tài)
當(dāng)開(kāi)啟內(nèi)核搶占的時(shí)候，在中斷返回內(nèi)核態(tài)的前夕，會(huì)檢查當(dāng)前任務(wù)是否設(shè)置了重新調(diào)度標(biāo)志且搶占計(jì)數(shù)器為0，如果都滿足，進(jìn)行搶占式調(diào)度。
當(dāng)發(fā)生中斷時(shí)，會(huì)執(zhí)行el1_irq來(lái)處理中斷，
672行 來(lái)讀取當(dāng)前任務(wù)的thread_info.preempt_count 681行 判斷thread_info.preempt_count是否為0，如果為0 則調(diào)用682 行的arm64_preempt_schedule_irq 進(jìn)行搶占式調(diào)度（上一節(jié)已經(jīng)分析過(guò)）。
下面看下?lián)屨际秸{(diào)度：
2）打開(kāi)搶占的時(shí)候
開(kāi)啟搶占：
釋放自旋鎖：
3) 開(kāi)啟軟中斷
其實(shí)，無(wú)論是主動(dòng)進(jìn)行調(diào)度還是搶占式調(diào)度都會(huì)調(diào)用__schedule，而__schedule是屬于關(guān)搶占上下文，在調(diào)度期間不允許被搶占。
5.不可搶占內(nèi)核的低延遲處理
下面我們來(lái)看下在沒(méi)有開(kāi)啟內(nèi)核搶占的內(nèi)核中如何處理低延遲：
我們會(huì)看到在一些比較耗時(shí)的處理中如文件系統(tǒng)和內(nèi)存回收的一些路徑會(huì)調(diào)用cond_resched，它是干什么用呢：
下面是使用這個(gè)宏的例子：在內(nèi)存回收路徑中，會(huì)從不活躍的lru鏈表尾部取出一些頁(yè)面回收隔離到page_list中，最終會(huì)調(diào)用到shrink_page_list：
可以看到對(duì)于page_list中的每一個(gè)被隔離的候選回收頁(yè)，在處理之前都會(huì)調(diào)用到cond_resched來(lái)主動(dòng)判斷是否需要重新調(diào)度。
下面我們來(lái)看下cond_resched這個(gè)宏實(shí)現(xiàn)：
我們可以很清楚的看到，搶占式內(nèi)核中（CONFIG_PREEMPTION=y）cond_resched宏的_cond_resched為空，并沒(méi)有主動(dòng)判斷重新調(diào)度的功能，只有非搶占式內(nèi)核才會(huì)調(diào)用_cond_resched來(lái)執(zhí)行主動(dòng)檢查可搶占性。
下面我們來(lái)看下_cond_resched：
會(huì)主動(dòng)檢查搶占計(jì)數(shù)器是否為0（實(shí)際上搶占計(jì)數(shù)器是否為0且當(dāng)前任務(wù)被設(shè)置了重新調(diào)度標(biāo)志），則進(jìn)行搶占式調(diào)度。
實(shí)際上，對(duì)于非搶占式內(nèi)核來(lái)說(shuō)，在內(nèi)核的很多地方，特別是文件系統(tǒng)操作和內(nèi)存管理相關(guān)的一些耗時(shí)路徑中，都已經(jīng)被內(nèi)核開(kāi)發(fā)者識(shí)別出來(lái)，并使用cond_resched來(lái)減小延遲（感興趣的小伙伴可以通過(guò)grep和wc -l命令來(lái)查看一下）。
6.自愿內(nèi)核搶占
內(nèi)核搶占模型有一種叫做自愿內(nèi)核搶占模型（CONFIG_PREEMPT_VOLUNTARY=y），可以使得內(nèi)核開(kāi)發(fā)者在進(jìn)行耗時(shí)操作的時(shí)候，主動(dòng)檢查是否需要發(fā)生搶占式調(diào)度，這個(gè)和上一節(jié)差不多。
使用might_resched：
發(fā)現(xiàn)只有CONFIG_PREEMPT_VOLUNTARY=y時(shí)，might_resched才有效，否則為空。
可以驚奇的發(fā)現(xiàn)，當(dāng)搜索might_resched在內(nèi)核中使用的使用的時(shí)候，并沒(méi)有看見(jiàn)有任何地方在使用，猜想是因?yàn)榇蠖鄶?shù)耗時(shí)的內(nèi)核路徑，都已經(jīng)使用cond_resched來(lái)進(jìn)行檢查是否具備調(diào)度時(shí)機(jī)。
7.總結(jié)
本文講解了內(nèi)核搶占的方方面面，非搶占式內(nèi)核主要用于服務(wù)器等對(duì)吞吐量要求較高的場(chǎng)景，而搶占式內(nèi)核主要用于嵌入式設(shè)備和桌面等對(duì)響應(yīng)要求較高的場(chǎng)景。內(nèi)核搶占的調(diào)度時(shí)機(jī)主要從check點(diǎn)和搶占點(diǎn)兩個(gè)角度去分析：check點(diǎn)是在合適的時(shí)機(jī)（如時(shí)鐘中斷tick時(shí)或者任務(wù)喚醒的時(shí)候）判斷是否需要重新調(diào)度任務(wù)，如果需要設(shè)置重新調(diào)度標(biāo)志（need_resched），并沒(méi)有馬上進(jìn)行調(diào)度，然后在最近的搶占點(diǎn)發(fā)生調(diào)度；而搶占點(diǎn)是真正調(diào)用主調(diào)度器發(fā)生調(diào)度的時(shí)機(jī)，一般會(huì)在中斷返回內(nèi)核態(tài)或者重新開(kāi)啟內(nèi)核搶占等情況下發(fā)生。最后，我們又分析了非搶占式內(nèi)核如何進(jìn)行低延遲處理已經(jīng)自愿搶占式內(nèi)核如何實(shí)現(xiàn)自愿式搶占。
