【Java并發(fā)編程】面試必備之線(xiàn)程池

什么是線(xiàn)程池

• 是一種基于池化思想管理線(xiàn)程的工具。池化技術(shù)：池化技術(shù)簡(jiǎn)單點(diǎn)來(lái)說(shuō)，就是提前保存大量的資源，以備不時(shí)之需。比如我們的對(duì)象池，數(shù)據(jù)庫(kù)連接池等。

線(xiàn)程池好處

我們?yōu)槭裁匆褂镁€(xiàn)程池，直接new thread start不好嗎？

• 「降低資源消耗」: 通過(guò)重復(fù)利用已創(chuàng)建的線(xiàn)程來(lái)降低線(xiàn)程創(chuàng)建和銷(xiāo)毀所造成的消耗。
• 「提高響應(yīng)速度:」  任務(wù)到達(dá)時(shí)，可以立即執(zhí)行，不需要等到線(xiàn)程創(chuàng)建再來(lái)執(zhí)行任務(wù)。
• 「提高線(xiàn)程的可管理性：」 線(xiàn)程是稀缺資源，如果無(wú)限制創(chuàng)建，不僅會(huì)消耗系統(tǒng)資源，還會(huì)因?yàn)榫€(xiàn)程的不合理分布導(dǎo)致資源調(diào)度失衡，降低系統(tǒng)的穩(wěn)定性。使用線(xiàn)程池可以進(jìn)行統(tǒng)一的分配、調(diào)優(yōu)和監(jiān)控。

線(xiàn)程池的執(zhí)行流程

我們先來(lái)看看線(xiàn)程池的一個(gè)執(zhí)行流程圖，此圖來(lái)自文末參考1

通過(guò)上述圖我們可以得出線(xiàn)程池執(zhí)行任務(wù)可以有以下幾種情況：

• 如果當(dāng)前的運(yùn)行線(xiàn)程小于coreSize，則創(chuàng)建新線(xiàn)程來(lái)執(zhí)行任務(wù)。
• 如果當(dāng)前運(yùn)行的線(xiàn)程等于coreSize或多余coreSize(動(dòng)態(tài)修改了coreSize才會(huì)出現(xiàn)這種情況)，把任務(wù)放到阻塞隊(duì)列中。
• 如果隊(duì)列已滿(mǎn)無(wú)法將新加入的任務(wù)放進(jìn)去的話(huà)，則需要?jiǎng)?chuàng)建新的線(xiàn)程來(lái)執(zhí)行任務(wù)。
• 如果新創(chuàng)建線(xiàn)程已經(jīng)達(dá)到了最大線(xiàn)程數(shù)，任務(wù)將會(huì)被拒絕。

怎么用線(xiàn)程池

在java jdk的Executors有提供創(chuàng)建不同線(xiàn)程池的方法(一般不推薦這種做法)阿里巴巴的開(kāi)發(fā)手冊(cè)也明確強(qiáng)制規(guī)定不讓通過(guò)Executors來(lái)創(chuàng)建的，在一些公司的開(kāi)發(fā)規(guī)范里面應(yīng)該也會(huì)有這么一條吧。

• newFixedThreadPool
• newSingleThreadExecutor
• newCachedThreadPool
• newScheduledThreadPool
• newWorkStealingPool (jdk1.8新增的) 我們可以使用ThreadPoolExecutor來(lái)創(chuàng)建線(xiàn)程池

  public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue,
                              ThreadFactory threadFactory,
                              RejectedExecutionHandler handler) 

我們可以看出創(chuàng)建線(xiàn)程池有七個(gè)參數(shù)，而上述我們通過(guò)Executors工具類(lèi)來(lái)創(chuàng)建的線(xiàn)程池就一兩個(gè)參數(shù)，其他參數(shù)它都幫我們默認(rèn)寫(xiě)死了，我們只有真正理解了這幾個(gè)參數(shù)才能更好的去使用線(xiàn)程池。下面我們來(lái)看看這七個(gè)參數(shù)（線(xiàn)程池參數(shù)）。

corePoolSize

• 核心線(xiàn)程數(shù)（線(xiàn)程池的基本大小）當(dāng)我們提交一個(gè)任務(wù)到線(xiàn)程池時(shí)就會(huì)創(chuàng)建一個(gè)線(xiàn)程來(lái)執(zhí)行任務(wù).當(dāng)我們需要執(zhí)行的任務(wù)數(shù)大于核心線(xiàn)程數(shù)了就不再創(chuàng)建， 如果我們調(diào)用了prestartAllCoreThreads()方法線(xiàn)程池就會(huì)為我們提前創(chuàng)建好所有的基本線(xiàn)程。

maximumPoolSize

• 最大線(xiàn)程數(shù):線(xiàn)程池允許創(chuàng)建的最大線(xiàn)程數(shù)。如果隊(duì)列已經(jīng)滿(mǎn)了，且已創(chuàng)建的線(xiàn)程數(shù)小于最大線(xiàn)程數(shù)，則線(xiàn)程池就會(huì)創(chuàng)建新的線(xiàn)程來(lái)執(zhí)行任務(wù)。這里有個(gè)小知識(shí)點(diǎn)，如果我們的隊(duì)列是用的無(wú)界隊(duì)列，這個(gè)參數(shù)是不會(huì)起作用的，因?yàn)槲覀兊娜蝿?wù)會(huì)一直往隊(duì)列中加，隊(duì)列永遠(yuǎn)不會(huì)滿(mǎn)（內(nèi)存允許的情況）。

keepAliveTime

• 空閑線(xiàn)程最大生存時(shí)間。當(dāng)前線(xiàn)程數(shù)大于核心線(xiàn)程數(shù)時(shí)，結(jié)束多余的空閑線(xiàn)程等待新任務(wù)的最長(zhǎng)時(shí)間。默認(rèn)情況下，只有當(dāng)線(xiàn)程池中的線(xiàn)程數(shù)大于corePoolSize時(shí)，keepAliveTime才會(huì)起作用，直到線(xiàn)程池中的線(xiàn)程數(shù)不大于corePoolSize，即當(dāng)線(xiàn)程池中的線(xiàn)程數(shù)大于corePoolSize時(shí)，如果一個(gè)線(xiàn)程空閑的時(shí)間達(dá)到keepAliveTime，則會(huì)終止，直到線(xiàn)程池中的線(xiàn)程數(shù)不超過(guò)corePoolSize。但是如果調(diào)用了allowCoreThreadTimeOut(boolean)方法，在線(xiàn)程池中的線(xiàn)程數(shù)不大于corePoolSize時(shí)，keepAliveTime參數(shù)也會(huì)起作用，直到線(xiàn)程池中的線(xiàn)程數(shù)為0；比如當(dāng)前線(xiàn)程池中最大線(xiàn)程數(shù)(maximumPoolSize)為50，核心線(xiàn)程數(shù)（corePoolSize）為10，當(dāng)前正在跑任務(wù)的線(xiàn)程數(shù)為30.然后是不是空出了20個(gè)線(xiàn)程沒(méi)活干，所以這20個(gè)線(xiàn)程就要被消毀，有點(diǎn)卸磨殺驢的感覺(jué)。如果剩下的30個(gè)線(xiàn)程干完活了也休息了keepAliveTime這么久，然后這30個(gè)線(xiàn)程里面也要被銷(xiāo)毀20個(gè)，就保留個(gè)核心線(xiàn)程。如果設(shè)置了allowCoreThreadTimeOut等于true核心線(xiàn)程也會(huì)被銷(xiāo)毀。就跟我們做外包項(xiàng)目一樣，甲方項(xiàng)目完成了就得去另外一個(gè)甲方，如果短時(shí)間內(nèi)都沒(méi)有甲方接納你的話(huà)，你就要被辭退了，只會(huì)留下幾個(gè)核心人員維護(hù)下項(xiàng)目，如果甲方項(xiàng)目維護(hù)的話(huà)用自己的人的話(huà)，所有的外包人會(huì)都會(huì)被辭退。

unit

• 線(xiàn)程存活時(shí)間的的單位。可選的單位有days、hours等。

workQueue

任務(wù)隊(duì)列。可以選擇以下這些隊(duì)列

threadFactory

用戶(hù)設(shè)置創(chuàng)建線(xiàn)程的工廠(chǎng)，我們可以通過(guò)這個(gè)工廠(chǎng)來(lái)創(chuàng)建有業(yè)務(wù)意義的線(xiàn)程名字。我們可以對(duì)比下自定義的線(xiàn)程工廠(chǎng)和默認(rèn)的線(xiàn)程工廠(chǎng)創(chuàng)建的名字。

阿里開(kāi)發(fā)手冊(cè)也有明確說(shuō)到，需要指定有意義的線(xiàn)程名字。

RejectedExecutionHandler

• 線(xiàn)程池拒絕策略。當(dāng)隊(duì)列和線(xiàn)程池都滿(mǎn)了說(shuō)明線(xiàn)程池已經(jīng)處于飽和狀態(tài)。必須要采取一定的策略來(lái)處理新提交的任務(wù)。jdk默認(rèn)提供了四種拒絕策略：其實(shí)我們也可以自定義任務(wù)拒絕策略（實(shí)現(xiàn)下RejectedExecutionHandler接口），比如說(shuō)如果任務(wù)拒絕了我們可以記錄下日志，或者重試等，根據(jù)自己的業(yè)務(wù)需求來(lái)實(shí)現(xiàn)。
• dubbo 任務(wù)拒絕策略

 @Override
   public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
       String msg = String.format("Thread pool is EXHAUSTED!" +
               " Thread Name: %s, Pool Size: %d (active: %d, core: %d, max: %d, largest: %d), Task: %d (completed: "
               + "%d)," +
               " Executor status:(isShutdown:%s, isTerminated:%s, isTerminating:%s), in %s://%s:%d!",
           threadName, e.getPoolSize(), e.getActiveCount(), e.getCorePoolSize(), e.getMaximumPoolSize(),
           e.getLargestPoolSize(),
           e.getTaskCount(), e.getCompletedTaskCount(), e.isShutdown(), e.isTerminated(), e.isTerminating(),
           url.getProtocol(), url.getIp(), url.getPort());
       logger.warn(msg);
       dumpJStack();
       dispatchThreadPoolExhaustedEvent(msg);
       throw new RejectedExecutionException(msg);
   }

我們可以看出dubbo的拒絕策略主要記錄了詳細(xì)的級(jí)別為warm的日志、輸出當(dāng)前線(xiàn)程堆棧詳情、繼續(xù)拋出拒絕任務(wù)異常。

線(xiàn)程池參數(shù)如何設(shè)置？

線(xiàn)程池既然有這么多參數(shù)那么我們?nèi)绾稳ジ鶕?jù)自己的業(yè)務(wù)實(shí)際情況來(lái)去合理的設(shè)置每個(gè)參數(shù)？

• 一般我們?nèi)绻蝿?wù)為耗時(shí)IO型比如讀取數(shù)據(jù)庫(kù)、文件讀寫(xiě)以及網(wǎng)略通信的的話(huà)這些任務(wù)不會(huì)占據(jù)很多cpu的資源但是會(huì)比較耗時(shí)：線(xiàn)程數(shù)設(shè)置為2倍CPU數(shù)以上，充分的來(lái)利用CPU資源。
• 一般我們?nèi)绻蝿?wù)為CPU密集型的話(huà)比如大量計(jì)算、解壓、壓縮等這些操作都會(huì)占據(jù)大量的cpu。所以針對(duì)于這種情況的話(huà)一般設(shè)置線(xiàn)程數(shù)為：1倍cpu+1。為啥要加1，很多說(shuō)法是備份線(xiàn)程。
• 如果既有IO密集型任務(wù)，又有CPU密集型任務(wù)，這種該怎么設(shè)置線(xiàn)程大小？這種的話(huà)最好分開(kāi)用線(xiàn)程池處理，IO密集的用IO密集型線(xiàn)程池處理，CPU密集型的用cpu密集型處理。以上都只是理算情況下的估算而已，真正的合理參數(shù)還是需要看看實(shí)際生產(chǎn)運(yùn)行的效果來(lái)合理的調(diào)整的。

監(jiān)控線(xiàn)程池

• 線(xiàn)程池工作是否飽和？線(xiàn)程的情況如何？總共執(zhí)行了多少個(gè)任務(wù)？現(xiàn)在線(xiàn)程池的運(yùn)行情況如何？隊(duì)列里面是否有堆積任務(wù)？面對(duì)上面這些問(wèn)題，線(xiàn)程池也有提供一些方法可以讓我們來(lái)查看上面這些指標(biāo)。有了這些參數(shù)我們是不是調(diào)整線(xiàn)程池的參數(shù)就更加方便了。或者根據(jù)線(xiàn)程池的活躍程度我們自動(dòng)來(lái)調(diào)節(jié)（動(dòng)態(tài)調(diào)整下篇再來(lái)說(shuō)）線(xiàn)程池的參數(shù)。

關(guān)于線(xiàn)程池的幾個(gè)問(wèn)題

• 線(xiàn)程池是否區(qū)分核心線(xiàn)程和非核心線(xiàn)程？
• 如何保證核心線(xiàn)程不被銷(xiāo)毀？
• 線(xiàn)程池的線(xiàn)程是如何做到復(fù)用的？以上幾個(gè)小問(wèn)題我們?nèi)タ纯淳€(xiàn)程池的源碼，這幾個(gè)問(wèn)題應(yīng)該就不成問(wèn)題了，我們下篇見(jiàn)。
• 巨人肩膀摘蘋(píng)果
  https://tech.meituan.com/2020/04/02/java-pooling-pratice-in-meituan.html
  《java并發(fā)編程實(shí)戰(zhàn)》

程序員專(zhuān)欄
 掃碼關(guān)注填加客服 
長(zhǎng)按識(shí)別下方二維碼進(jìn)群