面試被問(wèn)線程池，真香

面試官 :   看你簡(jiǎn)歷上寫(xiě)了對(duì)系統(tǒng)性能做了優(yōu)化，能簡(jiǎn)單給我介紹一下嗎？都有哪些優(yōu)化，你是怎么衡量?jī)?yōu)化效果的？

我 :  巴拉巴拉。。。例如我們系統(tǒng)之前要查詢(xún)用戶(hù)的個(gè)人身份信息、聯(lián)系人信息、訂單狀態(tài)信息、積分信息，之前系統(tǒng)是單線程串行處理的，我用線程池對(duì)四個(gè)任務(wù)并行處理，然后對(duì)處理結(jié)果合并。

面試官 :   你剛才說(shuō)用到線程池，能跟我講講為什么用線程池嗎？我創(chuàng)建四個(gè)線程處理可不可以？

我 :   可以，當(dāng)然可以。

擺手

我 :   但是用線程池更合適。阿里巴巴開(kāi)發(fā)規(guī)約中有一條:

3.【強(qiáng)制】線程資源必須通過(guò)線程池提供，不允許在應(yīng)用中自行顯式創(chuàng)建線程。
說(shuō)明：使用線程池的好處是減少在創(chuàng)建和銷(xiāo)毀線程上所消耗的時(shí)間以及系統(tǒng)資源的開(kāi)銷(xiāo)，解決資源不足的問(wèn)題。如果不使用線程池，有可能造成系統(tǒng)創(chuàng)建大量同類(lèi)線程而導(dǎo)致消耗完內(nèi)存或者“過(guò)度切換”的問(wèn)題。
《阿里巴巴研發(fā)手冊(cè)》

我 :  就像你去餐廳吃飯，服務(wù)員總是提前洗好盤(pán)子，不會(huì)等你來(lái)打飯的時(shí)候才洗盤(pán)子，盤(pán)子就像是線程池里的線程，你打飯就是要處理的任務(wù)。

面試官 :  那你知道線程池的相關(guān)類(lèi)關(guān)系嗎?

我:   這算什么問(wèn)題？不應(yīng)該是問(wèn)我核心線程數(shù)怎么設(shè)置嗎？好吧。。。請(qǐng)看下圖:

• Executor 的定義非常簡(jiǎn)單，就定義了線程池最本質(zhì)要做的事，執(zhí)行任務(wù)。

public interface Executor {

    void execute(Runnable command);
}

• ExecutorService 也是個(gè)接口，不過(guò)他算是把線程池的框架搭出來(lái)了，告訴要實(shí)現(xiàn)它的線程池必須提供的一些管理線程池的方法。
• AbstractExecutorService 是普通的線程池執(zhí)行器，ScheduledExecutorService 是定時(shí)任務(wù)線程池。

1. corePoolSize ：核心線程數(shù)
2. maximumPoolSize: 最大線程數(shù)
3. keepAliveTime ：線程在線程池中不被銷(xiāo)毀的空閑時(shí)間，如果線程池的線程太多，任務(wù)比較小，到這個(gè)時(shí)間就銷(xiāo)毀線程池。
   unit : keepAliveTime 的時(shí)間單位，一般設(shè)置成秒或毫秒。
4. workQueue : 任務(wù)隊(duì)列，存放等待執(zhí)行的任務(wù)
5. threadFactory: 創(chuàng)建線程的任務(wù)工廠，比如給線程命名加上前綴，后面會(huì)講
6. handler : 拒絕任務(wù)處理器，當(dāng)任務(wù)處理不過(guò)來(lái)時(shí)的拒絕處理器
7. allowCoreThreadTimeOut : 是否允許核心線程超時(shí)銷(xiāo)毀，這個(gè)參數(shù)不在構(gòu)造函數(shù)中，但重要性也很高

• newSingleThreadExecutos   單線程線程池，也就是線程池只有一個(gè)任務(wù)，這個(gè)我偶爾用一用
• newFixedThreadPool(int nThreads)  固定大小線程的線程池
• newCachedThreadPool()   無(wú)界線程池，這個(gè)就是無(wú)論多少任務(wù)，都創(chuàng)建線程來(lái)運(yùn)行，所以隊(duì)列相當(dāng)于沒(méi)用。

4.【強(qiáng)制】線程池不允許使用Executors去創(chuàng)建，而是通過(guò)ThreadPoolExecutor的方式，這樣的處理方式讓寫(xiě)的同學(xué)更加明確線程池的運(yùn)行規(guī)則，規(guī)避資源耗盡的風(fēng)險(xiǎn)。
說(shuō)明：Executors返回的線程池對(duì)象的弊端如下：
1）FixedThreadPool和SingleThreadPool:
??允許的請(qǐng)求隊(duì)列長(zhǎng)度為Integer.MAX_VALUE，可能會(huì)堆積大量的請(qǐng)求，從而導(dǎo)致OOM。
2）CachedThreadPool:
??允許的創(chuàng)建線程數(shù)量為Integer.MAX_VALUE，可能會(huì)創(chuàng)建大量的線程，從而導(dǎo)致OOM。

《阿里巴巴研發(fā)手冊(cè)》

1. 有的任務(wù)在早上8點(diǎn)和晚上6點(diǎn)都是高峰期，因此有任務(wù)尖刺，用 LinkedBlockingQueue, 這個(gè)是無(wú)界隊(duì)列，不限制任務(wù)大小的。
2. 對(duì)于重要性沒(méi)那么高，非強(qiáng)依賴(lài)的任務(wù)用的ArrayBlockingQueue，這個(gè)是指定大小的，如果任務(wù)超出，會(huì)創(chuàng)建非核心線程執(zhí)行任務(wù)。

1. 我的線程池管理器，會(huì)有一個(gè)定時(shí)任務(wù)，定時(shí)檢測(cè)Map 中線程池當(dāng)前任務(wù)隊(duì)列的狀態(tài)，會(huì)設(shè)置一個(gè) waterThreshold（水位線），超出水位線會(huì)有告警；
2. 日常大促演練，會(huì)對(duì)線程池做壓測(cè)，如果發(fā)生超水位情況，還會(huì)對(duì)線程按線程名做降級(jí)，動(dòng)態(tài)調(diào)整核心線程數(shù)和隊(duì)列，當(dāng)然還有限流、降級(jí)等其他有段保障。

【推薦】 了解每個(gè)服務(wù)大致的平均耗時(shí)，可以通過(guò)獨(dú)立線程池配置，將較慢的服務(wù)與主線程池隔離開(kāi)，不致于各服務(wù)線程同歸于盡。

《阿里巴巴研發(fā)手冊(cè)》

1. 按照任務(wù)的類(lèi)型，對(duì)任務(wù)做拆分，分成不同的線程池，分別命名；
2. 區(qū)分任務(wù)的類(lèi)型，是CPU密集型還是IO密集型，CPU 可以設(shè)置約為CPU核心數(shù)，上下文切換少，io密集型可以設(shè)置的大一些。
3. 大體估算一個(gè)，然后做壓測(cè)，評(píng)估，另外線程池有個(gè)變量也可以參考意義：largestPoolSize，線程池達(dá)到過(guò)的最大線程任務(wù)，比如你剛開(kāi)始可以把線程數(shù)設(shè)置的足夠大，壓測(cè)過(guò)后看這個(gè)參數(shù)達(dá)到的最大數(shù)值，同時(shí)參考系統(tǒng)的性能指標(biāo)，cou、io、mem等。
4. 這里還有個(gè)公式借鑒：最佳線程數(shù)目 = （（線程等待時(shí)間+線程CPU時(shí)間）/線程CPU時(shí)間 ）* CPU數(shù)目
5. 也有開(kāi)源的輔助測(cè)算線程池的合理線程數(shù)。

• AbortPolicy
  默認(rèn)拒絕策略, 直接拋RejectedExecutionException
• DiscardPolicy
  任務(wù)直接丟棄，不拋出異常
• CallerRunsPolicy
  由調(diào)用者來(lái)執(zhí)行被拒絕的任務(wù)，比如主線程調(diào)用線程池的submit提交任務(wù)，但是任務(wù)被拒絕，則主線程直接執(zhí)行。
  但是線程池如果已經(jīng)被關(guān)閉了，任務(wù)就被丟棄了。

  public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  //線程池沒(méi)關(guān)閉
  if (!e.isShutdown()) {
  //直接run，沒(méi)有讓線程池來(lái)執(zhí)行
    r.run();
  }
  }

• DiscardOldestPolicy
  丟棄隊(duì)列里等的最久的任務(wù)，然后嘗試執(zhí)行被拒絕的任務(wù)。
  但是線程池如果已經(jīng)被關(guān)閉了，任務(wù)就被丟棄了

  public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
  if (!e.isShutdown()) {
    //丟棄隊(duì)列頭部任務(wù)
    e.getQueue().poll();
    //線程池嘗試執(zhí)行任務(wù)
    e.execute(r);
  }
  }