Tomcat 組成與工作原理

• Tomcat是什么
• Servlet容器
• JSP引擎
• Connector
• Comet
• 異步Servlet

Tomcat是什么

開源的 Java Web 應(yīng)用服務(wù)器，實現(xiàn)了 Java EE(Java Platform Enterprise Edition)的部 分技術(shù)規(guī)范，比如 Java Servlet、Java Server Page、JSTL、Java WebSocket。Java EE 是 Sun 公 司為企業(yè)級應(yīng)用推出的標準平臺，定義了一系列用于企業(yè)級開發(fā)的技術(shù)規(guī)范，除了上述的之外，還有 EJB、Java Mail、JPA、JTA、JMS 等，而這些都依賴具體容器的實現(xiàn)。

上圖對比了 Java EE 容器的實現(xiàn)情況，Tomcat 和 Jetty 都只提供了 Java Web 容器必需的 Servlet 和 JSP 規(guī)范，開發(fā)者要想實現(xiàn)其他的功能，需要自己依賴其他開源實現(xiàn)。

Glassfish 是由 sun 公司推出，Java EE 最新規(guī)范出來之后，首先會在 Glassfish 上進行實 現(xiàn)，所以是研究 Java EE 最新技術(shù)的首選。

最常見的情況是使用 Tomcat 作為 Java Web 服務(wù)器，使用 Spring 提供的開箱即用的強大 的功能，并依賴其他開源庫來完成負責(zé)的業(yè)務(wù)功能實現(xiàn)。

Servlet容器

Tomcat 組成如下圖 ：主要有 Container 和 Connector 以及相關(guān)組件構(gòu)成。

Server ：指的就是整個 Tomcat 服 務(wù)器，包含多組服務(wù)，負責(zé)管理和 啟動各個 Service，同時監(jiān)聽 8005 端口發(fā)過來的 shutdown 命令，用 于關(guān)閉整個容器 ；

Service ：Tomcat 封裝的、對外提 供完整的、基于組件的 web 服務(wù)， 包含 Connectors、Container 兩個 核心組件，以及多個功能組件，各 個 Service 之間是獨立的，但是共享 同一 JVM 的資源 ；

Connector ：Tomcat 與外部世界的連接器，監(jiān)聽固定端口接收外部請求，傳遞給 Container，并 將 Container 處理的結(jié)果返回給外部；

Container ：Catalina，Servlet 容器，內(nèi)部有多層容器組成，用于管理 Servlet 生命周期，調(diào)用 servlet 相關(guān)方法。

Loader ：封裝了 Java ClassLoader，用于 Container 加載類文件；Realm：Tomcat 中為 web 應(yīng)用程序提供訪問認證和角色管理的機制；

JMX ：Java SE 中定義技術(shù)規(guī)范，是一個為應(yīng)用程序、設(shè)備、系統(tǒng)等植入管理功能的框架，通過 JMX 可以遠程監(jiān)控 Tomcat 的運行狀態(tài)；

Jasper ：Tomcat 的 Jsp 解析引擎，用于將 Jsp 轉(zhuǎn)換成 Java 文件，并編譯成 class 文件。Session：負責(zé)管理和創(chuàng)建 session，以及 Session 的持久化(可自定義)，支持 session 的集 群。

Pipeline ：在容器中充當(dāng)管道的作用，管道中可以設(shè)置各種 valve(閥門)，請求和響應(yīng)在經(jīng)由管 道中各個閥門處理，提供了一種靈活可配置的處理請求和響應(yīng)的機制。

Naming ：命名服務(wù)，JNDI， Java 命名和目錄接口，是一組在 Java 應(yīng)用中訪問命名和目錄服務(wù)的 API。命名服務(wù)將名稱和對象聯(lián)系起來，使得我們可以用名稱訪問對象，目錄服務(wù)也是一種命名 服務(wù)，對象不但有名稱，還有屬性。Tomcat 中可以使用 JNDI 定義數(shù)據(jù)源、配置信息，用于開發(fā) 與部署的分離。

Container組成

Engine：Servlet 的頂層容器，包含一 個或多個 Host 子容器；Host：虛擬主機，負責(zé) web 應(yīng)用的部 署和 Context 的創(chuàng)建；Context：Web 應(yīng)用上下文，包含多個 Wrapper，負責(zé) web 配置的解析、管 理所有的 Web 資源；Wrapper：最底層的容器，是對 Servlet 的封裝，負責(zé) Servlet 實例的創(chuàng) 建、執(zhí)行和銷毀。

生命周期管理 Tomcat 為了方便管理組件和容器的生命周期，定義了從創(chuàng)建、啟動、到停止、銷毀共 12 中狀態(tài)，tomcat 生命周期管理了內(nèi)部狀態(tài)變化的規(guī)則控制，組件和容器只需實現(xiàn)相應(yīng)的生命周期 方法即可完成各生命周期內(nèi)的操作(initInternal、startInternal、stopInternal、 destroyInternal)；

比如執(zhí)行初始化操作時，會判斷當(dāng)前狀態(tài)是否 New，如果不是則拋出生命周期異常；是的 話則設(shè)置當(dāng)前狀態(tài)為 Initializing，并執(zhí)行 initInternal 方法，由子類實現(xiàn)，方法執(zhí)行成功則設(shè)置當(dāng) 前狀態(tài)為 Initialized，執(zhí)行失敗則設(shè)置為 Failed 狀態(tài)；

Tomcat 的生命周期管理引入了事件機制，在組件或容器的生命周期狀態(tài)發(fā)生變化時會通 知事件監(jiān)聽器，監(jiān)聽器通過判斷事件的類型來進行相應(yīng)的操作。事件監(jiān)聽器的添加可以在 server.xml 文件中進行配置;

Tomcat 各類容器的配置過程就是通過添加 listener 的方式來進行的，從而達到配置邏輯與 容器的解耦。如 EngineConfig、HostConfig、ContextConfig。EngineConfig：主要打印啟動和停止日志 HostConfig：主要處理部署應(yīng)用，解析應(yīng)用 META-INF/context.xml 并創(chuàng)建應(yīng)用的 Context ContextConfig：主要解析并合并 web.xml，掃描應(yīng)用的各類 web 資源 (filter、servlet、listener)

Tomcat 的啟動過程

啟動從 Tomcat 提供的 start.sh 腳本開始，shell 腳本會調(diào)用 Bootstrap 的 main 方法，實際 調(diào)用了 Catalina 相應(yīng)的 load、start 方法。

load 方法會通過 Digester 進行 config/server.xml 的解析，在解析的過程中會根據(jù) xml 中的關(guān)系 和配置信息來創(chuàng)建容器，并設(shè)置相關(guān)的屬性。接著 Catalina 會調(diào)用 StandardServer 的 init 和 start 方法進行容器的初始化和啟動。

按照 xml 的配置關(guān)系，server 的子元素是 service，service 的子元素是頂層容器 Engine，每層容器有持有自己的子容器，而這些元素都實現(xiàn)了生命周期管理 的各個方法，因此就很容易的完成整個容器的啟動、關(guān)閉等生命周期的管理。

StandardServer 完成 init 和 start 方法調(diào)用后，會一直監(jiān)聽來自 8005 端口(可配置)，如果接收 到 shutdown 命令，則會退出循環(huán)監(jiān)聽，執(zhí)行后續(xù)的 stop 和 destroy 方法，完成 Tomcat 容器的 關(guān)閉。同時也會調(diào)用 JVM 的 Runtime.getRuntime()?.addShutdownHook 方法，在虛擬機意外退 出的時候來關(guān)閉容器。

所有容器都是繼承自 ContainerBase，基類中封裝了容器中的重復(fù)工作，負責(zé)啟動容器相關(guān)的組 件 Loader、Logger、Manager、Cluster、Pipeline，啟動子容器(線程池并發(fā)啟動子容器，通過 線程池 submit 多個線程，調(diào)用后返回 Future 對象，線程內(nèi)部啟動子容器，接著調(diào)用 Future 對象 的 get 方法來等待執(zhí)行結(jié)果)。

List<Future<Void>> results = new ArrayList<Future<Void>>();
for (int i = 0; i < children.length; i++) {
    results.add(startStopExecutor.submit(new StartChild(children[i])));
}
boolean fail = false;
for (Future<Void> result ：results) {
    try {
        result.get();
    } catch (Exception e) {
        log.error(sm.getString("containerBase.threadedStartFailed")， e);
        fail = true;
    }
}

Web 應(yīng)用的部署方式 注：catalina.home：安裝目錄;catalina.base：工作目錄;默認值 user.dir

• Server.xml 配置 Host 元素，指定 appBase 屬性，默認$catalina.base/webapps/
• Server.xml 配置 Context 元素，指定 docBase，元素，指定 web 應(yīng)用的路徑
• 自定義配置：在$catalina.base/EngineName/HostName/XXX.xml 配置 Context 元素

HostConfig 監(jiān)聽了 StandardHost 容器的事件，在 start 方法中解析上述配置文件：

• 掃描 appbase 路徑下的所有文件夾和 war 包，解析各個應(yīng)用的 META-INF/context.xml，并 創(chuàng)建 StandardContext，并將 Context 加入到 Host 的子容器中。
• 解析$catalina.base/EngineName/HostName/下的所有 Context 配置，找到相應(yīng) web 應(yīng) 用的位置，解析各個應(yīng)用的 META-INF/context.xml，并創(chuàng)建 StandardContext，并將 Context 加入到 Host 的子容器中。

注：

• HostConfig 并沒有實際解析 Context.xml，而是在 ContextConfig 中進行的。
• HostConfig 中會定期檢查 watched 資源文件(context.xml 配置文件)

ContextConfig 解析 context.xml 順序：

• 先解析全局的配置 config/context.xml
• 然后解析 Host 的默認配置 EngineName/HostName/context.xml.default
• 最后解析應(yīng)用的 META-INF/context.xml

ContextConfig 解析 web.xml 順序：

• 先解析全局的配置 config/web.xml
• 然后解析 Host 的默認配置 EngineName/HostName/web.xml.default 接著解析應(yīng)用的 MEB-INF/web.xml
• 掃描應(yīng)用 WEB-INF/lib/下的 jar 文件，解析其中的 META-INF/web-fragment.xml 最后合并 xml 封裝成 WebXml，并設(shè)置 Context

注：

• 掃描 web 應(yīng)用和 jar 中的注解(Filter、Listener、Servlet)就是上述步驟中進行的。
• 容器的定期執(zhí)行：backgroundProcess，由 ContainerBase 來實現(xiàn)的，并且只有在頂層容器 中才會開啟線程。(backgroundProcessorDelay=10 標志位來控制)

Servlet 生命周期

Servlet 是用 Java 編寫的服務(wù)器端程序。其主要功能在于交互式地瀏覽和修改數(shù)據(jù)，生成動態(tài) Web 內(nèi)容。

1. 請求到達 server 端，server 根據(jù) url 映射到相應(yīng)的 Servlet
2. 判斷 Servlet 實例是否存在，不存在則加載和實例化 Servlet 并調(diào)用 init 方法
3. Server 分別創(chuàng)建 Request 和 Response 對象，調(diào)用 Servlet 實例的 service 方法(service 方法 內(nèi)部會根據(jù) http 請求方法類型調(diào)用相應(yīng)的 doXXX 方法)
4. doXXX 方法內(nèi)為業(yè)務(wù)邏輯實現(xiàn)，從 Request 對象獲取請求參數(shù)，處理完畢之后將結(jié)果通過 response 對象返回給調(diào)用方
5. 當(dāng) Server 不再需要 Servlet 時(一般當(dāng) Server 關(guān)閉時)，Server 調(diào)用 Servlet 的 destroy() 方 法。

load on startup

當(dāng)值為 0 或者大于 0 時，表示容器在應(yīng)用啟動時就加載這個 servlet; 當(dāng)是一個負數(shù)時或者沒有指定時，則指示容器在該 servlet 被選擇時才加載; 正數(shù)的值越小，啟動該 servlet 的優(yōu)先級越高;

single thread model

每次訪問 servlet，新建 servlet 實體對象，但并不能保證線程安全，同時 tomcat 會限制 servlet 的實例數(shù)目 最佳實踐：不要使用該模型，servlet 中不要有全局變量

請求處理過程

1. 根據(jù) server.xml 配置的指定的 connector 以及端口監(jiān)聽 http、或者 ajp 請求
2. 請求到來時建立連接,解析請求參數(shù),創(chuàng)建 Request 和 Response 對象,調(diào)用頂層容器 pipeline 的 invoke 方法
3. 容器之間層層調(diào)用,最終調(diào)用業(yè)務(wù) servlet 的 service 方法
4. Connector 將 response 流中的數(shù)據(jù)寫到 socket 中

Pipeline 與 Valve

Pipeline 可以理解為現(xiàn)實中的管道,Valve 為管道中的閥門,Request 和 Response 對象在管道中 經(jīng)過各個閥門的處理和控制。

每個容器的管道中都有一個必不可少的 basic valve,其他的都是可選的,basic valve 在管道中最 后調(diào)用,同時負責(zé)調(diào)用子容器的第一個 valve。

Valve 中主要的三個方法:setNext、getNext、invoke;valve 之間的關(guān)系是單向鏈式結(jié)構(gòu),本身 invoke 方法中會調(diào)用下一個 valve 的 invoke 方法。

各層容器對應(yīng)的 basic valve 分別是 StandardEngineValve、StandardHostValve、 StandardContextValve、StandardWrapperValve。

JSP引擎

JSP 生命周期

• 編譯階段:servlet 容器編譯 servlet 源文 件,生成 servlet 類
• 初始化階段:加載與 JSP 對應(yīng)的 servlet 類, 創(chuàng)建其實例,并調(diào)用它的初始化方法
• 執(zhí)行階段:調(diào)用與 JSP 對應(yīng)的 servlet 實例的 服務(wù)方法
• 銷毀階段:調(diào)用與 JSP 對應(yīng)的 servlet 實例的 銷毀方法,然后銷毀 servlet 實例

JSP元素 代碼片段：<% 代碼片段 %> JSP聲明：<%! declaration; [ declaration; ]+ ... %> JSP表達式：<%= 表達式 %> JSP注釋：<%-- 注釋 --%> JSP指令：   <%@ directive attribute=“value” %> JSP行為：   <jsp:action_name attribute=“value” /> HTML元素：html/head/body/div/p/… JSP隱式對象：request、response、out、session、application、config、 pageContext、page、Exception

JSP 元素說明

代碼片段:包含任意量的 Java 語句、變量、方法或表達式; JSP 聲明:一個聲明語句可以聲明一個或多個變量、方法,供后面的 Java 代碼使用; JSP 表達式:輸出 Java 表達式的值,String 形式; JSP 注釋:為代碼作注釋以及將某段代碼注釋掉 JSP 指令:用來設(shè)置與整個 JSP 頁面相關(guān)的屬性, <%@ page ... %>定義頁面的依賴屬性,比如 language、contentType、errorPage、 isErrorPage、import、isThreadSafe、session 等等 <%@ include ... %>包含其他的 JSP 文件、HTML 文件或文本文件,是該 JSP 文件的一部分,會 被同時編譯執(zhí)行 <%@ taglib ... %>引入標簽庫的定義,可以是自定義標簽 JSP 行為:jsp:include、jsp:useBean、jsp:setProperty、jsp:getProperty、jsp:forward

Jsp 解析過程

• 代碼片段:在_jspService()方法內(nèi)直接輸出
• JSP 聲明: 在 servlet 類中進行輸出
• JSP 表達式:在_jspService()方法內(nèi)直接輸出
• JSP 注釋:直接忽略,不輸出
• JSP 指令:根據(jù)不同指令進行區(qū)分,include:對引入的文件進行解析;page 相關(guān)的屬性會做為 JSP 的屬性,影響的是解析和請求處理時的行為
• JSP 行為:不同的行為有不同的處理方式,jsp:useBean 為例,會從 pageContext 根據(jù) scope 的 類別獲取 bean 對象,如果沒有會創(chuàng)建 bean,同時存到相應(yīng) scope 的 pageContext 中
• HTML:在_jspService()方法內(nèi)直接輸出
• JSP 隱式對象:在_jspService()方法會進行聲明,只能在方法中使用;

Connector

Http:HTTP 是超文本傳輸協(xié)議,是客戶端瀏覽器或其他程序與 Web 服務(wù)器之間的應(yīng)用層通信協(xié) 議 AJP:Apache JServ 協(xié)議(AJP)是一種二進制協(xié)議,專門代理從 Web 服務(wù)器到位于后端的應(yīng)用 程序服務(wù)器的入站請求 阻塞 IO

非阻塞 IO

IO多路復(fù)用

阻塞與非阻塞的區(qū)別在于進行讀操作和寫操作的系統(tǒng)調(diào)用時，如果此時內(nèi)核態(tài)沒有數(shù)據(jù)可讀或者沒有緩沖空間可寫時，是否阻塞。

IO多路復(fù)用的好處在于可同時監(jiān)聽多個socket的可讀和可寫事件，這樣就能使得應(yīng)用可以同時監(jiān)聽多個socket，釋放了應(yīng)用線程資源。

Tomcat各類Connector對比

Connector的實現(xiàn)模式有三種，分別是BIO、NIO、APR，可以在server.xml中指定。

• JIO：用java.io編寫的TCP模塊，阻塞IO
• NIO：用java.nio編寫的TCP模塊，非阻塞IO，（IO多路復(fù)用）
• APR：全稱Apache Portable Runtime，使用JNI的方式來進行讀取文件以及進行網(wǎng)絡(luò)傳輸

Apache Portable Runtime是一個高度可移植的庫，它是Apache HTTP Server 2.x的核心。APR具有許多用途，包括訪問高級IO功能（如sendfile，epoll和OpenSSL），操作系統(tǒng)級功能（隨機數(shù)生成，系統(tǒng)狀態(tài)等）和本地進程處理（共享內(nèi)存，NT管道和Unix套接字）。

表格中字段含義說明：

• Support Polling：是否支持基于IO多路復(fù)用的socket事件輪詢
• Polling Size：輪詢的最大連接數(shù)
• Wait for next Request：在等待下一個請求時，處理線程是否釋放，BIO是沒有釋放的，所以在keep-alive=true的情況下處理的并發(fā)連接數(shù)有限
• Read Request Headers：由于request header數(shù)據(jù)較少，可以由容器提前解析完畢，不需要阻塞
• Read Request Body：讀取request body的數(shù)據(jù)是應(yīng)用業(yè)務(wù)邏輯的事情，同時Servlet的限制，是需要阻塞讀取的
• Write Response：跟讀取request body的邏輯類似，同樣需要阻塞寫

NIO處理相關(guān)類

Acceptor線程負責(zé)接收連接，調(diào)用accept方法阻塞接收建立的連接，并對socket進行封裝成PollerEvent，指定注冊的事件為op_read，并放入到EventQueue隊列中，PollerEvent的run方法邏輯的是將Selector注冊到socket的指定事件；

Poller線程從EventQueue獲取PollerEvent，并執(zhí)行PollerEvent的run方法，調(diào)用Selector的select方法，如果有可讀的Socket則創(chuàng)建Http11NioProcessor，放入到線程池中執(zhí)行；

CoyoteAdapter是Connector到Container的適配器，Http11NioProcessor調(diào)用其提供的service方法，內(nèi)部創(chuàng)建Request和Response對象，并調(diào)用最頂層容器的Pipeline中的第一個Valve的invoke方法

Mapper主要處理http url 到servlet的映射規(guī)則的解析，對外提供map方法

NIO Connector主要參數(shù)

Comet

Comet是一種用于web的推送技術(shù)，能使服務(wù)器實時地將更新的信息傳送到客戶端，而無須客戶端發(fā)出請求 在WebSocket出來之前，如果不使用comet，只能通過瀏覽器端輪詢Server來模擬實現(xiàn)服務(wù)器端推送。Comet支持servlet異步處理IO，當(dāng)連接上數(shù)據(jù)可讀時觸發(fā)事件，并異步寫數(shù)據(jù)(阻塞)

Tomcat要實現(xiàn)Comet，只需繼承HttpServlet同時，實現(xiàn)CometProcessor接口

• Begin：新的請求連接接入調(diào)用，可進行與Request和Response相關(guān)的對象初始化操作，并保存response對象，用于后續(xù)寫入數(shù)據(jù)
• Read：請求連接有數(shù)據(jù)可讀時調(diào)用
• End：當(dāng)數(shù)據(jù)可用時，如果讀取到文件結(jié)束或者response被關(guān)閉時則被調(diào)用
• Error：在連接上發(fā)生異常時調(diào)用，數(shù)據(jù)讀取異常、連接斷開、處理異常、socket超時

Note：

• Read：在post請求有數(shù)據(jù)，但在begin事件中沒有處理，則會調(diào)用read，如果read沒有讀取數(shù)據(jù)，在會觸發(fā)Error回調(diào)，關(guān)閉socket
• End：當(dāng)socket超時，并且response被關(guān)閉時也會調(diào)用；server被關(guān)閉時調(diào)用
• Error：除了socket超時不會關(guān)閉socket，其他都會關(guān)閉socket
• End和Error時間觸發(fā)時應(yīng)關(guān)閉當(dāng)前comet會話，即調(diào)用CometEvent的close方法 Note：在事件觸發(fā)時要做好線程安全的操作

異步Servlet

傳統(tǒng)流程：

• 首先，Servlet 接收到請求之后，request數(shù)據(jù)解析；
• 接著，調(diào)用業(yè)務(wù)接口的某些方法，以完成業(yè)務(wù)處理；
• 最后，根據(jù)處理的結(jié)果提交響應(yīng)，Servlet 線程結(jié)束

異步處理流程：

• 客戶端發(fā)送一個請求
• Servlet容器分配一個線程來處理容器中的一個servlet
• servlet調(diào)用request.startAsync()，保存AsyncContext, 然后返回
• 任何方式存在的容器線程都將退出，但是response仍然保持開放
• 業(yè)務(wù)線程使用保存的AsyncContext來完成響應(yīng)（線程池）
• 客戶端收到響應(yīng)

Servlet 線程將請求轉(zhuǎn)交給一個異步線程來執(zhí)行業(yè)務(wù)處理，線程本身返回至容器，此時 Servlet 還沒有生成響應(yīng)數(shù)據(jù)，異步線程處理完業(yè)務(wù)以后，可以直接生成響應(yīng)數(shù)據(jù)（異步線程擁有 ServletRequest 和 ServletResponse 對象的引用）

為什么web應(yīng)用中支持異步？

推出異步，主要是針對那些比較耗時的請求：比如一次緩慢的數(shù)據(jù)庫查詢，一次外部REST API調(diào)用, 或者是其他一些I/O密集型操作。這種耗時的請求會很快的耗光Servlet容器的線程池，繼而影響可擴展性。

Note：從客戶端的角度來看，request仍然像任何其他的HTTP的request-response交互一樣，只是耗費了更長的時間而已

異步事件監(jiān)聽

• onStartAsync：Request調(diào)用startAsync方法時觸發(fā)
• onComplete：syncContext調(diào)用complete方法時觸發(fā)
• onError：處理請求的過程出現(xiàn)異常時觸發(fā)
• onTimeout：socket超時觸發(fā)

Note : onError/ onTimeout觸發(fā)后，會緊接著回調(diào)onComplete onComplete 執(zhí)行后，就不可再操作request和response

長按二維碼，掃掃關(guān)注哦