SpringBoot + 虛擬線程，性能炸裂！

什么是虛擬線程

虛擬線程是Java19開(kāi)始增加的一個(gè)特性，和Golang的攜程類似，一個(gè)其它語(yǔ)言早就提供的、且如此實(shí)用且好用的功能，作為一個(gè)Java開(kāi)發(fā)者，早就已經(jīng)望眼欲穿了。

虛擬線程和普通線程的區(qū)別

“虛擬”線程，望文生義，它是“假”的，它不直接調(diào)度操作系統(tǒng)的線程，而是由JVM再提供一層線程的接口抽象，由普通線程調(diào)度，即一個(gè)普通的操作系統(tǒng)線程可以調(diào)度成千上萬(wàn)個(gè)虛擬線程。

虛擬線程比普通線程的消耗要小得多得多，在內(nèi)存足夠的情況下，我們甚至可以創(chuàng)建上百萬(wàn)的虛擬線程，這在之前(Java19以前)是不可能的。

?

其實(shí)如果有用過(guò)akka的朋友們會(huì)發(fā)現(xiàn)，其實(shí)兩者很相似，只不過(guò)使用akka是應(yīng)用程序來(lái)處理，而虛擬線程是JVM來(lái)處理，使用上更簡(jiǎn)潔且方便。

?

SpringBoot使用虛擬線程

下面我們會(huì)在SpringBoot中使用虛擬線程，將默認(rèn)的異步線程池和http處理線程池替換為虛擬線程，然后對(duì)比虛擬線程和普通線程的性能差異，你會(huì)發(fā)現(xiàn)差別就像馬車換高鐵，不是一個(gè)時(shí)代的東西。

配置

首先我們使用的Java版本是java-20.0.2-oracle，SpringBoot版本是3.1.2。

要在SpringBoot中使用虛擬線程很簡(jiǎn)單，增加如下配置即可：

/**
 * 配置是用于稍后測(cè)試，spring.virtual-thread=true是使用虛擬線程，false時(shí)還是使用默認(rèn)的普通線程
 */
@Configuration
@ConditionalOnProperty(prefix = "spring", name = "virtual-thread", havingValue = "true")
public class ThreadConfig {

    @Bean
    public AsyncTaskExecutor applicationTaskExecutor() {
        return new TaskExecutorAdapter(Executors.newVirtualThreadPerTaskExecutor());
    }

    @Bean
    public TomcatProtocolHandlerCustomizer<?> protocolHandlerCustomizer() {
        return protocolHandler -> {
            protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());
        };
    }
}

@Async性能對(duì)比

我們寫(xiě)一個(gè)異步service，里面睡眠50ms，模擬MySQL或Redis等IO操作：

@Service
public class AsyncService {

    /**
     * 
     * @param countDownLatch 用于測(cè)試
     */
    @Async
    public void doSomething(CountDownLatch countDownLatch) throws InterruptedException {
        Thread.sleep(50);
        countDownLatch.countDown();
    }
}

最后測(cè)試類，很簡(jiǎn)單，就是循環(huán)調(diào)用這個(gè)方法10萬(wàn)次，計(jì)算所有方法執(zhí)行完成的消耗的時(shí)間：

@Test
public void testAsync() throws InterruptedException {
    long start = System.currentTimeMillis();
    int n = 100000;
    CountDownLatch countDownLatch = new CountDownLatch(n);
    for (int i = 0; i < n; i++) {
        asyncService.doSomething(countDownLatch);
    }
    countDownLatch.await();
    long end = System.currentTimeMillis();
    System.out.println("耗時(shí)：" + (end - start) + "ms");
}

普通線程耗時(shí)：678秒左右，超過(guò)10分鐘了

虛擬線程耗時(shí)：3.9秒!!

朋友們，接近200倍的性能差距！！

HTTP請(qǐng)求性能對(duì)比

讓我們?cè)倏纯磆ttp請(qǐng)求的對(duì)比，簡(jiǎn)單寫(xiě)個(gè)get請(qǐng)求，里面什么也不做，一樣睡50ms，模擬IO操作：

@RequestMapping("/get")
public Object get() throws Exception {
    Thread.sleep(50);
    return "ok";
}

然后我們使用jmeter請(qǐng)求接口，500個(gè)并發(fā)線程，運(yùn)行1萬(wàn)次，看看效果如何：

「普通線程：」

可以看到最小用時(shí)50ms，這個(gè)沒(méi)毛病，接口里面睡眠了50ms，但是不管是中位數(shù)還是90/95/99線都大于150ms了，這是因?yàn)橄到y(tǒng)線程是一個(gè)很昂貴的資源，SpringBoot中tomcat默認(rèn)的最大連接數(shù)應(yīng)該是200，在連接池的線程被耗盡后，這200個(gè)線程在那干等50ms結(jié)束，而剩下的請(qǐng)求也只能等待，無(wú)法進(jìn)行其它的操作。下面再看下虛擬線程的表現(xiàn)：

「虛擬線程耗時(shí)：」

可以看到即使是最大耗時(shí)，也保持在100ms以下，即線程等待時(shí)間顯著的減少，虛擬線程更好的利用了系統(tǒng)資源。

總結(jié)

從上面的性能對(duì)比來(lái)看，虛擬線程在性能方面有明顯的優(yōu)勢(shì)，但是要注意的是，我們上面的測(cè)試都是讓線程等待了50ms，這是模擬什么場(chǎng)景？

沒(méi)錯(cuò)，是IO密集型場(chǎng)景，即線程大部分時(shí)間是在等待IO，這樣虛擬線程才可以發(fā)揮出它的優(yōu)勢(shì)，如果是CPU密集型場(chǎng)景，那么可能效果并不大。不過(guò)我們目前大部分的應(yīng)用都是IO密集型應(yīng)用較多，比如典型的WEB應(yīng)用，大量的時(shí)間在等待網(wǎng)絡(luò)IO（DB、緩存、HTTP等等），使用虛擬線程的效果還是非常明顯的。

?

最后：大部分的公司可能還在用Java8，但是我想說(shuō)的是，是時(shí)候升級(jí)了，跟上時(shí)代的腳步吧，朋友們！

?

來(lái)源：juejin.cn/post/7266745788536799247

    

     后端專屬技術(shù)群
     

    
以構(gòu)建高質(zhì)量的技術(shù)交流社群為目的，歡迎從事編程開(kāi)發(fā)、技術(shù)招聘HR進(jìn)群，分享內(nèi)推信息，技術(shù)交流，相互幫助，一起進(jìn)步！
廣告人士勿入，切勿輕信私聊，防止被騙