MyBatis 三種批量插入方式的對比 !

作者:樓主樓主?
鏈接:https://www.jianshu.com/p/cce617be9f9e
數(shù)據(jù)庫使用的是sqlserver,JDK版本1.8,運(yùn)行在SpringBoot環(huán)境下對比3種可用的方式:
反復(fù)執(zhí)行單條插入語句 xml拼接sql 批處理執(zhí)行
先說結(jié)論:少量插入請使用反復(fù)插入單條數(shù)據(jù),方便。數(shù)量較多請使用批處理方式。(可以考慮以有需求的插入數(shù)據(jù)量20條左右為界吧,在我的測試和數(shù)據(jù)庫環(huán)境下耗時都是百毫秒級的,方便最重要)。無論何時都不用xml拼接sql的方式。
代碼
拼接SQL的xmlnewId()是sqlserver生成UUID的函數(shù),與本文內(nèi)容無關(guān)
<insert?id="insertByBatch"?parameterType="java.util.List">
????INSERT?INTO?tb_item?VALUES
????<foreach?collection="list"?item="item"?index="index"?separator=",">
????????(newId(),#{item.uniqueCode},#{item.projectId},#{item.name},#{item.type},#{item.packageUnique},
????????#{item.isPackage},#{item.factoryId},#{item.projectName},#{item.spec},#{item.length},#{item.weight},
????????#{item.material},#{item.setupPosition},#{item.areaPosition},#{item.bottomHeight},#{item.topHeight},
????????#{item.serialNumber},#{item.createTime}foreach>
insert>
Mapper接口Mapper
public?interface?ItemMapper?extends?Mapper<Item>?{
????int?insertByBatch(List- ?itemList)
;
}
Service類
@Service
public?class?ItemService?{
????@Autowired
????private?ItemMapper?itemMapper;
????@Autowired
????private?SqlSessionFactory?sqlSessionFactory;
????//批處理
????@Transactional
????public?void?add(List- ?itemList)
?{
????????SqlSession?session?=?sqlSessionFactory.openSession(ExecutorType.BATCH,false);
????????ItemMapper?mapper?=?session.getMapper(ItemMapper.class);
????????for?(int?i?=?0;?i?????????????mapper.insertSelective(itemList.get(i));
????????????if(i%1000==999){//每1000條提交一次防止內(nèi)存溢出
????????????????session.commit();
????????????????session.clearCache();
????????????}
????????}
????????session.commit();
????????session.clearCache();
????}
????//拼接sql
????@Transactional
????public?void?add1(List- ?itemList)
?{
????????itemList.insertByBatch(itemMapper::insertSelective);
????}
????//循環(huán)插入
????@Transactional
????public?void?add2(List- ?itemList)
?{
????????itemList.forEach(itemMapper::insertSelective);
????}
}
測試類
@RunWith(SpringRunner.class)
@SpringBootTest(webEnvironment?=?SpringBootTest.WebEnvironment.RANDOM_PORT,?classes?=?ApplicationBoot.class)
public?class?ItemServiceTest?{
????@Autowired
????ItemService?itemService;
????private?List- ?itemList?=?new?ArrayList<>();
????//生成測試List
????@Before?
????public?void?createList(){
????????String?json?="{\n"?+
????????????????"????????\"areaPosition\":?\"TEST\",\n"?+
????????????????"????????\"bottomHeight\":?5,\n"?+
????????????????"????????\"factoryId\":?\"0\",\n"?+
????????????????"????????\"length\":?233.233,\n"?+
????????????????"????????\"material\":?\"Q345B\",\n"?+
????????????????"????????\"name\":?\"TEST\",\n"?+
????????????????"????????\"package\":?false,\n"?+
????????????????"????????\"packageUnique\":?\"45f8a0ba0bf048839df85f32ebe5bb81\",\n"?+
????????????????"????????\"projectId\":?\"094b5eb5e0384bb1aaa822880a428b6d\",\n"?+
????????????????"????????\"projectName\":?\"項(xiàng)目_TEST1\",\n"?+
????????????????"????????\"serialNumber\":?\"1/2\",\n"?+
????????????????"????????\"setupPosition\":?\"1B柱\",\n"?+
????????????????"????????\"spec\":?\"200X200X200\",\n"?+
????????????????"????????\"topHeight\":?10,\n"?+
????????????????"????????\"type\":?\"Steel\",\n"?+
????????????????"????????\"uniqueCode\":?\"12344312\",\n"?+
????????????????"????????\"weight\":?100\n"?+
????????????????"????}";
????????Item?test1?=?JSON.parseObject(json,Item.class);
????????test1.setCreateTime(new?Date());
????????for?(int?i?=?0;?i?1000;?i++)?{//測試會修改此數(shù)量
????????????itemList.add(test1);
????????}
????}
?????//批處理
????@Test
????@Transactional
????public?void?tesInsert()?{
????????itemService.add(itemList);
????}
????//拼接字符串
????@Test
????@Transactional
????public?void?testInsert1(){
????????itemService.add1(itemList);
????}
????//循環(huán)插入
????@Test
????@Transactional
????public?void?testInsert2(){
????????itemService.add2(itemList);
????}
}
測試結(jié)果:
10條 25條數(shù)據(jù)插入經(jīng)多次測試,波動性較大,但基本都在百毫秒級別
| 方式 | 50條 | 100條 | 500條 | 1000條 |
|---|---|---|---|---|
| 批處理 | 159ms | 208ms | 305ms | 432ms |
| xml拼接sql | 208ms | 232ms | 報(bào)錯 | 報(bào)錯 |
| 反復(fù)單條插入 | 1013ms | 2266ms | 8141ms | 18861ms |
其中 拼接sql方式在插入500條和1000條時報(bào)錯(似乎是因?yàn)閟ql語句過長,此條跟數(shù)據(jù)庫類型有關(guān),未做其他數(shù)據(jù)庫的測試):com.microsoft.sqlserver.jdbc.SQLServerException: 傳入的表格格式數(shù)據(jù)流(TDS)遠(yuǎn)程過程調(diào)用(RPC)協(xié)議流不正確。此 RPC 請求中提供了過多的參數(shù)。最多應(yīng)為 2100
可以發(fā)現(xiàn)
循環(huán)插入的時間復(fù)雜度是 O(n),并且常數(shù)C很大 拼接SQL插入的時間復(fù)雜度(應(yīng)該)是 O(logn),但是成功完成次數(shù)不多,不確定 批處理的效率的時間復(fù)雜度是 O(logn),并且常數(shù)C也比較小
結(jié)論
循環(huán)插入單條數(shù)據(jù)雖然效率極低,但是代碼量極少,在使用tk.Mapper的插件情況下,僅需代碼,:
@Transactional
public?void?add1(List- ?itemList)
?{
????itemList.forEach(itemMapper::insertSelective);
}
因此,在需求插入數(shù)據(jù)數(shù)量不多的情況下肯定用它了。
xml拼接sql是最不推薦的方式,使用時有大段的xml和sql語句要寫,很容易出錯,工作效率很低。更關(guān)鍵點(diǎn)是,雖然效率尚可,但是真正需要效率的時候你掛了,要你何用?
批處理執(zhí)行是有大數(shù)據(jù)量插入時推薦的做法,使用起來也比較方便。
END
有熱門推薦??
1.?一次線上商城系統(tǒng)高并發(fā)優(yōu)化,漲姿勢了~
2.?Spring Boot 啟動擴(kuò)展點(diǎn)超詳細(xì)總結(jié),再也不怕面試官問了!
最近面試BAT,整理一份面試資料《Java面試BATJ通關(guān)手冊》,覆蓋了Java核心技術(shù)、JVM、Java并發(fā)、SSM、微服務(wù)、數(shù)據(jù)庫、數(shù)據(jù)結(jié)構(gòu)等等。
獲取方式:點(diǎn)“在看”,關(guān)注公眾號并回復(fù)?Java?領(lǐng)取,更多內(nèi)容陸續(xù)奉上。
文章有幫助的話,在看,轉(zhuǎn)發(fā)吧。
謝謝支持喲 (*^__^*)

