<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          MySQL每秒57萬的寫入,帶你裝逼,帶你飛 !!

          共 3692字,需瀏覽 8分鐘

           ·

          2021-02-10 15:45

          往期熱門文章:

          1、用 Java 擼了一款 SSH 客戶端
          2、處理 Exception 的幾種實(shí)踐,很優(yōu)雅,被很多團(tuán)隊(duì)采納!
          3、一致性協(xié)議算法-2PC、3PC、Paxos、Raft、ZAB、NWR詳解
          4、這款I(lǐng)DEA插件刷爆了朋友圈,網(wǎng)友:一定是女朋友送的~
          5、@Autowire和@Resource注解使用的正確姿勢,別再用錯(cuò)的了!!
          來源 |?網(wǎng)絡(luò)

          一、需求

          一個(gè)朋友接到一個(gè)需求,從大數(shù)據(jù)平臺(tái)收到一個(gè)數(shù)據(jù)寫入在20億+,需要快速地加載到MySQL中,供第二天業(yè)務(wù)展示使用。

          二、實(shí)現(xiàn)再分析

          對(duì)于單表20億, 在MySQL運(yùn)維,說真的這塊目前涉及得比較少,也基本沒什么經(jīng)驗(yàn),但對(duì)于InnoDB單表Insert 如果內(nèi)存大于數(shù)據(jù)情況下,可以維持在10萬-15萬行寫入。但很多時(shí)間我們接受的項(xiàng)目還是數(shù)據(jù)超過內(nèi)存的。這里使用XeLabs TokuDB做一個(gè)測試。

          三、XeLabs TokuDB介紹

          項(xiàng)目地址:https://github.com/XeLabs/tokudb
          相對(duì)官方TokuDB的優(yōu)化:
          • 內(nèi)置了jemalloc 內(nèi)存分配

          • 引入更多的內(nèi)置的TokuDB性能指標(biāo)

          • 支持Xtrabackup備份

          • 引入ZSTD壓縮算法

          • 支持TokuDB的binloggroupcommit特性

          四、測試表

          TokuDB核心配置:
          1. loose_tokudb_cache_size=4G

          2. loose_tokudb_directio=ON

          3. loose_tokudb_fsync_log_period=1000

          4. tokudb_commit_sync=0

          表結(jié)構(gòu)
          1. CREATE TABLE `user_summary` (

          2. `user_id` bigint(20) unsigned NOT NULL COMMENT '用戶id/手機(jī)號(hào)',

          3. `weight` varchar(5) DEFAULT NULL COMMENT '和碼體重(KG)',

          4. `level` varchar(20) DEFAULT NULL COMMENT '重量級(jí)',

          5. `beat_rate` varchar(12) DEFAULT NULL COMMENT '擊敗率',

          6. `level_num` int(10) DEFAULT NULL COMMENT '同噸位人數(shù)',

          7. UNIQUE KEY `u_user_id` (`user_id`)

          8. ) ENGINE=TokuDB DEFAULT CHARSET=utf8

          利用load data寫入數(shù)據(jù)
          1. root@localhost [zst]>LOAD DATA INFILE '/u01/work/134-136.txt' \

          2. INTO TABLE user_summary(user_id, weight, level, beat_rate,level_num);

          3. Query OK, 200000000 rows affected (5 min 48.30 sec)

          4. Records: 200000000 Deleted: 0 Skipped: 0 Warnings: 0

          計(jì)算一下每秒寫入速度:
          1. root@localhost [zst]>select 200000000/(5*60+48.30);

          2. +------------------------+

          3. | 200000000/(5*60+48.30) |

          4. +------------------------+

          5. | 574217.6285 |

          6. +------------------------+

          7. 1 row in set (0.00 sec)

          文件大小:
          1. -rw-r--r-- 1 root root 8.5G 11 25 20:05 134-136.txt

          2. -rw-r----- 1 mysql mysql 8.6K 11 25 20:44 user_summary.frm

          3. -rw-r----- 1 mysql mysql 3.5G 11 25 20:51 user_summary_main_229_1_1d_B_0.tokudb

          實(shí)際文件8.5G,寫入TokuDB大小3.5G,只是接近于一半多點(diǎn)的壓縮量。
          對(duì)于20億數(shù)據(jù)寫入,實(shí)際測試在58分鐘多點(diǎn)就可以完成。可以滿足實(shí)際需求,另外對(duì)于磁盤IO比較好的機(jī)器(SSD類盤,云上的云盤),如果內(nèi)存和數(shù)據(jù)差不多情況,這量級(jí)數(shù)據(jù)量測試在Innodb里需要添加自增列,可以在3個(gè)小多一點(diǎn)完成。
          從最佳實(shí)戰(zhàn)上來看,Innodb和TokuDB都寫入同樣的數(shù)據(jù),InnoDB需要花大概是TokuDB3-4倍時(shí)間。文件大小區(qū)別,同樣20億數(shù)據(jù):
          1. -rw-r----- 1 mysql mysql 35G 11 25 23:29 user2_main_26a_1_1d_B_0.tokudb

          2. -rw-r----- 1 mysql mysql 176G 11 26 03:32 user5.ibd

          文件大小在5倍大小的區(qū)別。
          測試結(jié)論:
          利用TokuDB在某云環(huán)境中8核8G內(nèi)存,500G高速云盤環(huán)境,多次測試可以輕松實(shí)現(xiàn)57萬每秒的寫入量。
          另外測試幾種場景也供大家參考:如果在TokuDB中使用帶自增的主鍵,主鍵無值讓MySQL內(nèi)部產(chǎn)生寫入速度,下降比較明顯,同樣寫入2億數(shù)據(jù),帶有自建主鍵:
          1. root@localhost [zst]>CREATE TABLE `user3` (

          2. -> `user_id` bigint(20) unsigned NOT NULL COMMENT '用戶id/手機(jī)號(hào)',

          3. -> `weight` varchar(5) DEFAULT NULL COMMENT '和碼體重(KG)',

          4. -> `level` varchar(20) DEFAULT NULL COMMENT '重量級(jí)',

          5. -> `beat_rate` varchar(12) DEFAULT NULL COMMENT '擊敗率',

          6. -> `level_num` int(10) DEFAULT NULL COMMENT '同噸位人數(shù)',

          7. -> `id` bigint(20) NOT NULL AUTO_INCREMENT,

          8. -> PRIMARY KEY (`id`),

          9. -> UNIQUE KEY `u_user_id` (`user_id`)

          10. -> ) ENGINE=TokuDB;

          11. Query OK, 0 rows affected (0.03 sec)

          12. root@localhost [zst]>LOAD DATA INFILE '/u01/work/134-136.txt' INTO TABLE user3(user_id, weight, level, beat_rate,level_num);

          13. Query OK, 200000000 rows affected (22 min 43.62 sec)

          14. Records: 200000000 Deleted: 0 Skipped: 0 Warnings: 0

          MySQL每秒57萬的寫入,帶你飛
          同樣的數(shù)據(jù)寫入在主鍵自增無值產(chǎn)生時(shí),不能使用TokuDB的 Bulk loader data特性,相當(dāng)于轉(zhuǎn)換為了單條的Insert實(shí)現(xiàn),所以效果上慢太多。
          關(guān)于TokuDB Bulk Loader前提要求,這個(gè)表是空表,對(duì)于自增列,如自增列有值的情況下,也可以使用。
          建議實(shí)際使用中,如果自增列有值的情況下,可以考慮去除自增屬性,改成唯一索引,這樣減少自增的一些處理邏輯,讓TokuDB能跑地更快一點(diǎn)。另外在Bulk Loader處理中為了追求更快速的寫入,壓縮方面并不是很好。
          關(guān)于TokuDB Bulk Loader :https://github.com/percona/PerconaFT/wiki/TokuFT-Bulk-Loader

          五、測試環(huán)境說明

          測試使用CentOS7環(huán)境,編譯的XeLabs TokuDB版本。
          最近熱文閱讀:

          1、用 Java 擼了一款 SSH 客戶端
          2、處理 Exception 的幾種實(shí)踐,很優(yōu)雅,被很多團(tuán)隊(duì)采納!
          3、一致性協(xié)議算法-2PC、3PC、Paxos、Raft、ZAB、NWR詳解
          4、這款I(lǐng)DEA插件刷爆了朋友圈,網(wǎng)友:一定是女朋友送的~
          5、@Autowire和@Resource注解使用的正確姿勢,別再用錯(cuò)的了!!
          6、Java中的Switch都支持String了,為什么不支持long?
          7、請(qǐng)謹(jǐn)慎使用Arrays.asList、ArrayList的subList
          8、人臉識(shí)別“抓”錯(cuò)了人,他在監(jiān)獄呆了 10 天
          9、騷操作 !IDEA 防止寫代碼沉迷插件 !
          10、這四種情況下,才是考慮分庫分表的時(shí)候!
          關(guān)注公眾號(hào),你想要的Java都在這里

          瀏覽 45
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  yw视频在线观看 | 日韩先锋影音 | 琪琪色导航 | 中文字幕+乱码+中文乱码电影 | 真实国产亂伦免费看 |