<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          最常用的分布式 ID 解決方案,都在這里了!

          共 9881字,需瀏覽 20分鐘

           ·

          2021-04-14 23:12

          點擊上方 好好學(xué)java ,選擇 星標(biāo) 公眾號

          重磅資訊,干貨,第一時間送達(dá)

          今日推薦:推薦19個github超牛逼項目!

          個人原創(chuàng)100W +訪問量博客:點擊前往,查看更多

          作者:小帥學(xué)編程

          cnblogs.com/sgh1023/p/14094592.html

          「一、分布式ID概念」

          說起ID,特性就是唯一,在人的世界里,ID就是身份證,是每個人的唯一的身份標(biāo)識。在復(fù)雜的分布式系統(tǒng)中,往往也需要對大量的數(shù)據(jù)和消息進(jìn)行唯一標(biāo)識。舉個例子,數(shù)據(jù)庫的ID字段在單體的情況下可以使用自增來作為ID,但是對數(shù)據(jù)分庫分表后一定需要一個唯一的ID來標(biāo)識一條數(shù)據(jù),這個ID就是分布式ID。對于分布式ID而言,也需要具備分布式系統(tǒng)的特點:高并發(fā),高可用,高性能等特點。

          「二、分布式ID實現(xiàn)方案」

          下表為一些常用方案對比:


          描述優(yōu)點缺點
          UUIDUUID是通用唯一標(biāo)識碼的縮寫,其目的是上分布式系統(tǒng)中的所有元素都有唯一的辨識信息,而不需要通過中央控制器來指定唯一標(biāo)識。1. 降低全局節(jié)點的壓力,使得主鍵生成速度更快;2. 生成的主鍵全局唯一;3. 跨服務(wù)器合并數(shù)據(jù)方便1. UUID占用16個字符,空間占用較多;2. 不是遞增有序的數(shù)字,數(shù)據(jù)寫入IO隨機(jī)性很大,且索引效率下降
          數(shù)據(jù)庫主鍵自增MySQL數(shù)據(jù)庫設(shè)置主鍵且主鍵自動增長1. INT和BIGINT類型占用空間較小;2. 主鍵自動增長,IO寫入連續(xù)性好;3. 數(shù)字類型查詢速度優(yōu)于字符串1. 并發(fā)性能不高,受限于數(shù)據(jù)庫性能;2. 分庫分表,需要改造,復(fù)雜;3. 自增:數(shù)據(jù)量泄露
          Redis自增Redis計數(shù)器,原子性自增使用內(nèi)存,并發(fā)性能好1. 數(shù)據(jù)丟失;2. 自增:數(shù)據(jù)量泄露
          雪花算法(snowflake)大名鼎鼎的雪花算法,分布式ID的經(jīng)典解決方案1. 不依賴外部組件;2. 性能好時鐘回?fù)?/span>

          目前流行的分布式ID解決方案有兩種:「號段模式」「雪花算法」

          「號段模式」依賴于數(shù)據(jù)庫,但是區(qū)別于數(shù)據(jù)庫主鍵自增的模式。假設(shè)100為一個號段100,200,300,每取一次可以獲得100個ID,性能顯著提高。

          「雪花算法」是由符號位+時間戳+工作機(jī)器id+序列號組成的,如圖所示:

          符號位為0,0表示正數(shù),ID為正數(shù)。

          時間戳位不用多說,用來存放時間戳,單位是ms。

          工作機(jī)器id位用來存放機(jī)器的id,通常分為5個區(qū)域位+5個服務(wù)器標(biāo)識位。

          序號位是自增。

          • 雪花算法能存放多少數(shù)據(jù)?時間范圍:2^41 / (3652460601000) = 69年 工作進(jìn)程范圍:2^10 = 1024 序列號范圍:2^12 = 4096,表示1ms可以生成4096個ID。

          根據(jù)這個算法的邏輯,只需要將這個算法用Java語言實現(xiàn)出來,封裝為一個工具方法,那么各個業(yè)務(wù)應(yīng)用可以直接使用該工具方法來獲取分布式ID,只需保證每個業(yè)務(wù)應(yīng)用有自己的工作機(jī)器id即可,而不需要單獨去搭建一個獲取分布式ID的應(yīng)用。下面是推特版的Snowflake算法:

          public class SnowFlake {

              /**
               * 起始的時間戳
               */
              private final static long START_STMP = 1480166465631L;

              /**
               * 每一部分占用的位數(shù)
               */
              private final static long SEQUENCE_BIT = 12; //序列號占用的位數(shù)
              private final static long MACHINE_BIT = 5;   //機(jī)器標(biāo)識占用的位數(shù)
              private final static long DATACENTER_BIT = 5;//數(shù)據(jù)中心占用的位數(shù)

              /**
               * 每一部分的最大值
               */
              private final static long MAX_DATACENTER_NUM = -1L ^ (-1L << DATACENTER_BIT);
              private final static long MAX_MACHINE_NUM = -1L ^ (-1L << MACHINE_BIT);
              private final static long MAX_SEQUENCE = -1L ^ (-1L << SEQUENCE_BIT);

              /**
               * 每一部分向左的位移
               */
              private final static long MACHINE_LEFT = SEQUENCE_BIT;
              private final static long DATACENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT;
              private final static long TIMESTMP_LEFT = DATACENTER_LEFT + DATACENTER_BIT;

              private long datacenterId;  //數(shù)據(jù)中心
              private long machineId;     //機(jī)器標(biāo)識
              private long sequence = 0L; //序列號
              private long lastStmp = -1L;//上一次時間戳

              public SnowFlake(long datacenterId, long machineId) {
                  if (datacenterId > MAX_DATACENTER_NUM || datacenterId < 0) {
                      throw new IllegalArgumentException("datacenterId can't be greater than MAX_DATACENTER_NUM or less than 0");
                  }
                  if (machineId > MAX_MACHINE_NUM || machineId < 0) {
                      throw new IllegalArgumentException("machineId can't be greater than MAX_MACHINE_NUM or less than 0");
                  }
                  this.datacenterId = datacenterId;
                  this.machineId = machineId;
              }

              /**
               * 產(chǎn)生下一個ID
               *
               * @return
               */
              public synchronized long nextId() {
                  long currStmp = getNewstmp();
                  if (currStmp < lastStmp) {
                      throw new RuntimeException("Clock moved backwards.  Refusing to generate id");
                  }

                  if (currStmp == lastStmp) {
                      //相同毫秒內(nèi),序列號自增
                      sequence = (sequence + 1) & MAX_SEQUENCE;
                      //同一毫秒的序列數(shù)已經(jīng)達(dá)到最大
                      if (sequence == 0L) {
                          currStmp = getNextMill();
                      }
                  } else {
                      //不同毫秒內(nèi),序列號置為0
                      sequence = 0L;
                  }

                  lastStmp = currStmp;

                  return (currStmp - START_STMP) << TIMESTMP_LEFT //時間戳部分
                          | datacenterId << DATACENTER_LEFT       //數(shù)據(jù)中心部分
                          | machineId << MACHINE_LEFT             //機(jī)器標(biāo)識部分
                          | sequence;                             //序列號部分
              }

              private long getNextMill() {
                  long mill = getNewstmp();
                  while (mill <= lastStmp) {
                      mill = getNewstmp();
                  }
                  return mill;
              }

              private long getNewstmp() {
                  return System.currentTimeMillis();
              }

              public static void main(String[] args) {
                  SnowFlake snowFlake = new SnowFlake(2, 3);

                  for (int i = 0; i < (1 << 12); i++) {
                      System.out.println(snowFlake.nextId());
                  }

              }
          }

          「三、分布式ID開源組件」

          3.1 如何選擇開源組件

          選擇開源組件首先需要看軟件特性是否滿足需求,主要包括兼容性和擴(kuò)展性。

          其次需要看目前的技術(shù)能力,根據(jù)目前自己或者團(tuán)隊的技術(shù)棧和技術(shù)能力,能否可以平滑的使用。

          第三,要看開源組件的社區(qū),主要關(guān)注更新是否頻繁、項目是否有人維護(hù)、遇到坑的時候可以取得聯(lián)系尋求幫助、是否在業(yè)內(nèi)被廣泛使用等。

          3.2 美團(tuán)Leaf

          Leaf是美團(tuán)基礎(chǔ)研發(fā)平臺推出的一個分布式ID生成服務(wù),名字取自德國哲學(xué)家、數(shù)學(xué)家萊布尼茨的一句話:“There are no two identical leaves in the world.”Leaf具備高可靠、低延遲、全局唯一等特點。目前已經(jīng)廣泛應(yīng)用于美團(tuán)金融、美團(tuán)外賣、美團(tuán)酒旅等多個部門。


          具體的技術(shù)細(xì)節(jié),可參考美團(tuán)技術(shù)博客的一篇文章:《Leaf美團(tuán)分布式ID生成服務(wù)》。目前,Leaf項目已經(jīng)在Github上開源:https://github.com/Meituan-Dianping/Leaf。Leaf在特性如下:

          1. 全局唯一,絕對不會出現(xiàn)重復(fù)的ID,且ID整體趨勢遞增。
          2. 高可用,服務(wù)完全基于分布式架構(gòu),即使MySQL宕機(jī),也能容忍一段時間的數(shù)據(jù)庫不可用。
          3. 高并發(fā)低延時,在CentOS 4C8G的虛擬機(jī)上,遠(yuǎn)程調(diào)用QPS可達(dá)5W+,TP99在1ms內(nèi)。
          4. 接入簡單,直接通過公司RPC服務(wù)或者HTTP調(diào)用即可接入。

          3.3 百度UidGenerator

          UidGenerator百度開源的一款基于Snowflake算法的分布式高性能唯一ID生成器。采用官網(wǎng)的一段描述:UidGenerator以組件形式工作在應(yīng)用項目中, 支持自定義workerId位數(shù)和初始化策略, 從而適用于docker等虛擬化環(huán)境下實例自動重啟、漂移等場景。

          在實現(xiàn)上, UidGenerator通過借用未來時間來解決sequence天然存在的并發(fā)限制; 采用RingBuffer來緩存已生成的UID, 并行化UID的生產(chǎn)和消費, 同時對CacheLine補(bǔ)齊,避免了由RingBuffer帶來的硬件級「偽共享」問題. 最終單機(jī)QPS可達(dá)600萬。

          UidGenerator的GitHub地址:https://github.com/baidu/uid-generator

          3.4 開源組件對比

          百度UidGenerator是Java語言的;最近一次提交記錄是兩年前,基本無人維護(hù);只支持雪花算法。

          美團(tuán)Leaf也是Java語言的;最近維護(hù)為2020年;支持號段模式和雪花算法。

          綜上理論和兩款開源組件的對比,還是美團(tuán)Leaf稍勝一籌。

          你還知道哪些常用的分布式ID解決方案呢?

          推薦文章

          更多項目源碼


          瀏覽 25
          點贊
          評論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報
          評論
          圖片
          表情
          推薦
          點贊
          評論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  国产精品电影 | 日韩成人激情 | 性爱一区二区三区 | 黄色三级黄色毛片 | 欧美日日日 |