佳木斯湛栽影视文化发展公司

主頁 > 知識庫 > 一種簡單的ID生成策略: Mysql表生成全局唯一ID的實現(xiàn)

一種簡單的ID生成策略: Mysql表生成全局唯一ID的實現(xiàn)

熱門標(biāo)簽:Linux服務(wù)器 服務(wù)外包 地方門戶網(wǎng)站 呼叫中心市場需求 鐵路電話系統(tǒng) 網(wǎng)站排名優(yōu)化 AI電銷 百度競價排名

生成全局ID的方法很多, 這里記錄下一種簡單的方案: 利用mysql的自增id生成全局唯一ID.

1. 創(chuàng)建一張只需要兩個字段的表:

CREATE TABLE `guid` (
 `id` bigint(20) unsigned NOT NULL AUTO_INCREMENT,
 `stub` char(1) NOT NULL DEFAULT '' COMMENT '樁字段,占坑的',
 PRIMARY KEY (`id`),
 UNIQUE KEY `uk_stub` (`stub`) -- 將 stub 設(shè)為唯一索引
) ENGINE=MyISAM AUTO_INCREMENT=1000000000 DEFAULT CHARSET=utf8;

指定自增起始: alter table guid auto_increment=1000000000, 這樣可以保證ID為10位(漲到11位幾乎不可能吧).

2. 定義 mybatis mapper:

@Mapper
public interface GuidMapper {


 /**獲取全局唯一ID
  * @return
  */
 // replace into afs_guid(stub) values('a');
 // select last_insert_id();
 @Insert("REPLACE INTO guid (stub) VALUES('a')")
 @SelectKey(statement = {"SELECT LAST_INSERT_ID()"}, keyProperty = "guidHolder.id", before = false, resultType = long.class)
 int getGuid( @Param("guidHolder") GuidHolder guidHolder);

 @Data
 public static class GuidHolder{
  private long id;
  private String stub;
 }

3. 測試

 GuidMapper.GuidHolder guidHolder = new GuidMapper.GuidHolder();
 int i = guidMapper.getGuid(guidHolder);
 long     guid   = guidHolder.getId();
 // guid 就是返回的ID

尾巴

并發(fā)安全問題

REPLACE INTO 類似于 INSERT 是安全的. 不只是它會先判斷主鍵或唯一鍵是否重復(fù), 重復(fù), 則刪除原有的, 新增一條, 替換原來的.

SELECT LAST_INSERT_ID() 是和mysql連接綁定的, 當(dāng)前連接上, 操作觸發(fā)了auto_increment值改變, 得到新的數(shù)值, 這個數(shù)值, 只會被當(dāng)前連接可見. 其他連接也只會拿到它改變auto_increment后的值.

以上兩點保證了 并發(fā)安全 .

另外, 即使手動將id的值改小了, 下次 replace into 后依然會從上次自增的基礎(chǔ)上繼續(xù)自增. 因為手動修改id的值, 不會改變auto_increment的值.

補(bǔ)充知識:集群高并發(fā)情況下如何保證分布式唯一全局Id生成

前言

系統(tǒng)唯一ID是我們在設(shè)計一個系統(tǒng)的時候常常會遇見的問題,也常常為這個問題而糾結(jié)。

這篇文章就是給各位看官提供一個生成分布式唯一全局id生成方案的思路,希望能幫助到大家。

不足之處,請多多指教?。?/p>

問題

為什么需要分布式全局唯一ID以及分布式ID的業(yè)務(wù)需求

在復(fù)雜分布式系統(tǒng)中,往往需要對大量的數(shù)據(jù)和消息進(jìn)行唯一標(biāo)識,如在美團(tuán)點評的金融、支付、餐飲、酒店

貓眼電影等產(chǎn)品的系統(tǒng)中數(shù)據(jù)逐漸增長,對數(shù)據(jù)庫分庫分表后需要有一個唯一ID來標(biāo)識一條數(shù)據(jù)或信息;

特別Ian的訂單、騎手、優(yōu)惠券都需要有唯一ID做標(biāo)識

此時一個能夠生成全局唯一ID的系統(tǒng)是非常必要的

ID生成規(guī)則部分硬性要求

全局唯一

趨勢遞增

在MySQL的InnoDB引擎中使用的是聚集索引,由于多數(shù)RDBMS使用Btree的數(shù)據(jù)結(jié)構(gòu)來存儲索引,在主鍵的選擇上面我們應(yīng)該盡量使用有序的主鍵保證寫入性能

單調(diào)遞增

保證下一個ID一定大于上一個ID,例如事務(wù)版本號、IM增量消息、排序等特殊需求

信息安全

如果ID是連續(xù),惡意用戶的爬取工作就非常容易做了,直接按照順序下載指定URL即可,如果是訂單號就危險了,競爭對手可以直接知道我們一天的單量,所以在一些應(yīng)用場景下,需要ID無規(guī)則不規(guī)則,讓競爭對手不好猜

含時間戳

一樣能夠快速在開發(fā)中了解這個分布式ID什么時候生成的

ID號生成系統(tǒng)的可用性要求

高可用

發(fā)布一個獲取分布式ID請求,服務(wù)器就要保證99.999%的情況下給我創(chuàng)建一個唯一分布式ID

低延遲

發(fā)一個獲取分布式ID的請求,服務(wù)器就要快,極速

高QPS

例如并發(fā)一口氣10萬個創(chuàng)建分布式ID請求同時殺過來,服務(wù)器要頂?shù)米∏乙幌伦映晒?chuàng)建10萬個分布式ID

一般通用解決方案

UUID

UUID.randomUUID() , UUID的標(biāo)準(zhǔn)型包含32個16進(jìn)制數(shù)字,以連字號分為五段,形式為 8-4-4-4-12的36個字符,性能非常高,本地生成,沒有網(wǎng)絡(luò)消耗。

存在問題

入數(shù)據(jù)庫性能差,因為UUID是無序的

無序,無法預(yù)測他的生成順序,不能生成遞增有序的數(shù)字

首先分布式id一般都會作為逐漸,但是按照mysql官方推薦主鍵盡量越短越好,UUID每一個都很長,所以不是很推薦。

主鍵,ID作為主鍵時,在特定的環(huán)境下會存在一些問題

比如做DB主鍵的場景下,UUID就非常不適用MySQL官方有明確的說明

索引,B+樹索引的分裂

既然分布式ID是主鍵,然后主鍵是包含索引的,而mysql的索引是通過B+樹來實現(xiàn)的,每一次新的UUID數(shù)據(jù)的插入,為了查詢的優(yōu)化,都會對索引底層的B+樹進(jìn)行修改,因為UUID數(shù)據(jù)是無序的,所以每一次UUID數(shù)據(jù)的插入都會對主鍵的B+樹進(jìn)行很大的修改,這一點很不好,插入完全無序,不但會導(dǎo)致一些中間節(jié)點產(chǎn)生分裂,也會白白創(chuàng)造出很多不飽和的節(jié)點,這樣大大降低了數(shù)據(jù)庫插入的性能。

UUID只能保證全局唯一性,不滿足后面的趨勢遞增,單調(diào)遞增

數(shù)據(jù)庫自增主鍵

單機(jī)

在分布式里面,數(shù)據(jù)庫的自增ID機(jī)制的主要原理是:數(shù)據(jù)庫自增ID和mysql數(shù)據(jù)庫的replace into實現(xiàn)的,這里的replace into跟insert功能 類似,不同點在于:replace into首先嘗試插入數(shù)據(jù)列表中,如果發(fā)現(xiàn)表中已經(jīng)有此行數(shù)據(jù)(根據(jù)主鍵或唯一索引判斷)則先刪除,在插入,否則直接插入新數(shù)據(jù)。

REPLACE INTO的含義是插入一條記錄,如果表中唯一索引的值遇到?jīng)_突,則替換老數(shù)據(jù)

REPLACE into t_test(stub) values('b');

select LAST_INSERT_ID();

我們每次插入的時候,發(fā)現(xiàn)都會把原來的數(shù)據(jù)給替換,并且ID也會增加

這就滿足了

遞增性

單調(diào)性

唯一性

在分布式情況下,并且并發(fā)量不多的情況,可以使用這種方案來解決,獲得一個全局的唯一ID

集群分布式集群

那數(shù)據(jù)庫自增ID機(jī)制適合做分布式ID嗎?答案是不太適合

系統(tǒng)水平擴(kuò)展比較困難,比如定義好步長和機(jī)器臺數(shù)之后,如果要添加機(jī)器該怎么辦,假設(shè)現(xiàn)在有一臺機(jī)器發(fā)號是:1,2,3,4,5,(步長是1),這個時候需要擴(kuò)容機(jī)器一臺,可以這樣做:把第二胎機(jī)器的初始值設(shè)置得比第一臺超過很多,貌似還好,但是假設(shè)線上如果有100臺機(jī)器,這個時候擴(kuò)容要怎么做,簡直是噩夢,所以系統(tǒng)水平擴(kuò)展方案復(fù)雜難以實現(xiàn)。

數(shù)據(jù)庫壓力還是很大,每次獲取ID都得讀寫一次數(shù)據(jù)庫,非常影響性能,不符合分布式ID里面的延遲低和高QPS的規(guī)則(在高并發(fā)下,如果都去數(shù)據(jù)庫里面獲取ID,那是非常影響性能的)

基于Redis生成全局ID策略

單機(jī)版

因為Redis是單線程,天生保證原子性,可以使用原子操作INCR和INCRBY來實現(xiàn)

INCRBY:設(shè)置增長步長

集群分布式

注意:在Redis集群情況下,同樣和MySQL一樣需要設(shè)置不同的增長步長,同時key一定要設(shè)置有效期,可以使用Redis集群來獲取更高的吞吐量。

假設(shè)一個集群中有5臺Redis,可以初始化每臺Redis的值分別是 1,2,3,4,5 , 然后設(shè)置步長都是5

各個Redis生成的ID為:

A:1 6 11 16 21

B:2 7 12 17 22

C:3 8 13 18 23

D:4 9 14 19 24

E:5 10 15 20 25

但是存在的問題是,就是Redis集群的維護(hù)和保養(yǎng)比較麻煩,配置麻煩。因為要設(shè)置單點故障,哨兵值守

但是主要是的問題就是,為了一個ID,卻需要引入整個Redis集群,有種殺雞焉用牛刀的感覺

雪花算法

是什么

Twitter的分布式自增ID算法,Snowflake

最初Twitter把存儲系統(tǒng)從MySQL遷移到Cassandra(由Facebook開發(fā)一套開源分布式NoSQL數(shù)據(jù)庫系統(tǒng))因為Cassandra沒有順序ID生成機(jī)制,所有開發(fā)了這樣一套全局唯一ID生成服務(wù)。

Twitter的分布式雪花算法SnowFlake,經(jīng)測試SnowFlake每秒可以產(chǎn)生26萬個自增可排序的ID

twitter的SnowFlake生成ID能夠按照時間有序生成

SnowFlake算法生成ID的結(jié)果是一個64Bit大小的整數(shù),為一個Long型(轉(zhuǎn)換成字符串后長度最多19)

分布式系統(tǒng)內(nèi)不會產(chǎn)生ID碰撞(由datacenter 和 workerID做區(qū)分)并且效率較高

分布式系統(tǒng)中,有一些需要全局唯一ID的場景,生成ID的基本要求

在分布式環(huán)境下,必須全局唯一性

一般都需要單調(diào)遞增,因為一般唯一ID都會存在數(shù)據(jù)庫,而InnoDB的特性就是將內(nèi)容存儲在主鍵索引上的葉子節(jié)點,而且是從左往右遞增的,所有考慮到數(shù)據(jù)庫性能,一般生成ID也最好是單調(diào)遞增的。為了防止ID沖突可以使用36位UUID,但是UUID有一些缺點,首先是它相對比較長,并且另外UUID一般是無序的

可能還會需要無規(guī)則,因為如果使用唯一ID作為訂單號這種,為了不讓別人知道一天的訂單量多少,就需要這種規(guī)則

結(jié)構(gòu)

雪花算法的幾個核心組成部分

在Java中64bit的證書是long類型,所以在SnowFlake算法生成的ID就是long類存儲的

第一部分

二進(jìn)制中最高位是符號位,1表示負(fù)數(shù),0表示正數(shù)。生成的ID一般都是用整數(shù),所以最高位固定為0。

第二部分

第二部分是41bit時間戳位,用來記錄時間戳,毫秒級

41位可以表示 2^41 -1 個數(shù)字

如果只用來表示正整數(shù),可以表示的范圍是: 0 - 2^41 -1,減1是因為可以表示的數(shù)值范圍是從0開始計算的,而不是從1。

也就是說41位可以表示 2^41 - 1 毫秒的值,轉(zhuǎn)換成單位年則是 69.73年

第三部分

第三部分為工作機(jī)器ID,10Bit用來記錄工作機(jī)器ID

可以部署在2^10 = 1024個節(jié)點,包括5位 datacenterId(數(shù)據(jù)中心,機(jī)房) 和 5位 workerID(機(jī)器碼)

5位可以表示的最大正整數(shù)是 2 ^ 5 = 31個數(shù)字,來表示不同的數(shù)據(jù)中心 和 機(jī)器碼

第四部分

12位bit可以用來表示的正整數(shù)是 2^12 = 4095,即可以用0 1 2 … 4094 來表示同一個機(jī)器同一個時間戳內(nèi)產(chǎn)生的4095個ID序號。

SnowFlake可以保證

所有生成的ID按時間趨勢遞增

整個分布式系統(tǒng)內(nèi)不會產(chǎn)生重復(fù)ID,因為有datacenterId 和 workerId來做區(qū)分

實現(xiàn)

雪花算法是由scala算法編寫的,有人使用java實現(xiàn),github地址

/**
 * twitter的snowflake算法 -- java實現(xiàn)
 * 
 * @author beyond
 * @date 2016/11/26
 */
public class SnowFlake {

 /**
  * 起始的時間戳
  */
 private final static long START_STMP = 1480166465631L;

 /**
  * 每一部分占用的位數(shù)
  */
 private final static long SEQUENCE_BIT = 12; //序列號占用的位數(shù)
 private final static long MACHINE_BIT = 5; //機(jī)器標(biāo)識占用的位數(shù)
 private final static long DATACENTER_BIT = 5;//數(shù)據(jù)中心占用的位數(shù)

 /**
  * 每一部分的最大值
  */
 private final static long MAX_DATACENTER_NUM = -1L ^ (-1L  DATACENTER_BIT);
 private final static long MAX_MACHINE_NUM = -1L ^ (-1L  MACHINE_BIT);
 private final static long MAX_SEQUENCE = -1L ^ (-1L  SEQUENCE_BIT);

 /**
  * 每一部分向左的位移
  */
 private final static long MACHINE_LEFT = SEQUENCE_BIT;
 private final static long DATACENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT;
 private final static long TIMESTMP_LEFT = DATACENTER_LEFT + DATACENTER_BIT;

 private long datacenterId; //數(shù)據(jù)中心
 private long machineId;  //機(jī)器標(biāo)識
 private long sequence = 0L; //序列號
 private long lastStmp = -1L;//上一次時間戳

 public SnowFlake(long datacenterId, long machineId) {
  if (datacenterId > MAX_DATACENTER_NUM || datacenterId  0) {
   throw new IllegalArgumentException("datacenterId can't be greater than MAX_DATACENTER_NUM or less than 0");
  }
  if (machineId > MAX_MACHINE_NUM || machineId  0) {
   throw new IllegalArgumentException("machineId can't be greater than MAX_MACHINE_NUM or less than 0");
  }
  this.datacenterId = datacenterId;
  this.machineId = machineId;
 }

 /**
  * 產(chǎn)生下一個ID
  *
  * @return
  */
 public synchronized long nextId() {
  long currStmp = getNewstmp();
  if (currStmp  lastStmp) {
   throw new RuntimeException("Clock moved backwards. Refusing to generate id");
  }

  if (currStmp == lastStmp) {
   //相同毫秒內(nèi),序列號自增
   sequence = (sequence + 1)  MAX_SEQUENCE;
   //同一毫秒的序列數(shù)已經(jīng)達(dá)到最大
   if (sequence == 0L) {
    currStmp = getNextMill();
   }
  } else {
   //不同毫秒內(nèi),序列號置為0
   sequence = 0L;
  }

  lastStmp = currStmp;

  return (currStmp - START_STMP)  TIMESTMP_LEFT //時間戳部分
    | datacenterId  DATACENTER_LEFT  //數(shù)據(jù)中心部分
    | machineId  MACHINE_LEFT    //機(jī)器標(biāo)識部分
    | sequence;        //序列號部分
 }

 private long getNextMill() {
  long mill = getNewstmp();
  while (mill = lastStmp) {
   mill = getNewstmp();
  }
  return mill;
 }

 private long getNewstmp() {
  return System.currentTimeMillis();
 }

 public static void main(String[] args) {
  SnowFlake snowFlake = new SnowFlake(2, 3);

  for (int i = 0; i  (1  12); i++) {
   System.out.println(snowFlake.nextId());
  }

 }
}

工程落地經(jīng)驗

hutools工具包

地址:https://github.com/looly/hutool

SpringBoot整合雪花算法

引入hutool工具類

dependency>
 groupId>cn.hutool/groupId>
 artifactId>hutool-all/artifactId>
 version>5.3.1/version>
/dependency>

整合

/**
 * 雪花算法
 *
 * @author: 陌溪
 * @create: 2020-04-18-11:08
 */
public class SnowFlakeDemo {
 private long workerId = 0;
 private long datacenterId = 1;
 private Snowflake snowFlake = IdUtil.createSnowflake(workerId, datacenterId);

 @PostConstruct
 public void init() {
  try {
   // 將網(wǎng)絡(luò)ip轉(zhuǎn)換成long
   workerId = NetUtil.ipv4ToLong(NetUtil.getLocalhostStr());
  } catch (Exception e) {
   e.printStackTrace();
  }
 }

 /**
  * 獲取雪花ID
  * @return
  */
 public synchronized long snowflakeId() {
  return this.snowFlake.nextId();
 }

 public synchronized long snowflakeId(long workerId, long datacenterId) {
  Snowflake snowflake = IdUtil.createSnowflake(workerId, datacenterId);
  return snowflake.nextId();
 }

 public static void main(String[] args) {
  SnowFlakeDemo snowFlakeDemo = new SnowFlakeDemo();
  for (int i = 0; i  20; i++) {
   new Thread(() -> {
    System.out.println(snowFlakeDemo.snowflakeId());
   }, String.valueOf(i)).start();
  }
 }
}

得到結(jié)果

1251350711346790400
1251350711346790402
1251350711346790401
1251350711346790403
1251350711346790405
1251350711346790404
1251350711346790406
1251350711346790407
1251350711350984704
1251350711350984706
1251350711350984705
1251350711350984707
1251350711350984708
1251350711350984709
1251350711350984710
1251350711350984711
1251350711350984712
1251350711355179008
1251350711355179009
1251350711355179010

優(yōu)缺點

優(yōu)點

毫秒數(shù)在高維,自增序列在低位,整個ID都是趨勢遞增的

不依賴數(shù)據(jù)庫等第三方系統(tǒng),以服務(wù)的方式部署,穩(wěn)定性更高,生成ID的性能也是非常高的

可以根據(jù)自身業(yè)務(wù)特性分配bit位,非常靈活

缺點

依賴機(jī)器時鐘,如果機(jī)器時鐘回?fù)埽瑫?dǎo)致重復(fù)ID生成

在單機(jī)上是遞增的,但由于涉及到分布式環(huán)境,每臺機(jī)器上的時鐘不可能完全同步,有時候會出現(xiàn)不是全局遞增的情況,此缺點可以認(rèn)為無所謂,一般分布式ID只要求趨勢遞增,并不會嚴(yán)格要求遞增,90%的需求只要求趨勢遞增。

其它補(bǔ)充

為了解決時鐘回?fù)軉栴},導(dǎo)致ID重復(fù),后面有人專門提出了解決的方案

百度開源的分布式唯一ID生成器 UidGenerator

Leaf - 美團(tuán)點評分布式ID生成系統(tǒng)

以上這篇一種簡單的ID生成策略: Mysql表生成全局唯一ID的實現(xiàn)就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。

您可能感興趣的文章:
  • Mysql主鍵和唯一鍵的區(qū)別點總結(jié)
  • springboot整合dubbo設(shè)置全局唯一ID進(jìn)行日志追蹤的示例代碼
  • MySQL中表的幾種連接方式

標(biāo)簽:湘潭 仙桃 銅川 湖南 衡水 崇左 黃山 蘭州

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《一種簡單的ID生成策略: Mysql表生成全局唯一ID的實現(xiàn)》,本文關(guān)鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266
    内乡县| 宜宾县| 武功县| 永仁县| 广南县| 河池市| 全椒县| 朝阳县| 天等县| 枣庄市| 聂荣县| 望都县| 和田县| 邹平县| 麻阳| 志丹县| 绵竹市| 永宁县| 黑龙江省| 泸定县| 长沙县| 丰顺县| 阳山县| 双流县| 张家川| 木兰县| 黔西| 手机| 扎囊县| 广汉市| 兴文县| 蚌埠市| 南岸区| 海盐县| 武乡县| 文山县| 奉化市| 达州市| 磐石市| 遂溪县| 梧州市|