在分布式系统中经常会使用到生成全局唯一不重复ID的情况。本篇博客介绍生成的一些方法。

常见的一些方式:

1、通过DB做全局自增操作 
优点:简单、高效 
缺点:大并发、分布式情况下性能比较低

有些同学可能会说分库、分表的策略去降低DB的瓶颈,单要做到全局不重复需要提前按照一定的区域进行划分。例如:1~10000、10001~20000 等等。但这个灵活度比较低。

针对一些并发比较低的情况也可以使用类似这种方式。但大并发时不建议使用,DB很容易成为瓶颈。

2、获取当前时间纳秒或毫秒数 
这种方式需要考虑的是在分布式集群中如果保证唯一性。

3、类似UUID的生成方式 
生成的串比较大

//------------------------------------------------------------ 
综合上述情况我们需要一种在高并发、分布式系统中提供高效生成不重复唯一的一个ID,但要求生成的结果要小 
方法1: 
private static long INFOID_FLAG = 1260000000000L; 
protected static int SERVER_ID = 1;

public synchronized long nextId() throws Exception { 
    if(SERVER_ID <= 0) 
        throw new Exception("server id is error,please check config file!"); 
    long infoid = System.currentTimeMillis() - INFOID_FLAG; 
    infoid=(infoid<<7)| SERVER_ID; 
    Thread.sleep(1); 
    return infoid; 
}

说明: 
SERVER_ID为不同的服务器使用的不同server ID,如果不同的机器使用相同的server ID有可能会生成重复的全局ID

简单的应用在一定的并发情况下使用这种方式已经足够了,简单、高效。但是每秒生成的ID是有限的,因为Thread.sleep(1)会无形中带来一些时间的消耗。

方法2:

/** 
* 64位ID (42(毫秒)+5(机器ID)+5(业务编码)+12(重复累加)) 
* @author Polim 
*/ 
public class IdWorker { 
private final static long twepoch = 1288834974657L; 
// 机器标识位数 
private final static long workerIdBits = 5L; 
// 数据中心标识位数 
private final static long datacenterIdBits = 5L; 
// 机器ID最大值 
private final static long maxWorkerId = -1L ^ (-1L << workerIdBits); 
// 数据中心ID最大值 
private final static long maxDatacenterId = -1L ^ (-1L << datacenterIdBits); 
// 毫秒内自增位 
private final static long sequenceBits = 12L; 
// 机器ID偏左移12位 
private final static long workerIdShift = sequenceBits; 
// 数据中心ID左移17位 
private final static long datacenterIdShift = sequenceBits + workerIdBits; 
// 时间毫秒左移22位 
private final static long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

private final static long sequenceMask = -1L ^ (-1L << sequenceBits);

private static long lastTimestamp = -1L;

private long sequence = 0L; 
private final long workerId; 
private final long datacenterId;

public IdWorker(long workerId, long datacenterId) { 
if (workerId > maxWorkerId || workerId < 0) { 
throw new IllegalArgumentException("worker Id can't be greater than %d or less than 0"); 

if (datacenterId > maxDatacenterId || datacenterId < 0) { 
throw new IllegalArgumentException("datacenter Id can't be greater than %d or less than 0"); 

this.workerId = workerId; 
this.datacenterId = datacenterId; 
}

public synchronized long nextId() { 
long timestamp = timeGen(); 
if (timestamp < lastTimestamp) { 
try { 
throw new Exception("Clock moved backwards.  Refusing to generate id for "+ (lastTimestamp - timestamp) + " milliseconds"); 
} catch (Exception e) { 
e.printStackTrace(); 

}

if (lastTimestamp == timestamp) { 
// 当前毫秒内,则+1 
sequence = (sequence + 1) & sequenceMask; 
if (sequence == 0) { 
// 当前毫秒内计数满了,则等待下一秒 
timestamp = tilNextMillis(lastTimestamp); 

} else { 
sequence = 0; 

lastTimestamp = timestamp; 
// ID偏移组合生成最终的ID,并返回ID 
long nextId = ((timestamp - twepoch) << timestampLeftShift) 
| (datacenterId << datacenterIdShift) 
| (workerId << workerIdShift) | sequence;

return nextId; 
}

private long tilNextMillis(final long lastTimestamp) { 
long timestamp = this.timeGen(); 
while (timestamp <= lastTimestamp) { 
timestamp = this.timeGen(); 

return timestamp; 
}

private long timeGen() { 
return System.currentTimeMillis(); 

}

这种方式是一种比较高效的方式。也是twitter使用的一种方式。

测试类:---------------------------------------------------------- 
import java.util.concurrent.BrokenBarrierException; 
import java.util.concurrent.CountDownLatch; 
import java.util.concurrent.CyclicBarrier; 
import java.util.concurrent.TimeUnit;

public class IdWorkerTest { 
    public static void main(String []args){ 
        IdWorkerTest test = new IdWorkerTest(); 
        test.test2(); 
    }

public void test2(){ 
        final IdWorker w = new IdWorker(1,2); 
        final CyclicBarrier cdl = new CyclicBarrier(100);

for(int i = 0; i < 100; i++){ 
            new Thread(new Runnable() { 
                @Override 
                public void run() { 
                try { 
                    cdl.await(); 
                } catch (InterruptedException e) { 
                    e.printStackTrace(); 
                } catch (BrokenBarrierException e) { 
                    e.printStackTrace(); 
                } 
                System.out.println(w.nextId());} 
             }).start(); 
        } 
        try { 
            TimeUnit.SECONDS.sleep(5); 
        } catch (InterruptedException e) { 
           e.printStackTrace(); 
        }


}

分布式全局不重复ID生成算法的更多相关文章

  1. 美团技术分享:深度解密美团的分布式ID生成算法

    本文来自美团技术团队“照东”的分享,原题<Leaf——美团点评分布式ID生成系统>,收录时有勘误.修订并重新排版,感谢原作者的分享. 1.引言 鉴于IM系统中聊天消息ID生成算法和生成策略 ...

  2. 分布式 ID 生成算法 — SnowFlake

    一.概述 分布式 ID 生成算法的有很多种,Twitter 的 SnowFlake 就是其中经典的一种. SnowFlake 算法生成 ID 的结果是一个 64bit 大小的整数,它的结构如下图: 1 ...

  3. 理解分布式id生成算法SnowFlake

    理解分布式id生成算法SnowFlake https://segmentfault.com/a/1190000011282426#articleHeader2 分布式id生成算法的有很多种,Twitt ...

  4. 分布式唯一ID生成算法-雪花算法

    在我们的工作中,数据库某些表的字段会用到唯一的,趋势递增的订单编号,我们将介绍两种方法,一种是传统的采用随机数生成的方式,另外一种是采用当前比较流行的“分布式唯一ID生成算法-雪花算法”来实现. 一. ...

  5. 【融云分析】如何实现分布式场景下唯一 ID 生成?

    ◀背景▶ 对于一套分布式部署的 IM 系统,要求每条消息的 ID 要保证在集群中全局唯一且按生成时间有序排列.如何快速高效的生成消息数据的唯一 ID ,是影响系统吞吐量的关键因素.那么,融云是如何做到 ...

  6. 分布式系统的唯一id生成算法你了解吗?

    在分库分表之后你必然要面对的一个问题,就是id咋生成? 因为要是一个表分成多个表之后,每个表的id都是从1开始累加自增长,那肯定不对啊. 举个例子,你的订单表拆分为了1024张订单表,每个表的id都从 ...

  7. 分布式环境下的id生成方法

    分布式环境下的id生成方法   前几天研究数据库分表分库的问题,其中有一个关键的地方就是生成唯一键的问题,假如数据表有1亿条数据,而且还在不断的增加,这里我们就需要考虑到分表分库,假设我们采用Hash ...

  8. 开源一个比雪花算法更好用的ID生成算法(雪花漂移)

    比雪花算法更好用的ID生成算法(单机或分布式唯一ID) 转载及版权声明 本人从未在博客园之外的网站,发表过本算法长文,其它网站所现文章,均属他人拷贝之作. 所有拷贝之作,均须保留项目开源链接,否则禁止 ...

  9. 唯一ID生成算法剖析

    https://mp.weixin.qq.com/s/E3PGP6FDBFUcghYfpe6vsg 唯一ID生成算法剖析 原创 cloudoxou 腾讯技术工程 2019-10-08    

随机推荐

  1. Spring MVC Controller中GET方式传过来的中文参数会乱码的问题

    Spring MVC controller 这样写法通常意味着访问该请求,GET和POST请求都行,可是经常会遇到,如果碰到参数是中文的,post请求可以,get请求过来就是乱码.如果强行对参数进行了 ...

  2. 使用c#检测文件正在被那个进程占用

    要检测文件被那个进程占用,需要使用微软提供的工具Handle.exe,这里有微软提供的下载 我们可以在c#中调用Handle.exe 来检测到底哪个进程占用了文件 string fileName = ...

  3. php截取字符串的实例代码(支持utf-8)

    分享下php中截取字符串的例子,支持utf-8格式. 1,截取字符串 <?php $string="2006年4月我又长大了一岁!"; echo substr($string ...

  4. 开博第一篇:DHT 爬虫的学习记录

    经过一段时间的研究和学习,大致了解了DHT网络的一些信息,大部分还是参会别人的相关代码,一方面主要对DHT爬虫原理感兴趣,最主要的是为了学习python,大部分是别人的东西原理还是引用别人的吧 DHT ...

  5. 【转】C#路径/文件/目录/I/O常见操作汇总

    文件操作是程序中非常基础和重要的内容,而路径.文件.目录以及I/O都是在进行文件操作时的常见主题,这里想把这些常见的问题作个总结,对于每个问题,尽量提供一些解决方案,即使没有你想要的答案,也希望能提供 ...

  6. Oracle中的CR块详解

    1.概述 Cr块consistent read块也就是用来维护oracle的读一致性的数据块.当查询某些数据的时候,发现数据块的版本比我们要查询的新,例如session1执行了dml操作并没有提交,s ...

  7. 【socket】Socket的三个功能类TCPClient、TCPListener 和 UDPClient

    Socket的三个功能类TCPClient.TCPListener 和 UDPClient (转) 应用程序可以通过 TCPClient.TCPListener 和 UDPClient 类使用传输控制 ...

  8. 在百万数据中找出重复的数据sql

    select * from (select count(name) as isone, name from tbl_org_departments group by name) t where t.i ...

  9. xcode7 app loader error itms 90168

    . $ cd ~/.itmstransporter   . $ rm update_check*   . $ mv softwaresupport softwaresupport.bak   . $  ...

  10. WCF入门教程一[什么是WCF]--转载只为学习收藏

    一.概述 Windows Communication Foundation(WCF)是由微软发展的一组数据通信的应用程序开发接口,可以翻译为Windows通讯接口,它是.NET框架的一部分.由 .NE ...