CosId 通用、灵活、高性能的分布式 ID 生成器
CosId 通用、灵活、高性能的分布式 ID 生成器
介绍
CosId 旨在提供通用、灵活、高性能的分布式系统 ID 生成器。 目前提供了俩大类 ID 生成器:SnowflakeId (单机 TPS 性能:409W JMH 基准测试)、RedisIdGenerator (单机 TPS 性能(步长 1000):1268W JMH 基准测试)。
SnowflakeId
SnowflakeId 使用
Long
(64 bits) 位分区来生成 ID 的一种分布式 ID 算法。
通用的位分配方案为:timestamp
(41 bits) +machineId
(10 bits) +sequence
(12 bits) = 63 bits 。
- 41 位
timestamp
= (1L<<41)/(1000/3600/365) 约可以存储 69 年的时间戳,即可以使用的绝对时间为EPOCH
+ 69 年,一般我们需要自定义EPOCH
为产品开发时间,另外还可以通过压缩其他区域的分配位数,来增加时间戳位数来延长可用时间。 - 10 位
machineId
= (1L<<10) = 1024 即相同业务可以部署 1024 个副本 (在 Kubernetes 概念里没有主从副本之分,这里直接沿用 Kubernetes 的定义) 实例,一般情况下没有必要使用这么多位,所以会根据部署规模需要重新定义。 - 12 位
sequence
= (1L<<12) * 1000 = 4096000 即单机每秒可生成约 409W 的 ID,全局同业务集群可产生 4096000*1024=419430W=41.9亿(TPS)。
从 SnowflakeId 设计上可以看出:
timestamp
在高位,所以 SnowflakeId 是本机单调递增的,受全局时钟同步影响 SnowflakeId 是全局趋势递增的。- SnowflakeId 不对任何第三方中间件有强依赖关系,并且性能也非常高。
- 位分配方案可以按照业务系统需要灵活配置,来达到最优使用效果。
- 强依赖本机时钟,潜在的时钟回拨问题会导致 ID 重复。
machineId
需要手动设置,实际部署时如果采用手动分配machineId
,会非常低效。
CosId-SnowflakeId
主要解决 SnowflakeId 俩大问题:机器号分配问题、时钟回拨问题。 并且提供更加友好、灵活的使用体验。
MachineIdDistributor (MachineId 分配器)
目前 CosId 提供了以下三种
MachineId
分配器。
ManualMachineIdDistributor
cosid:
snowflake:
manual:
enabled: true
machine-id: 1
手动分配
MachineId
StatefulSetMachineIdDistributor
cosid:
snowflake:
stateful-set:
enabled: true
使用
Kubernetes
的StatefulSet
提供的稳定的标识 ID 作为机器号。
RedisMachineIdDistributor
cosid:
snowflake:
redis:
enabled: true
使用
Redis
作为机器号的分发存储。
ClockBackwardsSynchronizer (时钟回拨同步器)
默认提供的 DefaultClockBackwardsSynchronizer
时钟回拨同步器使用主动等待同步策略,spinThreshold
(默认值 20 毫秒) 用于设置自旋等待阈值, 当大于spinThreshold
时使用线程休眠等待时钟同步,如果超过brokenThreshold
(默认值 2 秒)时会直接抛出ClockTooManyBackwardsException
异常。
LocalMachineState (本地机器状态存储)
public class MachineState {
public static final MachineState NOT_FOUND = of(-1, -1);
private final int machineId;
private final long lastTimeStamp;
public MachineState(int machineId, long lastTimeStamp) {
this.machineId = machineId;
this.lastTimeStamp = lastTimeStamp;
}
public int getMachineId() {
return machineId;
}
public long getLastTimeStamp() {
return lastTimeStamp;
}
public static MachineState of(int machineId, long lastStamp) {
return new MachineState(machineId, lastStamp);
}
}
默认提供的 FileLocalMachineState
本地机器状态存储,使用本地文件存储机器号、最近一次时间戳,用作 MachineState
缓存。
ClockSyncSnowflakeId (主动时钟同步 SnowflakeId
)
默认 SnowflakeId
当发生时钟回拨时会直接抛出 ClockBackwardsException
异常,而使用 ClockSyncSnowflakeId
会使用 ClockBackwardsSynchronizer
主动等待时钟同步来重新生成 ID,提供更加友好的使用体验。
SafeJavaScriptSnowflakeId (JavaScript
安全的 SnowflakeId
)
SnowflakeId snowflakeId = SafeJavaScriptSnowflakeId.ofMillisecond(1);
JavaScript
的 Number.MAX_SAFE_INTEGER
只有 53 位,如果直接将 63 位的 SnowflakeId
返回给前端,那么会值溢出的情况,通常我们可以将SnowflakeId
转换为
String 类型或者自定义 SnowflakeId
位分配来缩短 SnowflakeId
的位数 使 ID
提供给前端时不溢出。
SnowflakeIdStateParser (可以将 SnowflakeId
解析成可读性更好的 SnowflakeIdState
)
public class SnowflakeIdState {
private final long id;
private final int machineId;
private final long sequence;
private final LocalDateTime timestamp;
/**
* {@link #timestamp}-{@link #machineId}-{@link #sequence}
*/
private final String friendlyId;
}
SnowflakeIdState idState=snowflakeIdStateParser.parse(id);
idState.getFriendlyId(); //20210623131730192-1-0
RedisIdGenerator
单机 Redis 的 TPS 性能极限大概在 10W+ 左右,如果在部分场景下我们对性能有更高的要求,那么可以选择使用增加每次ID
分发步长来降低网络IO请求频次,提高 IdGenerator
性能,使用RedisIdGenerator
生成ID
TPS 极限约等于 10+W * Step
。
IdGeneratorProvider
cosid:
snowflake:
providers:
bizA:
# epoch:
# timestamp-bit:
# machine-bit:
sequence-bit: 12
bizB:
# epoch:
# timestamp-bit:
# machine-bit:
sequence-bit: 12
在实际使用中我们一般不会所有业务服务使用同一个 IdGenerator
,而是不同的业务使用不同的 IdGenerator
,那么 IdGeneratorProvider
就是为了解决这个问题而存在的,他是 IdGenerator
的容器,可以通过业务名来获取相应的 IdGenerator
。
Examples
安装
Gradle
Kotlin DSL
val cosidVersion = "0.8.2";
implementation("me.ahoo.cosid:spring-boot-starter-cosid:${cosidVersion}")
Maven
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<artifactId>demo</artifactId>
<properties>
<cosid.version>0.8.2</cosid.version>
</properties>
<dependencies>
<dependency>
<groupId>me.ahoo.cosid</groupId>
<artifactId>spring-boot-starter-cosid</artifactId>
<version>${cosid.version}</version>
</dependency>
</dependencies>
</project>
application.yaml
cosid:
namespace: ${spring.application.name}
snowflake:
# stateful-set:
# enabled: true
# manual:
# enabled: true
# machine-id: 1
redis:
enabled: true
providers:
order:
# epoch:
# timestamp-bit:
# machine-bit:
sequence-bit: 12
user:
# epoch:
# timestamp-bit:
# machine-bit:
sequence-bit: 12
enabled: false
redis:
enabled: true
providers:
order:
step: 100
JMH-Benchmark
SnowflakeId
Benchmark Mode Cnt Score Error Units
SnowflakeIdBenchmark.millisecondSnowflakeId_generate thrpt 4093924.313 ops/s
SnowflakeIdBenchmark.safeJsMillisecondSnowflakeId_generate thrpt 511542.292 ops/s
SnowflakeIdBenchmark.safeJsSecondSnowflakeId_generate thrpt 511939.629 ops/s
SnowflakeIdBenchmark.secondSnowflakeId_generate thrpt 4204761.870 ops/s
RedisIdGenerator
Benchmark Mode Cnt Score Error Units
RedisIdGeneratorBenchmark.step_1 thrpt 86243.935 ops/s
RedisIdGeneratorBenchmark.step_100 thrpt 1718229.010 ops/s
RedisIdGeneratorBenchmark.step_1000 thrpt 12688174.755 ops/s
RedisIdGeneratorBenchmark.step_10000 thrpt 13995195.387 ops/s
CosId 通用、灵活、高性能的分布式 ID 生成器的更多相关文章
- CosId 1.0.0 发布,通用、灵活、高性能的分布式 ID 生成器
CosId 通用.灵活.高性能的分布式 ID 生成器 介绍 CosId 旨在提供通用.灵活.高性能的分布式系统 ID 生成器. 目前提供了俩大类 ID 生成器:SnowflakeId (单机 TPS ...
- CosId 1.0.3 发布,通用、灵活、高性能的分布式 ID 生成器
CosId 通用.灵活.高性能的分布式 ID 生成器 介绍 CosId 旨在提供通用.灵活.高性能的分布式系统 ID 生成器. 目前提供了俩大类 ID 生成器:SnowflakeId (单机 TPS ...
- CosId 1.1.0 发布,通用、灵活、高性能的分布式 ID 生成器
CosId 通用.灵活.高性能的分布式 ID 生成器 介绍 CosId 旨在提供通用.灵活.高性能的分布式系统 ID 生成器. 目前提供了俩大类 ID 生成器:SnowflakeId (单机 TPS ...
- CosId 1.1.8 发布,通用、灵活、高性能的分布式 ID 生成器
CosId 通用.灵活.高性能的分布式 ID 生成器 介绍 CosId 旨在提供通用.灵活.高性能的分布式 ID 生成器. 目前提供了三类 ID 生成器: SnowflakeId : 单机 TPS 性 ...
- 分布式ID生成器(CosId)的设计与实现
分布式ID生成器(CosId)设计与实现 CosId 简介 CosId 旨在提供通用.灵活.高性能的分布式 ID 生成器. 目前提供了俩类 ID 生成器: SnowflakeId : 单机 TPS 性 ...
- 常用的分布式ID生成器
为何需要分布式ID生成器 **本人博客网站 **IT小神 www.itxiaoshen.com **拿我们系统常用Mysql数据库来说,在之前的单体架构基本是单库结构,每个业务表的ID一般从1增,通过 ...
- 如何快速开发一个支持高效、高并发的分布式ID生成器
ID生成器是指能产生不重复ID服务的程序,在后台开发过程中,尤其是分布式服务.微服务程序开发过程中,经常会用到,例如,为用户的每个请求产生一个唯一ID.为每个消息产生一个ID等等,ID生成器也是进行无 ...
- c#分布式ID生成器
c#分布式ID生成器 简介 这个是根据twitter的snowflake来写的.这里有中文的介绍. 如上图所示,一个64位ID,除了最左边的符号位不用(固定为0,以保证生成的ID都是正数),还剩余 ...
- 基于redis的分布式ID生成器
基于redis的分布式ID生成器
随机推荐
- [bug] kibana:prevMsg":"Request Timeout after 3000ms
ES启动问题,内存不足 https://blog.csdn.net/qq_40907977/article/details/104499178 修改ES启动内存 https://blog.csdn.n ...
- [Linux] Linux C编程一站式学习 Part.1
C语言入门 程序基本概念 程序和编程语言 C语言--(编译器)--汇编语言--(汇编器)--机器语言(目标代码 / 可执行代码) 可移植 / 平台无关:平台指计算机体系结构或操作系统,或二者的组合.不 ...
- Linux讲解之定时任务
https://www.php.cn/linux-369884.html Linux讲解之定时任务 原创2018-05-14 10:11:3101319 本文目录: 12.1 配置定时任务 1 ...
- Zabbix 监控系统部署
Zabbix 监控系统部署 实验环境 Zabbix server:RHEL8 ip:192.168.121.10 一.关闭防火墙和selinux [root@Zabbix-server ~]# sys ...
- [rhel-media] :Yum软件仓库唯一标识符,避免与其他仓库冲突。
第1步:进入到/etc/yum.repos.d/目录中(因为该目录存放着Yum软件仓库的配置文件). 第2步:使用Vim编辑器创建一个名为rhel7.repo的新配置文件(文件名称可随意,但后缀必须为 ...
- suse12 设置ssh 远程连接
前提:已安装相应的sshd软件包. 编辑sshd_config文件:vim /etc/ssh/sshd_config PermitRootLogin yes PasswordAuthenticatio ...
- Lua的string库函数列表
基本函数 函数 描述 示例 结果 len 计算字符串长度 string.len("abcd") 4 rep 返回字符串s的n个拷贝 string.rep("abcd&qu ...
- 第8章 Shell函数的知识与实践
shell 函数常见的语法格式 function 函数名(){ return n } 简化1 function 函数名{ ... } 简化2 函数名(){ ... } ...
- flink反压的监控
反压在流式系统中是一种非常重要的机制,主要作用是当系统中下游算子的处理速度下降,导致数据处理速率低于数据接入的速率时,通过反向背压的方式让数据接入的速率下降,从而避免大量数据积压在flink系统中,最 ...
- 西门子 S7-200 以太网模块连接 WINCC步骤
北京华科远创科技有限研发的远创智控ETH-YC模块,PLC转以太网型号有MPI-ETH-YC01和MPI-ETH-YC01,适用于西门子S7-200/S7-300/S7-400.SMART S7-20 ...