redis 单机模拟 cluster集群
一、redis-cluster设计
Redis集群搭建的方式有多种,例如使用zookeeper等,但从redis 3.0之后版本支持redis-cluster集群,Redis-Cluster采用无中心结构,每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。其redis-cluster架构图如下:
其结构特点:
1、所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽。
2、节点的fail是通过集群中超过半数的节点检测失效时才生效。
3、客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可。
4、redis-cluster把所有的物理节点映射到[0-16383]slot上(不一定是平均分配),cluster 负责维护node<->slot<->value。
5、Redis集群预分好16384个桶,当需要在 Redis 集群中放置一个 key-value 时,根据 CRC16(key) mod 16384的值,决定将一个key放到哪个桶中。
1、redis cluster节点分配
现在我们是三个主节点分别是:A, B, C 三个节点,它们可以是一台机器上的三个端口,也可以是三台不同的服务器。那么,采用哈希槽 (hash slot)的方式来分配16384个slot 的话,它们三个节点分别承担的slot 区间是:
节点A覆盖0-5460;
节点B覆盖5461-10922;
节点C覆盖10923-16383.
获取数据:
如果存入一个值,按照redis cluster哈希槽的算法: CRC16('key')384 = 6782。 那么就会把这个key 的存储分配到 B 上了。同样,当我连接(A,B,C)任何一个节点想获取'key'这个key时,也会这样的算法,然后内部跳转到B节点上获取数据
新增一个主节点:
新增一个节点D,redis cluster的这种做法是从各个节点的前面各拿取一部分slot到D上,我会在接下来的实践中实验。大致就会变成这样:
节点A覆盖1365-5460
节点B覆盖6827-10922
节点C覆盖12288-16383
节点D覆盖0-1364,5461-6826,10923-12287
同样删除一个节点也是类似,移动完成后就可以删除这个节点了。
2、Redis Cluster主从模式
redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点,主节点提供数据存取,从节点则是从主节点拉取数据备份,当这个主节点挂掉后,就会有这个从节点选取一个来充当主节点,从而保证集群不会挂掉。
上面那个例子里, 集群有ABC三个主节点, 如果这3个节点都没有加入从节点,如果B挂掉了,我们就无法访问整个集群了。A和C的slot也无法访问。
所以我们在集群建立的时候,一定要为每个主节点都添加了从节点, 比如像这样, 集群包含主节点A、B、C, 以及从节点A1、B1、C1, 那么即使B挂掉系统也可以继续正确工作。
B1节点替代了B节点,所以Redis集群将会选择B1节点作为新的主节点,集群将会继续正确地提供服务。 当B重新开启后,它就会变成B1的从节点。
不过需要注意,如果节点B和B1同时挂了,Redis集群就无法继续正确地提供服务了。
二、redis集群的搭建
集群中至少应该有奇数个节点,所以至少有三个节点,每个节点至少有一个备份节点,所以下面使用6节点(主节点、备份节点由redis-cluster集群确定)。
1、安装redis
# tar xf redis-3.2..tar.gz
# cd redis-3.2.5/
# make
# make install PREFIX=/usr/local/redis-cluster
# cd /usr/local/redis-cluster/
# mv bin redis01
# cd redis01
从解压后后目录里 复制一份redis.conf 到 redis01目录下
修改内容:
cluster-enabled yes #开启cluster,去掉注释 cluster-config-file nodes.conf cluster-node-timeout appendonly yes
复制六份,修改对应的端口号
2、安装redis-trib所需的 ruby脚本
复制redis解压文件src下的redis-trib.rb文件到redis-cluster目录
[root@db01 redis-cluster]# cp /soft/redis-3.2./src/redis-trib.rb ./
安装ruby环境
[root@localhost redis-cluster]# yum install ruby
[root@localhost redis-cluster]# yum install rubygems
安装redis-trib.rb运行依赖的ruby的包redis-3.2.2.gem,下载
[root@localhost redis-cluster]# gem install redis-3.2..gem
3、启动所有的redis节点
可以写一个命令脚本start-all.sh
[root@db01 redis-cluster]# cat start-all.sh
cd redis01
./redis-server redis.conf
cd ../redis02
./redis-server redis.conf
cd ../redis03
./redis-server redis.conf
cd ../redis04
./redis-server redis.conf
cd ../redis05
./redis-server redis.conf
cd ../redis06
./redis-server redis.conf
cd ..
[root@localhost redis-cluster]# chmod +x start-all.sh
[root@localhost redis-cluster]# ./start-all.sh
[root@localhost redis-cluster]# ps -ef | grep redis
root 4547 1 0 23:12 ? 00:00:00 ./redis-server 127.0.0.1:7001 [cluster]
root 4551 1 0 23:12 ? 00:00:00 ./redis-server 127.0.0.1:7002 [cluster]
root 4555 1 0 23:12 ? 00:00:00 ./redis-server 127.0.0.1:7003 [cluster]
root 4559 1 0 23:12 ? 00:00:00 ./redis-server 127.0.0.1:7004 [cluster]
root 4563 1 0 23:12 ? 00:00:00 ./redis-server 127.0.0.1:7005 [cluster]
root 4567 1 0 23:12 ? 00:00:00 ./redis-server 127.0.0.1:7006 [cluster]
root 4840 4421 0 23:26 pts/1 00:00:00 grep --color=auto redis
可以看到redis的6个节点已经启动成功
杀死全部的节点:
pkill - redis
4、使用redis-trib.rb创建集群
[root@localhost redis-cluster]# ./redis-trib.rb create --replicas 127.0.0.1: 127.0.0.1: 127.0.0.1: 127.0.0.1: 127.0.0.1: 127.0.0.1:
使用create命令 --replicas 1 参数表示为每个主节点创建一个从节点,其他参数是实例的地址集合。
>>> Creating cluster
>>> Performing hash slots allocation on nodes...
Using masters:
127.0.0.1:
127.0.0.1:
127.0.0.1:
Adding replica 127.0.0.1: to 127.0.0.1:
Adding replica 127.0.0.1: to 127.0.0.1:
Adding replica 127.0.0.1: to 127.0.0.1:
M: dfd510594da614469a93a0a70767ec9145aefb1a 127.0.0.1:
slots:- ( slots) master
M: e02eac35110bbf44c61ff90175e04d55cca097ff 127.0.0.1:
slots:- ( slots) master
M: 4385809e6f4952ecb122dbfedbee29109d6bb234 127.0.0.1:
slots:- ( slots) master
S: ec02c9ef3acee069e8849f143a492db18d4bb06c 127.0.0.1:
replicates dfd510594da614469a93a0a70767ec9145aefb1a
S: 83e5a8bb94fb5aaa892cd2f6216604e03e4a6c75 127.0.0.1:
replicates e02eac35110bbf44c61ff90175e04d55cca097ff
S: 10c097c429ca24f8720986c6b66f0688bfb901ee 127.0.0.1:
replicates 4385809e6f4952ecb122dbfedbee29109d6bb234
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join......
>>> Performing Cluster Check (using node 127.0.0.1:)
M: dfd510594da614469a93a0a70767ec9145aefb1a 127.0.0.1:
slots:- ( slots) master
M: e02eac35110bbf44c61ff90175e04d55cca097ff 127.0.0.1:
slots:- ( slots) master
M: 4385809e6f4952ecb122dbfedbee29109d6bb234 127.0.0.1:
slots:- ( slots) master
M: ec02c9ef3acee069e8849f143a492db18d4bb06c 127.0.0.1:
slots: ( slots) master
replicates dfd510594da614469a93a0a70767ec9145aefb1a
M: 83e5a8bb94fb5aaa892cd2f6216604e03e4a6c75 127.0.0.1:
slots: ( slots) master
replicates e02eac35110bbf44c61ff90175e04d55cca097ff
M: 10c097c429ca24f8720986c6b66f0688bfb901ee 127.0.0.1:
slots: ( slots) master
replicates 4385809e6f4952ecb122dbfedbee29109d6bb234
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All slots covered.
上面显示创建成功,有3个主节点,3个从节点,每个节点都是成功连接状态。
3个主节点[M]以及分配的哈希卡槽如下:
M: dfd510594da614469a93a0a70767ec9145aefb1a 127.0.0.1:
slots:- ( slots) master
M: e02eac35110bbf44c61ff90175e04d55cca097ff 127.0.0.1:
slots:- ( slots) master
M: 4385809e6f4952ecb122dbfedbee29109d6bb234 127.0.0.1:
slots:- ( slots) master
3个从节点[S]以及附属的主节点如下:
S: ec02c9ef3acee069e8849f143a492db18d4bb06c 127.0.0.1:
replicates dfd510594da614469a93a0a70767ec9145aefb1a
S: 83e5a8bb94fb5aaa892cd2f6216604e03e4a6c75 127.0.0.1:
replicates e02eac35110bbf44c61ff90175e04d55cca097ff
S: 10c097c429ca24f8720986c6b66f0688bfb901ee 127.0.0.1:
replicates 4385809e6f4952ecb122dbfedbee29109d6bb234
以上集群安装成功了
三、redis集群的测试
1、测试存取值
客户端连接集群redis-cli需要带上 -c ,redis-cli -c -p 端口号
[root@localhost redis01]# ./redis-cli -c -p
127.0.0.1:> set name andy
-> Redirected to slot [] located at 127.0.0.1:
OK
127.0.0.1:> get name
"andy"
127.0.0.1:>
根据redis-cluster的key值分配,name应该分配到节点7002[5461-10922]上,上面显示redis cluster自动从7001跳转到了7002节点。
我们可以测试一下7006从节点获取name值
[root@localhost redis06]# ./redis-cli -c -p
127.0.0.1:> get name
-> Redirected to slot [] located at 127.0.0.1:
"andy"
127.0.0.1:>
7006位7003的从节点,从上面也是自动跳转至7002获取值,这也是redis cluster的特点,它是去中心化,每个节点都是对等的,连接哪个节点都可以获取和设置数据。
四、集群
节点选举 现在模拟将7001节点挂掉,按照redis-cluster原理会选举会将 7001的从节点7004选举为主节点。
[root@db01 redis-cluster]# ps -ef |grep redis
root : ? :: ./redis-server 127.0.0.1: [cluster]
root : ? :: ./redis-server 127.0.0.1: [cluster]
root : ? :: ./redis-server 127.0.0.1: [cluster]
root : ? :: ./redis-server 127.0.0.1: [cluster]
root : ? :: ./redis-server 127.0.0.1: [cluster]
root : ? :: ./redis-server 127.0.0.1: [cluster]
root : pts/ :: grep --color=auto redis
kill -
在查看集群中的7001节点
[root@db01 redis-cluster]# ./redis-trib.rb check 127.0.0.1:
>>> Performing Cluster Check (using node 127.0.0.1:)
M: d8ab0ba1c7c8db0aa8512c4a1ccfe5f0bf248841 127.0.0.1:
slots:- ( slots) master
additional replica(s)
S: b03cf52d5423b3076269bbd1824bcb9dc38931e9 127.0.0.1:
slots: ( slots) slave
replicates 86a2ad43cc81025505e6b6abb9672f0d9e560711
M: 86a2ad43cc81025505e6b6abb9672f0d9e560711 127.0.0.1:
slots:- ( slots) master
additional replica(s)
S: d79c9cc52fb5ce4315bed3532ef92f09dffb985d 127.0.0.1:
slots: ( slots) slave
replicates 1507d656f4fbd049502397c71b2be16c8c6c2a23
M: 1507d656f4fbd049502397c71b2be16c8c6c2a23 127.0.0.1:
slots:- ( slots) master
additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All slots covered.
可以看到集群连接不了7001节点,重定向到附近节点7002获取到 key对应的值
[root@db01 redis01]# ./redis-cli -c -p
127.0.0.1:> get name
-> Redirected to slot [] located at 127.0.0.1:
"andy"
127.0.0.1:>
将7001重新加入集群后,发现 与他对应的7004 已经变成master而7001变成了salve
[root@db01 redis01]# ./redis-server redis.conf
[root@db01 redis01]# cd ..
[root@db01 redis-cluster]# ./redis-trib.rb check 127.0.0.1:
>>> Performing Cluster Check (using node 127.0.0.1:)
S: 6317ce2a62d55fa610673ff5be094a369efdf7f1 127.0.0.1:
slots: ( slots) slave
replicates d8ab0ba1c7c8db0aa8512c4a1ccfe5f0bf248841
M: d8ab0ba1c7c8db0aa8512c4a1ccfe5f0bf248841 127.0.0.1:
slots:- ( slots) master
additional replica(s)
M: 86a2ad43cc81025505e6b6abb9672f0d9e560711 127.0.0.1:
slots:- ( slots) master
additional replica(s)
S: d79c9cc52fb5ce4315bed3532ef92f09dffb985d 127.0.0.1:
slots: ( slots) slave
replicates 1507d656f4fbd049502397c71b2be16c8c6c2a23
M: 1507d656f4fbd049502397c71b2be16c8c6c2a23 127.0.0.1:
slots:- ( slots) master
additional replica(s)
S: b03cf52d5423b3076269bbd1824bcb9dc38931e9 127.0.0.1:
slots: ( slots) slave
replicates 86a2ad43cc81025505e6b6abb9672f0d9e560711
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All slots covered.
redis 单机模拟 cluster集群的更多相关文章
- Redis 3.0 Cluster集群配置
Redis 3.0 Cluster集群配置 安装环境依赖 安装gcc:yum install gcc 安装zlib:yum install zib 安装ruby:yum install ruby 安装 ...
- Redis单机安装以及集群搭建
今天主要来看一下Redis的安装以及集群搭建(我也是第一次搭建). 环境:CentOS 7.1,redis-5.0.7 一.单机安装 1.将Redis安装包放置服务器并解压 2.进入redis安装目录 ...
- redis 学习笔记-cluster集群搭建
一.下载最新版redis 编译 目前最新版是3.0.7,下载地址:http://www.redis.io/download 编译很简单,一个make命令即可,不清楚的同学,可参考我之前的笔记: red ...
- Redis单机多节点集群实验
第一步:安装Redis 前面已经安装过了 不解释, Reids安装包里有个集群工具,要复制到/usr/local/bin里去 cp redis-3.2.9/src/redis-trib.rb /usr ...
- Redis单机配置以及集群(sentinel、jediscluster)配置
最近一直在使用Redis作为缓存数据库,在使用当中,刚开始没有注意配置问题. 1.纯粹的注入单机模式 <bean id="jedisPoolConfig" class=&qu ...
- redis单机上部署集群
一.安装单机redis redis的安装:版本至少是3.2.8及其以上,这里以3.2.8版本为例说明 1.安装redis wget http://download.redis.io/releases ...
- Redis(十)集群:Redis Cluster
一.数据分布 1.数据分布理论 2.Redis数据分区 Redis Cluser采用虚拟槽分区,所有的键根据哈希函数映射到0~16383整数槽内,计算公式:slot=CRC16(key)&16 ...
- Redis Cluster集群搭建与应用
1.redis-cluster设计 Redis集群搭建的方式有多种,例如使用zookeeper,但从redis 3.0之后版本支持redis-cluster集群,redis-cluster采用无中心结 ...
- 2、Redis 底层原理:Cluster 集群部署与详解
Redis 简介 Redis 提供数据缓存服务,内部数据都存在内存中,所以访问速度非常快. 早期,Redis 单应用服务亦能满足企业的需求.之后,业务量的上升,单机的读写能力满足不了业务的需求,技术上 ...
随机推荐
- P1021 邮票面值设计
P1021 邮票面值设计 题目描述 给定一个信封,最多只允许粘贴N张邮票,计算在给定K(N+K≤15)种邮票的情况下(假定所有的邮票数量都足够),如何设计邮票的面值,能得到最大值MAX,使在1-MAX ...
- JS 金钱格式化
JavaScript Money Format(用prototype对Number进行扩展) Number.prototype.formatMoney = function (places, symb ...
- samba server on Mac OS X Lion Server
一般Mac共享通过配置wins,smb即可实现.注意在同一个工作组! 参考:http://computers.tutsplus.com/tutorials/how-to-set-up-an-smb-s ...
- MyEclipse - MyEclipse优化
1.去除不需要的启动加载项 选择菜单:Window --> Preferences -->General --> Startup and Shutdown, 可以关掉的启动项有: J ...
- equals和toString
Object的equals方法默认比较地址值.所以当需要比较两个对象的内容时需要重写equals方法.
- Httpclient httpdelete 参数
Httpclient 中常用的请求有2个,HttpPost 和 HttpGet,今天在对某个网站进行分析的时候,突然发现用到了 HttpDelete,并且传参 是 Json. 1.一般 HttpPos ...
- Vbs 测试程序一
转载请注明出处 有点小恶意哦!慎重测试 'This procedure is written in SeChaos, only for entertainment, not malicious com ...
- Python IO关于mode参数的问题
关于open()的mode参数: 'r':读 'w':写 'a':追加 'r+' == r+w(可读可写,文件若不存在就报错(IOError)) 'w+' == w+r(可读可写,文件若不存在就创建) ...
- 运维必须掌握的Linux面试题
1.解释下什么是GPL,GNU,自由软件? GPL:(通用公共许可证):一种授权,任何人有权取得.修改.重新发布自由软件的权力. GNU:(革奴计划):目标是创建一套完全自由.开放的的操作系统. 自由 ...
- java值转递?引用传递?
值传递是传递的是原值的副本,引用传递传递的是原值. 在Java中,如果是基本数据类型,传递的是该参数字面量值的拷贝.如果是引用数据类型,传递的是该参数所引用对象在堆中地址的拷贝. swap(int a ...