为什么80%的码农都做不了架构师?>>>   1. rdb数据备份恢复方法 redis 127.0.0.1:6379> SAVE OK 或者 redis-cli -h 127.0.0.1 -p 6379 -a pwd bgsave 该命令将在 redis 安装目录中创建dump.rdb文件. 查找dump.rdb文件位置 redis 127.0.0.1:6379> CONFIG GET dir 1) "dir" 2) "/usr/local/re

Redis通过对KEY计算hash,将KEY映射到slot,集群中每个节点负责一部分slot的方式管理数据,slot最大个数为16384. 在集群节点对应的结构体变量clusterNode中可以看到slots数组,数组的大小为CLUSTER_SLOTS除以8,CLUSTER_SLOTS的值是16384: #define CLUSTER_SLOTS 16384 typedef struct clusterNode { unsigned char slots[CLUSTER_SLOTS/8]; //

场景 Redis实例A ---> Redis实例B,整库全量迁移 方案一: mac环境 brew install npm npm install redis-dump -g 针对RedisA: redis-dump -h host1 -p 6379 -d 1 --json > mydb.json针对RedisB: cat mydb.json | redis-dump --convert | redis-cli 方案二:参考: http://www.zlovezl.cn/articles/mig

redis的备份和还原,借助了第三方的工具---redis-dump,  redis中使用redis-dump导出.导入.还原数据实例 1.安装redis-dump # yum install ruby rubygems ruby-devel         //安装rubygems 以及相关包 # gem sources -a https://ruby.taobao.org/    //源,加入淘宝,外面的源不能访问 # gem install redis-dump -V          

由于项目的服务器分布在重庆,上海,台北,休斯顿,所以需要做异地容灾需求.当前的mysql,redis cluster,elastic search都在重庆的如果重庆停电了,整个应用都不能用了. 现在考虑第一步做重庆和上海的异地容灾,大概测试了一下重庆的几台服务器之间大概是13m/s的传输速度也就是说100M的局域网带宽,重庆到上海只有1.2m/s的传输速度,大概10M的局域网带宽. 第一个方案先考虑简单的  mysql 重庆上海主主同步  redis cluster的master节点默认都设置在

添加节点 1,启动2个新的redis-sever, 参照 ( redis 3.0 集群____安装 ),端口号为 7007 和 7008 2,使用命令 redis-trib.rb add-node 命令添加新节点 redis-trib.rb add-node 192.168.10.229:7007 192.168.10.229:7001  ( 第一个是新节点ip:port, 第二个是任意一个已存在节点ip:port  ),结果如下 这时候只是挂到集群里面而已,还没分配 slot 给它, 如下图

redis客户端连接命令,分别连接旧环境中的主从redis Src目录下./redis-cli -h IP -p PORT 使用info replication 命令找出主redis使用客户端命令连接主redis 之后,执行 BGSAVE 命令,会返回 Background saving started (保存redis中最新的key值) 然后执行LASTSAVE 命令 ,会返回一个时间戳 (返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示),检查主redis

Codis介绍 Codis 是一种Redis集群的实现方案,与Redis社区的Redis cluster类似,基于slot的分片机制构建一个更大的Redis节点集群,对于连接到codis的Redis客户端来说, 除了部分不支持的命令外,与连接开源的 Redis Server 没有明显的区别, 客户端代码基本需要进行修改,Codis-proxy会根据访问的key进行slot的计算,然后转发请求到对应的Redis-server,对于客户端来说,中间的codis-proxy是不可见的,因此根据客户业务

离线迁移 与在线迁移相比,离线迁移适宜于源实例与目标实例的网络无法连通的场景,或者源端实例部署在其他云厂商Redis服务中,无法实现在线迁移. 存在的问题 由于生产环境的各种原因,我们需要对现有服务器进行迁移,包括线上正在运行的redis集群环境 如何去做? 涉及到数据源变动,原有数据如何平滑迁移到新实例,从而可以实现无缝迁移? 方案汇总 save/bgsave导出RDB+Redis-Shake进行迁移 基于redis自身的RDB/AOF 备份机制,执行save\bgsave触发数据持久化 RD

场景是从MySQL中将数据导入到Redis的Hash结构中.当然,最直接的做法就是遍历MySQL数据,一条一条写入到Redis中.这样可能没什么错,但是速度会非常慢.而如果能够使MySQL的查询输出数据直接能够与Redis命令行的输入数据协议相吻合,可能就省事多了.根据测试800w的数据迁移,时间从90分钟缩短到2分钟.具体案例如下:MySQL数据表结构: CREATE TABLE events_all_time (id int(11) unsigned NOT NULL AUTO_INCREM

熟悉了一段时间的Bash编程,因此借此任务操作一把bash编程,主要涉及到Redis单节点与Redis集群的操作 1. 任务背景 近日有个任务需要将历史的Redis(主从节点)中的数据迁移至Redis集群中.相关条件与要求如下: (1) 历史Redis以及新的Redis集群分别部署在北京.合肥.广州三地 (2) 待迁移的Redis数据只存在合肥环境 (3) 需要从一个节点访问三地的Redis集群或历史Redis节点 (4) 待迁移的Redis中的数据量大概为2000W+ (5) 迁移完成后需抽样

Python进行Redis数据迁移 由于开发时的误操作,导致redis数据损坏,所以需要进行redis的数据迁移,网上大佬的教程基本都是需要下载附加工具,亦或是需要一些复杂的操作,个人觉得麻烦还不如写个脚本来的经济实惠. # -*- coding: utf-8 -*- from redis import StrictRedis """ redis是用于操作Redis的第三方库,StrictRedis是官方推荐的方法,而且Redis是它的子类,Redis能做到的StrictRe

查找了一些redis迁移的方法,一般做法就是 1. 从源数据库把rdb文件保存,然后传到新的主机上,启动新的redis即可 2. 把新的redis当做源数据库的slave,同步数据 今天开发提了一个测试需求,要求把一个备份的rdb文件数据保存到另一个redis(110主机)的15号库中(默认的是0),这样就不会影响redis(110主机)原有的数据.我在网上找了一个python,实现了这个功能.下面是原文: ------------------------------------------ 原

redis集群数据备份迁移方案 n  迁移环境描述及分析 当前我们面临的数据迁移环境是:集群->集群. 源集群: 源集群为6节点,3主3备 主 备 192.168.112.33:8001 192.168.112.33:8004-8006 192.168.112.33:8002 无 192.168.112.33:8003 无 值得注意的是:所有的槽位都分配在192.168.112.33:8001节点上,这样更方便我们迁移. 目标集群: 也是6节点,3主3备 主 备 192.168.112.33:6

前言 最近线上一台自建redis服务的服务器频繁报警,内存使用率有点高,这是一台配置比较简陋(2C8G)的机子了,近期也打算准备抛弃它了.抛弃之前需对原先的数据进行迁移,全量数据,增量数据都需要考虑,确保数据不丢失,在网上查了下发现了阿里自研的RedisShake工具,据说很妙,那就先试试吧. 实战 正式操作前先在测试环境实践一把看看效果如何,先说明下环境 源库:192.168.28.142 目标库:192.168.147.128 步骤一: 使用wget命令下载至本地 wget https://

Redis 数据迁移 安装迁移工具 # 安装依赖 [root@dbtest03 ~]# yum install -y automake libtool autoconf bzip2 git # 拉取工具 [root@dbtest03 ~]# git clone https://github.com/vipshop/redis-migrate-tool # 或者上传包 # 安装 [root@dbtest03 ~]# cd redis-migrate-tool/ [root@dbtest03 red

1. Redis Redis是目前一个非常优秀的key-value存储系统(内存的NoSQL数据库).和Memcached类似,它支持存储的value类型相对更多,包括string(字符串).list(链表).set(集合).zset(sorted set有序集合)和hash(哈希类型). 1.1 redis的安装(源码安装方式,官网供下载的redis,没有编译的,需要自己编译) (1)下载redis4的稳定版本 (2)上传redis-4.0.14.tar.gz到Linux服务器 (3)解压re

本次由于安全漏洞原因,需要降redis3升级为redis6,涉及到数据迁移及校验等,用阿里redis-shake迁移工具迁移,并用阿里RedisFullCheck工具进行数据比对 一.新redis安装启动 开启老版本redis的哨兵模式,编辑完sentinel.conf后执行哨兵模式启动,主节点均要配置哨兵,再分别重启每个老版本redis节点 ./redis-cli -h host -p port -a password shutdown 准备redis-6.2.4.tar.gz包,放到需要安装

从实战出发使用RedisShake进行Redis数据在线+离线模式迁移指南 RedisShake基本介绍 RedisShake是基于redis-port基础上进行改进的是一款开源的Redis迁移工具,支持Cluster集群的在线迁移与离线迁移(备份文件导入).数据可平滑迁移,当部署在其他云厂商Redis服务上的Cluster集群数据,由于SYNC.PSYNC命令被云厂商禁用,无法在线迁移时,可以选择离线迁移. RedisShake使用背景 RedisShake是一个用于在两个Redis实例之间同

最近有个项目因为要搬迁服务器的原因,去找了服务器公司的运维,需要收费,于是果断决定自己实现这个功能.现在百度上已经一大把redis数据库迁移的教程,大部分是利用主从复制或者利用redis的RDB备份之后在需要迁移到的redis放进去来达到迁移的目的.下面的是两种不同情况下可以用到的命令,比较简单 1.move迁移 迁移之前: 迁移命令: 命令:redis-cli -n 2 keys '*' | xargs -I '{}' redis-cli -n 2 move '{}' 1 迁移结果: move