Redis基于eval的多字段原子增量计算
目录
1. 前言
一些应用场景需要对多个值进行原子计数,Redis的eval+hincrby可以达到目标,但如果计算的字段比较多时,效率会是个问题,它的时间复杂度为O(N),而且对于查询也同样如此。如果能将所有字段作为一个个struct成员,时间复杂度会固定下来。如果能象C/C++中的引用或指针操作,时间复杂度可以降低到O(1),否则考虑先get再set,这样时间复杂度为O(2),当字段数较多时,比如达到10个甚至更多时,相比O(N)就好了许多。
2. 优点
1)不需要hash,普通kv即可实现多字段的计数,而且是原子操作
2)当字段较多时,性能不会线性下降(hincrby多字段操作性能会线性下降,因为多字段hincrby操作时间复杂度为O(n))
3)当字段较多时,查询性能不变,保持为O(1)
3. 方法一:使用struct
3.1. 设置初始值(覆盖原有的,如果存在)
调用struct的pack函数打包(序列化)两个字段的值56和78,并将该struct赋值给本地变量a(注意Redis内的lua不支持全局变量,如果需要全局变通,可变通使用Redis的KV),然后将变量a作为k1的值设置进去。
127.0.0.1:6379> EVAL 'local a;a=struct.pack("ll",56,78);local x=redis.call("set","k1",a);return x;' 0 OK |
3.2. 查询k1的值
因为struct是个二进制值,因为取到值时,需要先unpack反序列化(解包)。
127.0.0.1:6379> eval 'local x=redis.call("get","k1");local m,n=struct.unpack("ll",x);return {m,n}' 0 1) (integer) 56 2) (integer) 78 |
3.3. 设置初始值(覆盖原有的,如果存在)
127.0.0.1:6379> EVAL 'local a;a=struct.pack("lll",56,78,99);local x=redis.call("set","k1",a);return x;' 0 OK |
3.4. 查询k1的值
127.0.0.1:6379> eval 'local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);return {m,n,l}' 0 1) (integer) 56 2) (integer) 78 3) (integer) 99 |
3.5. 增量操作(增1)
这内含两个Redis操作:get和set两个操作,因此时间复杂度为O(2)。
127.0.0.1:6379> eval 'local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);m=m+1;n=n+1;l=l+1;local a=struct.pack("lll",m,n,l);local z=redis.call("set","k1",a);return z;' 0 OK |
3.6. 查询k1的值
127.0.0.1:6379> eval 'local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);return {m,n,l}' 0 1) (integer) 57 2) (integer) 79 3) (integer) 100 |
3.7. 增量操作(增1)
127.0.0.1:6379> eval 'local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);m=m+1;n=n+1;l=l+1;local a=struct.pack("lll",m,n,l);local z=redis.call("set","k1",a);return z;' 0 OK |
3.8. 查询k1的值
127.0.0.1:6379> eval 'local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);return {m,n,l}' 0 1) (integer) 58 2) (integer) 80 3) (integer) 101 |
3.9. pack和unpack
Redis内置支持struct,pack和unpack中的第一个参数为格式参数,其中单个“l”表示有符号long类型,大写的“L”则表示无符号的long类型,更多可以参见eval命令的说明:https://redis.io/commands/eval。
3.10. AOF文件
上述操作对应的AOF文件内容:
$ tail -f appendonly-6379.aof *2 $6 SELECT $1 0 *3 $4 EVAL $76 local a;a=struct.pack("ll",56,78);local x=redis.call("set","k1",a);return x; $1 0 *3 $4 EVAL $80 local a;a=struct.pack("lll",56,78,99);local x=redis.call("set","k1",a);return x; $1 0 *3 $4 eval $159 local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);m=m+1;n=n+1;l=l+1;local a=struct.pack("lll",m,n,l);local z=redis.call("set","k1",a);return z; $1 0 *3 $4 eval $159 local x=redis.call("get","k1");local m,n,l=struct.unpack("lll",x);m=m+1;n=n+1;l=l+1;local a=struct.pack("lll",m,n,l);local z=redis.call("set","k1",a);return z; $1 0 |
3.11. 进化的增量操作
可用于生产环境的增量操作,允许被操作的key不存在(大小超过200字节):
eval 'local x=redis.call("get",KEYS[1]); local m,n,l;if (x) then m,n,l=struct.unpack("lll",x);m=m+ARGV[1];n=n+ARGV[2];l=l+ARGV[3]; else m=ARGV[1];n=ARGV[2];l=ARGV[3]; end; local a=struct.pack("lll",m,n,l);local z=redis.call("set",KEYS[1],a);return z;' 1 "k1" 1 2 3 |
3.12. 进化的查询操作
可用于生产环境的查询操作,允许被查询的key不存在:
eval 'local x=redis.call("get",KEYS[1]); if (x) then local m,n,l=struct.unpack("lll",x);return {m,n,l}; else return x; end;' 1 "k1" |
4. 方法二:使用CJSON
暂略。
5. 方法三:使用CMSGPACK
暂略。
6. 方法四:借助Redis的module
6.1. 参考一:rediSQL
https://github.com/RedBeardLab/rediSQL
6.2. 参考二:ReJSON
https://github.com/RedisLabsModules/ReJSON
Redis基于eval的多字段原子增量计算的更多相关文章
- ODI基于源表时间戳字段获取增量数据
实现目标:通过ODI获取一个没有时间戳的子表(qb_bw)的增量数据,而主表(qb_tb)有一个rksj入库时间,且主表和子表之间通过ID关联.目标表名是qb_bw1. 设计原理:通过在ODI的map ...
- Redis之eval+lua实现初步
目录 目录 1 1. 前言 1 2. 执行方式 1 3. 执行过程 3 4. 使用原则 3 1. 前言 Redis的实现保证eval的执行是原子的,即使eval执行的lua超时,Redis也不会自动终 ...
- Particles.js基于Canvas画布创建粒子原子颗粒效果
文章目录 使用方法 自定义参数 相关链接 Particles.js是一款基于HTML5 Canvas画布的轻量级粒子动画插件,可以设置粒子的形状.旋转.分布.颜色等属性,还可以动态添加粒子,效果非常炫 ...
- Redis基于Java的客户端SDK收集
如果要找这类的SDK,第一反应应该直奔官网,找一下看下有什么推荐.先找最权威的回答,找不到再尝试民间方案. 就Redis来说,官方已经提供了一个列表包括市面上绝大多数语言的SDK,可以参考以下网址看J ...
- Others-大数据平台Lambda架构浅析(全量计算+增量计算)
大数据平台Lambda架构浅析(全量计算+增量计算) 2016年12月23日 22:50:53 scuter_victor 阅读数:1642 标签: spark大数据lambda 更多 个人分类: 造 ...
- win7基于mahout推荐之用户相似度计算
http://www.douban.com/note/319219518/?type=like win7基于mahout推荐之用户相似度计算 2013-12-03 09:19:11 事情回到半年 ...
- Atitit.基于时间戳的农历日历历法日期计算
Atitit.基于时间戳的农历日历历法日期计算 1. 农历xx年的大小月份根据万年历查询1 2. 农历xx年1月1日的时间戳获取1 3. 计算当年的时间戳与农历日期的对应表,时间戳为key,日期为va ...
- [Redis] 基于redis的分布式锁
前言分布式锁一般有三种实现方式:1. 数据库乐观锁:2. 基于Redis的分布式锁:3. 基于ZooKeeper的分布式锁.本篇博客将介绍第二种方式,基于Redis实现分布式锁. 可靠性首先,为了确保 ...
- Redis 使用 Eval 多个键值自增操作示例
在PHP上使用Redis 给多个键值进行自增,示例如下: $set['money'] = $this->redis->hIncrByFloat($key, $hour .'_money', ...
随机推荐
- CALL transaction 的用法-传内表
使用memory (这个方法和第二种方式的区别是可以传输复选框的值) data: wfbomcom type rc29n. move-corresponding bom_key to wfbomc ...
- HTML转义字符 Unicode和CSS伪类介绍
CSS 伪类用于向某些选择器添加特殊的效果. a:link {color: #FF0000} /* 未访问的链接 */ a:visited {color: #00FF00} /* 已访问的链接 */ ...
- java类中根据已有的变量复写类的toString方法
java类中根据已有的变量复写类的toString方法: 在该类中定义好变量之后,shift+alt+s,从出现的列表中点击gemerate toString,就会自动生成对应的toString方法.
- webpack接上一篇
html-webpack-plugin 自动生成html文件 安装:npm install html-webpack-plugin --save-dev 使用 在webpack.config.js中引 ...
- 前端基础之JavaScript day51
前端基础之JavaScript JavaScript概述 JavaScript的历史 1992年Nombas开发出C-minus-minus(C--)的嵌入式脚本语言(最初绑定在CEnvi软件中) ...
- 13.Mysql触发器
13.触发器13.1 创建触发器定义:触发器是与表有关的数据库对象,在满足定义条件时触发,并执行触发器中定义的语句集合.语法:create trigger 触发器名称 触发时机 触发事件 on 表名 ...
- Oracle_SQL(4) DDL 表和约束
数据库对象分为占存储空间的对象和不占存储存储空间的对象.占存储空间的对象主要包括:表.索引等.select distinct segment_type from dba_segments order ...
- Business.Startup.Learning from Startup Mistakes at SpringSource
http://www.infoq.com/news/2014/07/startup-spring
- 看起来像是PS的照片,实际上却令人难以置信!
图片来源:网络 在现实生活中 很多照片看起来不可思议 就像经过PS处理的一样. 今天就跟随米醋一起来感受一下 看这些超现实的真实照片. 一张感光过度的照片, 让狗的头看起来像是悬浮的. 一只被困在琥珀 ...
- Partition Equal Subset Sum
Given a non-empty array containing only positive integers, find if the array can be partitioned into ...