scan和keys的区别

redis的keys命令,通来在用来删除相关的key时使用,但这个命令有一个弊端,在redis拥有数百万及以上的keys的时候,会执行的比较慢,更为致命的是,这个命令会阻塞redis多路复用的io主线程,如果这个线程阻塞,在此执行之间其他的发送向redis服务端的命令,都会阻塞,从而引发一系列级联反应,导致瞬间响应卡顿,从而引发超时等问题,所以应该在生产环境禁止用使用keys和类似的命令smembers,这种时间复杂度为O(N),且会阻塞主线程的命令,是非常危险的。

keys命令的原理就是扫描整个redis里面所有的db的key数据,然后根据我们的通配的字符串进行模糊查找出来。官网详细的介绍如下。

  1. https://redis.io/commands/KEYS

取而代之的,如果需要查找然后删除key的需求,那么在生产环境我们应该使用scan命令,代替keys命令,同样是O(N)复杂度的scan命令,支持通配查找,scan命令或者其他的scan如SSCAN ,HSCAN,ZSCAN命令,可以不用阻塞主线程,并支持游标按批次迭代返回数据,所以是比较理想的选择。keys相比scan命令优点是,keys是一次返回,而scan是需要迭代多次返回。

  1. https://redis.io/commands/scan

但scan命令的也有缺点,返回的数据有可能重复,需要我们在业务层按需要去重,scan命令的游标从0开始,也从0结束,每次返回的数据,都会返回下一次游标应该传的值,我们根据这个值,再去进行下一次的访问,如果返回的数据为空,并不代表没有数据了,只有游标返回的值是0的情况下代表结束。

redis命令例子如下:

  1. scan 0 match my*key count 10000

在Java项目里面,使用jedis执行scan命令的模板例子如下:

  1. Jedis jedis = getJedis(); //存储返回的结果 Set<String> result=new HashSet<String>(); //设置查询的参数 ScanParams scanParams=new ScanParams().count(scanLimitSize).match(pattern); //游标的开始 String cur=ScanParams.SCAN_POINTER_START; do{ //遍历每一批数据 ScanResult<String> scan=jedis.scan(cur, scanParams); //得到结果返回 List<String> scanResult =scan.getResult(); result.addAll(scanResult); //获取新的游标 cur=scan.getStringCursor(); //判断游标迭代是否结束 }while (!cur.equals(ScanParams.SCAN_POINTER_START)); //返回结果 return result;

java中使用redisTemplate实现

  • 方法一:通过 scan 先获取以“message:xxx:yyy:id: ”为 Key 前缀的所有完整的 Key,再通过获取到的 Key 拿所有的 Value
  1. /**
  2. * 通过 key 获取 value
  3. * <p>
  4. * pattern:message:xxx:yyy:id:
  5. * limit:每次限制筛选的数量,不建议 Integer.MAX_VALUE
  6. */
  7. public List<String> assembleScanValues(String pattern, Long limit) {
  8. List<String> values = assembleScanKeys(pattern, limit);
  9. return redisTemplate.opsForValue().multiGet(values).stream().filter(StringUtils::isNotBlank).collect(toList());
  10. }
  11.  
  12. /**
  13. * 组装 scan 的结果集
  14. */
  15. public List<String> assembleScanKeys(String pattern, Long limit) {
  16. HashSet<String> set = new HashSet<>();
  17. Cursor<String> cursor = scan(redisTemplate, pattern, limit);
  18. while (cursor.hasNext()) {
  19. set.add(cursor.next());
  20. }
  21. try {
  22. cursor.close();
  23. } catch (Exception e) {
  24. log.error("关闭 redis connection 失败");
  25. }
  26. return set.stream().map(String::valueOf).collect(toList());
  27. }
  28. /**
  29. * 自定义 redis scan 操作
  30. */
  31. private Cursor<String> scan(RedisTemplate redisTemplate, String pattern, Long limit) {
  32. ScanOptions options = ScanOptions.scanOptions().match(pattern).count(limit).build();
  33. RedisSerializer<String> redisSerializer = (RedisSerializer<String>) redisTemplate.getKeySerializer();
  34. return (Cursor) redisTemplate.executeWithStickyConnection(new RedisCallback() {
  35. @Override
  36. public Object doInRedis(RedisConnection redisConnection)
  37. throws org.springframework.dao.DataAccessException {
  38. return new ConvertingCursor<>(redisConnection.scan(options), redisSerializer::deserialize);
  39. }
  40. });
  • 方法二:通过 scan 获取到 Key 的同时,去获取对应的 Value
  1. /**
  2. * 组装分布式缓存中的 value 值
  3. * <p>
  4. * pattern:message:xxx:yyy:id:
  5. * limit:每次限制筛选的数量,不建议 Integer.MAX_VALUE
  6. */
  7. public List<String> assembleScanValues(String pattern, Long limit) {
  8. Set<String> valueSet = scan(redisTemplate, pattern, limit);
  9. return valueSet.stream().map(String::valueOf).collect(toList());
  10. }
  11.  
  12. /**
  13. * 组装 scan 的结果集
  14. */
  15. private Set<String> scan(RedisTemplate redisTemplate, String pattern, Long limit) {
  16. return (Set<String>) redisTemplate.execute(new RedisCallback<Set<String>>() {
  17. @Override
  18. public Set<String> doInRedis(RedisConnection connection) throws DataAccessException {
  19. Set<String> valueSet = new HashSet<>();
  20. try (Cursor<byte[]> cursor = connection.scan(new ScanOptions.ScanOptionsBuilder()
  21. .match(pattern).count(limit).build())) {
  22. while (cursor.hasNext()) {
  23. byte[] bytes = connection.get(cursor.next());
  24. String value = String.valueOf(redisTemplate.getValueSerializer().deserialize(bytes));
  25. valueSet.add(value);
  26. }
  27. } catch (IOException e) {
  28. log.error(String.format("get cursor close {%s}", e));
  29. }
  30. return valueSet;
  31. }
  32. });
  33. }

  1. 参考及汇总自:https://qimok.cn/856.html https://cloud.tencent.com/developer/article/1440487

redis中scan和keys的区别的更多相关文章

  1. SQL Server中SCAN 和SEEK的区别

    SQL Server中SCAN 和SEEK的区别 SQL SERVER使用扫描(scan)和查找(seek)这两种算法从数据表和索引中读取数据.这两种算法构成了查询的基础,几乎无处不在.Scan会扫描 ...

  2. redis 用scan 代替keys,hgetAll

    转载自:https://blog.csdn.net/w05980598/article/details/80264568 众所周知,当redis中key数量越大,keys 命令执行越慢,而且最重要的会 ...

  3. python redis中blpop和lpop的区别

    python redis 中blpop返回的是元组对象,因此返回的时候注意 lpop返回的是对象

  4. Redis中connect和pconnect的区别

    首先先介绍下connect和pconnect的区别.connect:脚本结束之后连接就释放了. pconnect:脚本结束之后连接不释放,连接保持在php-fpm进程中.所以使用pconnect代替c ...

  5. Python Redis中Scan遇到问题

    在项目启动中需要删除redis原先相同key储存的值,所以使用scan_iter来便利相关的key,并删除. 这里需要注意两个性能问题 1. scan_iter的模糊匹配的过滤器要正确,否则会带来很多 ...

  6. Redis中RDB和AOF持久化区别和联系

    RDB和AOF持久化   ​RDB持久化 RDB是什么? 原理是redis会单独创建(fork) 一个与当前进程一模一 样的子进程来进行持久化,这个子进程的所有数据(变量.环境变量,程序程序计数器等) ...

  7. 用redis的scan命令代替keys命令,以及在spring-data-redis中遇到的问题

    摘要 本文主要是介绍使用redis scan命令遇到的一些问题总结,scan命令本身没有什么问题,主要是spring-data-redis的问题. 需求 需要遍历redis中key,找到符合某些pat ...

  8. 在RedisTemplate中使用scan代替keys指令

    keys * 这个命令千万别在生产环境乱用.特别是数据庞大的情况下.因为Keys会引发Redis锁,并且增加Redis的CPU占用.很多公司的运维都是禁止了这个命令的 当需要扫描key,匹配出自己需要 ...

  9. Redis中的Scan命令踩坑记

    1 原本以为自己对redis命令还蛮熟悉的,各种数据模型各种基于redis的骚操作.但是最近在使用redis的scan的命令式却踩了一个坑,顿时发觉自己原来对redis的游标理解的很有限.所以记录下这 ...

随机推荐

  1. MA8601升级版 PL2586|USB HUB 工控级芯片方案PL2586|可直接替代FE1.1S芯片方案

    MA8601升级版 PL2586|USB HUB 工控级芯片方案PL2586|可直接替代FE1.1S芯片方案 旺玖在2022年新推出的一款USB HUB 芯片其性能和参数可以完全替代FE1.1S,是M ...

  2. epoll实现原理

    作者:蓝形参链接:https://www.zhihu.com/question/20122137/answer/14049112来源:知乎 首先我们来定义流的概念,一个流可以是文件,socket,pi ...

  3. nginx+keepalived 简单实现主备和双主模式

    准备nginx和keepalived 安装nginx(自行安装) yum install nginx 安装keepalived(安装包安装总报错,yum安装能好一点) yum install keep ...

  4. win10中查看开关机时间及查看admin的RID的方法

    原文链接: https://www.toutiao.com/i6772133439593251339/ 打开系统的注册表 键盘输入win+r组合键出现运行窗口命令 输入regedit 按回车键,进入注 ...

  5. vue3.0+vite+ts项目搭建--vite.config.ts配置(三)

    vite.config.ts配置 配置路径处理模块 安装ts的类型声明文件 yarn add @types/node -D 通过配置alias来定义路径的别名 resolve: { alias: { ...

  6. SQLAlchemy完全入门

    最近想要学习SQLAlchemy, 发现网上的中文文档大多是机翻的, 读起来特别变扭, 因此对照着最新的英文文档梳理了一遍, 写下来记录一下 目前SQLAlchemy的版本为1.4.x, 风格处于1. ...

  7. 你的Kubernetes Java应用优雅停机了吗?

    Java 应用优雅停机 我们首先考虑下,一般在什么场景下数据会丢失呢? 升级服务时 pod重启时 服务器断电时 因为服务器断电属于极端情况,我们暂且不考虑.那就只有 Java 退出时我们要保证数据的完 ...

  8. Android一句话 | View事件分发

    View中,无论是down,move,还是up,事件都是这样传递的:由dispatchTouchEvent到onTouch,再到onTouchEvent,click是在onTouchEvent中的. ...

  9. 《剑指offer》面试题18. 删除链表的节点

    问题描述 给定单向链表的头指针和一个要删除的节点的值,定义一个函数删除该节点. 返回删除后的链表的头节点. 注意:此题对比原题有改动 示例 1: 输入: head = [4,5,1,9], val = ...

  10. netty基础知识

    参考 http://www.infoq.com/cn/articles/netty-high-performance 1. 传统 RPC 调用性能差的三宗罪 1)网络传输方式问题 2)序列化方式问题 ...