面试官:你了解过Redis对象底层实现吗
上一章我们讲了Redis的底层数据结构,不了解的人可能会有疑问:这个和平时用的五大对象有啥关系呢?这一章我们就主要解释他们所建立的联系。
看这个文章之前,如果对ziplist、skiplist、intset等数据结构不熟悉的话,建议先回顾一下上一章节:面试官:你看过Redis数据结构底层实现吗?
0. 五类对象分别是什么
五类对象就是我们常用的string、list、set、zset、hash
1. 为什么要有对象
我们平时主要是通过操作对象的api来操作redis,而不是通过它的调用它底层数据结构来完成(外观模式)。但我们还需要了解其底层,只有这样才能写最优化高效的代码。
跟java一样,对象使开发更方便简洁,降低开发门槛。开发者不需要了解其复杂的底层API,直接调用高层接口即可实现开发。
Redis根据对象类型来判断命令是否违法,如果你set key value1 value2就报错。
对象下可以包含多种数据结构,使数据存储更加多态化。(下面主讲)
Reids基于对象做了垃圾回收(引用计数法)。
对象带有更丰富的属性,来帮助redis实现更高级的功能。(比如对象的闲置时间)。
2. Redis对象(RedisObject)源码分析
typedef struct redisObject { // 类型
unsigned type:4; // 编码
unsigned encoding:4; // 指向底层实现数据结构的指针
void *ptr; // ... } robj;
type字段
记录对象类型。
我们平时用的命令type <key>
,其实就是返回这个字段的属性。
127.0.0.1:6379> set hello world
OK
127.0.0.1:6379> type hello
string
127.0.0.1:6379> rpush list 1 2 3
(integer) 3
127.0.0.1:6379> type list
list
...
那type有多少中类型呢?看下面这个表:
encoding字段
记录对象使用的编码(数据结构),Reids中称数据结构为encoding。
我们可以这样查看我们redis对象中的encoding:
127.0.0.1:6379> object encoding hello
"embstr"
127.0.0.1:6379> object encoding list
"quicklist"
...
既然它是标明该redisObject
是使用的什么数据结构,那肯定也有个对应的表:
我们可以看到,Redis对对象的底层encoding分的很细,String类型就有三个,其它四个对象都分别有两种不同的底层数据结构的实现。他们有一规律,就是用ziplist
、intset
、embstr
来实现少量的数据,数据量一旦庞大,就会升级到skiplist
、raw
、linkedlist
、ht
来实现,后面我会仔细讲解。
3. 分别分析各个对象的底层编码实现(数据结构)
3.1 字符串(string)
字符串编码有三个:int、raw、embstr。
3.1.1 int
当string对象的值全部是数字,就会使用int编码。
127.0.0.1:6379> set number 123455
OK
127.0.0.1:6379> object encoding number
"int"
3.1.2 embstr
字符串或浮点数长度小于等于39字节,就会使用embstr编码方式来存储,embstr存储内存一般很小,所以redis一次性分配且内存连续(效率高)。
127.0.0.1:6379> set shortStr "suwe suwe suwe"
OK
127.0.0.1:6379> object encoding shortStr
"embstr"
3.1.2 raw
当一个字符串或浮点数长度大于39字节,就使用SDS来保存,编码为raw,由于不确定值的字节大小,所以键和值各分配各的,所以就分配两次内存(回收也是两次),同理它一定不是内存连续的。
127.0.0.1:6379> set longStr "hello everyone, we dont need to sleep around to go aheard! do you think?"
OK
127.0.0.1:6379> object encoding longStr
"raw"
3.1.3 编码转换
前面说过,Redis会自动对编码进行转换来适应和优化数据的存储。
int->raw
条件:数字对象进行append字母,就会发生转换。
127.0.0.1:6379> object encoding number
"int"
127.0.0.1:6379> append number " is a lucky number"
(integer) 24
127.0.0.1:6379> object encoding number
"raw"
embstr->raw
条件:对embstr进行修改,redis会先将其转换成raw,然后才进行修改。所以embstr实际上是只读性质的。
127.0.0.1:6379> object encoding shortStr
"embstr"
127.0.0.1:6379> append shortStr "(hhh"
(integer) 18
127.0.0.1:6379> object encoding shortStr
"raw"
3.2 列表(list)
列表对象编码可以是:ziplist或linkedlist。
ziplist
压缩列表不知道大家还记得不,就是zlbytes zltail zllen entry1 entry2 ..end
结构,entry节点
里有pre-length、encoding、content
属性,忘记的可以返回去看下。linkedlist
,类似双向链表,也是上一章的知识。
3.2.1 编码转换
ziplist->linkedlist
条件:列表对象的所有字符串元素的长度大于等于64字节 & 列表元素数大于等于512. 反之,小于64和小于512会使用ziplist而不是用linkedlist。
这个阈值是可以修改的,修改选项:
list-max-ziplist-value
和list-max-ziplist-entriess
3.3 哈希(hash)
哈希对象的编码有:ziplist和hashtable
3.3.1 编码转换
ziplist->hashtable
条件:哈希对象所有键和值字符串长度大于等于64字节 & 键值对数量大于等于512
这个阈值也是可以修改的,修改选项:
hash-max-ziplist-value
和hash-max-ziplist-entriess
3.4. 集合(set)
集合对象的编码有:intset和hashtable
3.4.1 intset
集合对象所有元素都是整数
集合对象元素数不超过512个
3.4.2 编码转换
intset->hashtable
条件:元素不都是整数 & 元素数大于等于512
3.5. 有序集合(zset)
有序集合用到的编码:ziplist和skiplist
大家可能很好奇阿,ziplist的entry中只有属性content可以存放数据,集合也是key-value
形式,那怎么存储呢?
第一个节点保存key、第二个节点保存value 以此类推...
3.5.1 为什么要用这两个编码
如果只用ziplist来实现,无法做到元素的排序,不支持范围查找,能做到元素的快速查找。
如果只用skiplist来实现,无法做到快速查找,但能做到元素排序、范围操作。
3.5.2 编码转换
ziplist->skiplist
条件:有序集合元素数 >= 128 & 含有元素的长度 >= 64
这个阈值也是可以修改的,修改选项:
zset-max-ziplist-value
和zset-max-ziplist-entriess
4. 垃圾回收
为什么要说内存回收呢,因为redisObject有一个字段:
typedef struct redisObject { // ... // 引用计数
int refcount; // ... } robj;
redis的垃圾回收采用引用计数法(和jvm一样),底层采用一个变量对对象的使用行为进行计数。
初始化为1
对象被引用,+1
对象引用消除,-1
计数器==0, 回收对象
5. 对象共享
5.1 对象共享的体现
redis中,值是整数值且相等的两个对象,redis会将该对象进行共享,且引用计数+1
redis启动会自动生成0-9999的整数值放到内存中来共享。
5.2 为什么要对象共享
节约内存
5.3 为什么不对字符串进行共享
成本太高。
验证整数相等只需要O(1)的时间复杂度,而验证字符串要O(n).
6. 对象的空闲时长
最后,redisObject还有一个字段,记录了对象最后一次被访问的时间:
typedef struct redisObject { // ... unsigned lru:22; // ... } robj;
因为这个字段记录对象最后一次被访问的时间,所以它可以用来查看该对象多久未使用,即:用当前时间-lru
127.0.0.1:6379> object idletime hello
(integer) 5110
它还关系到redis的热点数据实现,如果我们选择lr算法,当内存超出阈值后会对空闲时长较高的对象进行释放,回收内存。
参考文献:
《Redis设计与实现》黄健宏著
http://redisbook.com/index.html
面试官:你了解过Redis对象底层实现吗的更多相关文章
- 面试官:你对Redis缓存了解吗?面对这11道面试题你是否有很多问号?
前言 关于Redis的知识,总结了一个脑图分享给大家 1.在项目中缓存是如何使用的?为什么要用缓存?缓存使用不当会造成什么后果? 面试官心理分析 这个问题,互联网公司必问,要是一个人连缓存都不太清楚, ...
- 面试官问我,Redis分布式锁如何续期?懵了。
前言 上一篇[面试官问我,使用Dubbo有没有遇到一些坑?我笑了.]之后,又有一位粉丝和我说在面试过程中被虐了.鉴于这位粉丝是之前肥朝的粉丝,而且周一又要开启新一轮的面试,为了回馈他长期以来的支持,所 ...
- 【性能优化】面试官:Java中的对象都是在堆上分配的吗?
写在前面 从开始学习Java的时候,我们就接触了这样一种观点:Java中的对象是在堆上创建的,对象的引用是放在栈里的,那这个观点就真的是正确的吗?如果是正确的,那么,面试官为啥会问:"Jav ...
- 阿里P7岗位面试,面试官问我:为什么HashMap底层树化标准的元素个数是8
前言 先声明一下,本文有点标题党了,像我这样的菜鸡何德何能去面试阿里的P7岗啊,不过,这确实是阿里p7级岗位的面试题,当然,参加面试的人不是我,而是我部门的一个大佬.他把自己的面试经验分享给了我,也让 ...
- 女朋友面试回来抱怨说会redis,面试官问了一堆redis
Redis 优缺点及特点 什么是Redis?简述它的优缺点? Redis本质上是一个Key-Value类型的内存数据库,类似MemoryCache,整个数据库统统加载在内存当中进行操作,定期通过异步操 ...
- 面试官:你确定 Redis 是单线程的进程吗?
作者:小林coding 计算机八股文网站:https://xiaolincoding.com 大家好,我是小林. 这次主要分享 Redis 线程模型篇的面试题. Redis 是单线程吗? Redis ...
- 《吊打面试官》系列-Redis哨兵、持久化、主从、手撕LRU
你知道的越多,你不知道的越多 点赞再看,养成习惯 前言 Redis在互联网技术存储方面使用如此广泛,几乎所有的后端技术面试官都要在Redis的使用和原理方面对小伙伴们进行360°的刁难.作为一个在互联 ...
- Redis——面试官考题
总结: 本文在一次面试的过程中讲述了 Redis 是什么,Redis 的特点和功能,Redis 缓存的使用,Redis 为什么能这么快,Redis 缓存的淘汰策略,持久化的两种方式,Redis 高可用 ...
- 《吊打面试官》系列-Redis常见面试题(带答案)
你知道的越多,你不知道的越多 点赞再看,养成习惯 GitHub上已经开源,有面试点思维导图,欢迎[Star]和[完善] 前言 Redis在互联网技术存储方面使用如此广泛,几乎所有的后端技术面试官都要在 ...
随机推荐
- Bitmap,byte[],Drawable相互转化
1.Drawable就是一个可画的对象.其可能是一张位图(BitmapDrawable),也可能是一个图形(ShapeDrawable).还有可能是一个图层(LayerDrawable),我们依据绘图 ...
- 阿里云CentOS7系统搭建JavaWeb环境
一,准备工作 1,安装目录 我们创建如下路径/usr/develop,然后在develop目录下面创建java,tomcat和mysql三个目录即可. 二,配置JDK 1.理解wget命令 wget命 ...
- 远程主机关闭了连接。错误代码是 0x80070057,与远程主机通信时发生错误。错误代码是 0x80070057
远程主机关闭了连接.错误代码是 0x80070057,与远程主机通信时发生错误.错误代码是 0x80070057突然在异常错误日志中看到这个错误,虽然在测试中发现不影响流的传输,但是不代表没错误,解决 ...
- CUDA中block和thread的合理划分配置
CUDA并行编程的基本思路是把一个很大的任务划分成N个简单重复的操作,创建N个线程分别执行执行,每个网格(Grid)可以最多创建65535个线程块,每个线程块(Block)一般最多可以创建512个并行 ...
- Method of offloading iSCSI TCP/IP processing from a host processing unit, and related iSCSI TCP/IP offload engine
A method of offloading, from a host data processing unit (205), iSCSI TCP/IP processing of data stre ...
- Gradle Android它自己的编译脚本教程的最新举措(提供demo源代码)
一.前言 Gradle 是以 Groovy 语言为基础,面向Java应用为主.基于DSL(领域特定语言)语法的自己主动化构建工具. 上面这句话我认为写得非常官方,大家仅仅需知道Gradle能够用来an ...
- python win32api 使用小技巧
前些日子,由于需要,用python写了个小插件,通过win32api 访问外部程序的窗口 并且做些小操作. 因为原来对win32api 不怎么熟悉 所以只好求救.群里有个QQ:32034767 唐骁勇 ...
- Unity3d 鼠标的事件GetMouseButtonDown()、GetMouseButton()、GetMouseButtonUp()
当鼠标按键按下时,返回一次true,后面參数0是左键,1是右键,2是中键 if(Input.GetMouseButtonDown(0)) Debug.Log("Pressed left cl ...
- 静态资源(StaticResource)和动态资源(DynamicResource)
一.文章概述 本演示介绍了WPF的静态资源和动态资源的基本使用,并对两者做了简单的比较. 二.定义并使用资源 <Window x:Class="Demo010.MainWindow&q ...
- sql分组统计多列值
select BQDM,sum(case when HFBZ='0' then 1 ELSE 0 end) bxschf,sum(case when HFBZ='1' then 1 ELSE 0 en ...