Netty-ProtobufVarint32
效果
ProtobufVarint32LengthFieldPrepender编码器用于在数据最前面添加
Varint32
,表示数据长度ProtobufVarint32FrameDecoder是相对应的解码器
Varint32
讲编码器之前,先来讲讲什么是VarInt32(vary int 32),即:可变长的int
在java里,int的长度固定为 4 byte,即 32 bits,最高位为符号位。
而Varint32则不固定长度,最小 1 byte,最大 5 byte,每个byte的最高位如果为1表示下一个byte依然属于Varint32的,为0表示Varint32到当前byte结束。
所以在Varint32中,每个byte只有7bit存储数据。
下面以 398 举例:
// 数字398的二进制表示
110001110
// 在java中int的二进制表示
00000000 00000000 00000001 10001110
// Varint32的二进制表示
10001110 00000011
转换步骤如下:
- 398的二进制表示为110001110,总共有9位
- 因为398长度为9bit,大于7,所以在Varint32中需要2个byte来存储
- Varint32第一个byte存398的低7位0001110,最高位置1表示还未存储完成,即:10001110
- Varint32第二个byte存398的后面两位11,最高位置0表示已存储完成,00000011
最后,别问我负数怎么表示,问神奇的海螺。
ProtobufVarint32LengthFieldPrepender
此编码器的作用,就是将数据长度从int转成Varint32,并添加在数据流的最前面。
查看源码,其入口为decode方法:
@Override
protected void encode(
ChannelHandlerContext ctx, ByteBuf msg, ByteBuf out) throws Exception {
// 获取数据长度
int bodyLen = msg.readableBytes();
// 计算int转成Varint32所需字节
int headerLen = computeRawVarint32Size(bodyLen);
// 安全扩充缓冲区
out.ensureWritable(headerLen + bodyLen);
// 将bodyLen转成Varint32并写入
writeRawVarint32(out, bodyLen);
// 写入原有的数据msg
out.writeBytes(msg, msg.readerIndex(), bodyLen);
}
先来看看如何计算int转成Varint32所需字节
static int computeRawVarint32Size(final int value) {
// value的低7位有数据,其余位为0
if ((value & (0xffffffff << 7)) == 0) {
return 1;
}
// value的低14位有数据,其余位为0
if ((value & (0xffffffff << 14)) == 0) {
return 2;
}
if ((value & (0xffffffff << 21)) == 0) {
return 3;
}
if ((value & (0xffffffff << 28)) == 0) {
return 4;
}
return 5;
}
// 0xffffffff 的二进制表示
11111111 11111111 11111111 11111111
// 0xffffffff << 7 的二进制表示
11111111 11111111 11111111 10000000
// 假设value为100,二进制表示
00000000 00000000 00000000 01100100
// value与0xffffffff << 7按位与,即value & (0xffffffff << 7)
11111111 11111111 11111111 10000000
&
00000000 00000000 00000000 01100100
=
00000000 00000000 00000000 00000000 // 结果等于0
// 假设value为398,value与0xffffffff << 7按位与
11111111 11111111 11111111 10000000
&
00000000 00000000 00000001 10001110
=
00000000 00000000 00000001 10000000 // 结果等于384,大于0
再来看看将bodyLen转成Varint32并写入
static void writeRawVarint32(ByteBuf out, int value) {
while (true) {
// value的低7位有数据,其余位为0
if ((value & ~0x7F) == 0) {
out.writeByte(value);
return;
} else {
// 取value的低7位,最高位置1
out.writeByte((value & 0x7F) | 0x80);
// 右移7位
value >>>= 7;
}
}
}
ProtobufVarint32FrameDecoder
此解码器的作用,是将Varint32 + data,转换成 data
源码入口
@Override
protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out)
throws Exception {
// 标记读取索引,用户后续的恢复
in.markReaderIndex();
// 读取前的索引位置
int preIndex = in.readerIndex();
// 读取字节,将Varint32转成int
int length = readRawVarint32(in);
// 读取后索引位置等于读取前,表示读取不成功
if (preIndex == in.readerIndex()) {
return;
}
if (length < 0) {
throw new CorruptedFrameException("negative length: " + length);
}
// 如果netty读取到的字节长度不满足数据长度,则重置读取索引
if (in.readableBytes() < length) {
in.resetReaderIndex();
} else {
out.add(in.readRetainedSlice(length));
}
}
读取字节,将Varint32转成int
private static int readRawVarint32(ByteBuf buffer) {
if (!buffer.isReadable()) {
return 0;
}
buffer.markReaderIndex();
byte tmp = buffer.readByte();
// tmp >= 0,则byte最高位为0,证明Varint32长度为1byte
if (tmp >= 0) {
return tmp;
} else {
// result取temp的低7位
int result = tmp & 127;
// Varint还没结束,但netty读不到更多字节了,则返回
if (!buffer.isReadable()) {
buffer.resetReaderIndex();
return 0;
}
// 读取下一个字节,并判断Varint是否在该字节结束
if ((tmp = buffer.readByte()) >= 0) {
result |= tmp << 7;
} else {
// 如果Varint在第二个字节还没结束,则取第二个字节的低7位
result |= (tmp & 127) << 7;
if (!buffer.isReadable()) {
buffer.resetReaderIndex();
return 0;
}
if ((tmp = buffer.readByte()) >= 0) {
result |= tmp << 14;
} else {
result |= (tmp & 127) << 14;
if (!buffer.isReadable()) {
buffer.resetReaderIndex();
return 0;
}
if ((tmp = buffer.readByte()) >= 0) {
result |= tmp << 21;
} else {
result |= (tmp & 127) << 21;
if (!buffer.isReadable()) {
buffer.resetReaderIndex();
return 0;
}
result |= (tmp = buffer.readByte()) << 28;
if (tmp < 0) {
throw new CorruptedFrameException("malformed varint.");
}
}
}
}
return result;
}
}
Netty-ProtobufVarint32的更多相关文章
- 谈谈如何使用Netty开发实现高性能的RPC服务器
RPC(Remote Procedure Call Protocol)远程过程调用协议,它是一种通过网络,从远程计算机程序上请求服务,而不必了解底层网络技术的协议.说的再直白一点,就是客户端在不必知道 ...
- 基于netty http协议栈的轻量级流程控制组件的实现
今儿个是冬至,所谓“冬大过年”,公司也应景五点钟就放大伙儿回家吃饺子喝羊肉汤了,而我本着极高的职业素养依然坚持留在公司(实则因为没饺子吃没羊肉汤喝,只能呆公司吃食堂……).趁着这一个多小时的时间,想跟 ...
- 从netty-example分析Netty组件续
上文我们从netty-example的Discard服务器端示例分析了netty的组件,今天我们从另一个简单的示例Echo客户端分析一下上个示例中没有出现的netty组件. 1. 服务端的连接处理,读 ...
- 源码分析netty服务器创建过程vs java nio服务器创建
1.Java NIO服务端创建 首先,我们通过一个时序图来看下如何创建一个NIO服务端并启动监听,接收多个客户端的连接,进行消息的异步读写. 示例代码(参考文献[2]): import java.io ...
- 从netty-example分析Netty组件
分析netty从源码开始 准备工作: 1.下载源代码:https://github.com/netty/netty.git 我下载的版本为4.1 2. eclipse导入maven工程. netty提 ...
- Netty实现高性能RPC服务器优化篇之消息序列化
在本人写的前一篇文章中,谈及有关如何利用Netty开发实现,高性能RPC服务器的一些设计思路.设计原理,以及具体的实现方案(具体参见:谈谈如何使用Netty开发实现高性能的RPC服务器).在文章的最后 ...
- Netty构建分布式消息队列(AvatarMQ)设计指南之架构篇
目前业界流行的分布式消息队列系统(或者可以叫做消息中间件)种类繁多,比如,基于Erlang的RabbitMQ.基于Java的ActiveMQ/Apache Kafka.基于C/C++的ZeroMQ等等 ...
- 基于Netty打造RPC服务器设计经验谈
自从在园子里,发表了两篇如何基于Netty构建RPC服务器的文章:谈谈如何使用Netty开发实现高性能的RPC服务器.Netty实现高性能RPC服务器优化篇之消息序列化 之后,收到了很多同行.园友们热 ...
- Netty构建分布式消息队列实现原理浅析
在本人的上一篇博客文章:Netty构建分布式消息队列(AvatarMQ)设计指南之架构篇 中,重点向大家介绍了AvatarMQ主要构成模块以及目前存在的优缺点.最后以一个生产者.消费者传递消息的例子, ...
- JAVA通信系列三:Netty入门总结
一.Netty学习资料 书籍<Netty In Action中文版> 对于Netty的十一个疑问http://news.cnblogs.com/n/205413/ 深入浅出Nettyhtt ...
随机推荐
- gol处理命令行参数 flag
os.Args获取命令行参数 os.Args是一个srting的切片,用来存储所有的命令行参数 package main import ( "fmt" "os" ...
- 169. Majority Element - LeetCode
Question 169. Majority Element Solution 思路:构造一个map存储每个数字出现的次数,然后遍历map返回出现次数大于数组一半的数字. 还有一种思路是:对这个数组排 ...
- [C++STL] 迭代器 iterator 的使用
定义 迭代器是一种检查容器内元素并遍历元素的数据类型,表现的像指针. 基本声明方式 容器::iterator it = v.begin();//例:vector<int>::iterato ...
- 最短路之 Dijkstra 算法
普通的 Dijkstra 这是一种运用贪心的单源最短路算法,就是求从一个节点出发,到任意一个点的最短距离 首先我们要一个图 假设要求从 1 开始的单源最短路 dis[] 表示最短路数组, vis[] ...
- 漏洞修复之Oracle系列
Oracle 11g CVE-2012-1675(远程投毒)漏洞修复. 数据库版本 Oracle 11g 11.2.0.4.0非RAC 漏洞编号 CVE-2012-1675 漏洞介绍 Oracle允许 ...
- 开发工具-在线计算MD5
更新记录: 2022年6月8日 更新标题. 2022年6月1日 开始. 都记在这以后就不用到处找了. 在线计算MD5 https://www.sojson.com/md5/ http://www.ip ...
- 智慧机房3D可视化技术解决方案
随着夏季气温越来越高,机房内大量设备同步工作时,难免使机房内温度飙升. 机房温度每升高10℃,计算机的可靠性就下降25% 磁盘磁带也会因热涨效应造成记录错误 计算机的时钟主频在温度过高都会降低 UPS ...
- 理论+案例,带你掌握Angular依赖注入模式的应用
摘要:介绍了Angular中依赖注入是如何查找依赖,如何配置提供商,如何用限定和过滤作用的装饰器拿到想要的实例,进一步通过N个案例分析如何结合依赖注入的知识点来解决开发编程中会遇到的问题. 本文分享自 ...
- 运行时应用自我保护(RASP):应用安全的自我修养
应用程序已经成为网络黑客想要渗透到企业内部的绝佳目标. 因为他们知道如果能发现并利用应用程序的漏洞,他们就有超过三分之一的机会成功入侵. 更重要的是,发现应用程序漏洞的可能性也很大. Contrast ...
- Spring框架系列(5) - 深入浅出SpringMVC请求流程和案例
前文我们介绍了Spring框架和Spring框架中最为重要的两个技术点(IOC和AOP),那我们如何更好的构建上层的应用呢(比如web 应用),这便是SpringMVC:Spring MVC是Spri ...