轻量级RPC设计与实现第一版
什么是RPC
RPC (Remote Procedure Call Protocol), 远程过程调用,通俗的解释就是:客户端在不知道调用细节的情况下,调用存在于远程计算机上的某个对象,就像调用本地应用程序中的对象一样,不需要了解底层网络技术的协议。
简单的整体工作流程
请求端发送一个调用的数据包,该包中包含有调用标识,参数等协议要求的参数。当响应端接收到这个数据包,对应的程序被调起,然后返回结果数据包,返回的数据包含了和请求的数据包中同样的请求标识,结果等。
性能影响因素
- 利用的网络协议。可以使用应用层协议,例如HTTP或者HTTP/2协议;也可以利用传输层协议,例如TCP协议,但是主流的RPC还没有采用UDP传输协议。
- 消息封装格式。选择或设计一种协议来封装信息进行组装发送。比如,dubbo中消息体数据包含dubbo版本号、接口名称、接口版本、方法名称、参数类型列表、参数、附加信息等。
- 序列化。信息在网络传输中要以二进制格式进行传输。序列化和反序列化,是对象到而二进制数据的转换。常见的序列化方法有JSON、Hessian、Protostuff等。
- 网络IO模型。可以采用非阻塞式同步IO,也可以在服务器上实现对多路IO模型的支持。
- 线程管理方式。在高并发请求下,可以使用单个线程运行服务的具体实现,但是会出现请求阻塞等待现象。也可以为每一个RPC具体服务的实现开启一个独立的线程运行,最大线程数有限制,可以使用线程池来管理多个线程的分配和调度。
第一版RPC
第一个版本简单实现了RPC的最基本功能,即服务信息的发送与接收、序列化方式和动态代理等。
项目利用Springboot来实现依赖注入与参数配置,使用netty实现NIO方式的数据传输,使用Hessian来实现对象序列化。
动态代理
这里要提到代理模式,它的特征是代理类与委托类有同样的接口,代理类主要负责为委托类预处理消息、过滤消息、把消息转发给委托类,以及事后处理消息等。代理类与委托类之间通常会存在关联关系。
根据创建代理类的时间点,又可以分为静态代理和动态代理。
在以往的静态代理中需要手动为每一个目标编写对应的代理类。如果系统已经有了成百上千个类,工作量太大了。
静态代理由程序员创建或特定工具自动生成源代码,也就是在编译时就已经将接口与被代理类,代理类等确定下来。在程序运行之前,代理类的.class文件就已经生成。
代理类在程序运行时创建的代理方式被称为代理模式。在静态代理中,代理类是自己定义好的,在运行之前就已经编译完成了。而在动态代理中,可以很方便地对代理类的函数进行统一的处理,而不用修改每个代理类中的方法。可以通过InvocationHandler
接口来实现。
客户端的动态代理
public class ProxyFactory {
public static <T> T create(Class<T> interfaceClass) throws Exception {
return (T) Proxy.newProxyInstance(interfaceClass.getClassLoader(), new Class<?>[]{interfaceClass}, new LwRpcClientDynamicProxy<T>(interfaceClass));
}
}
@Slf4j
public class LwRpcClientDynamicProxy<T> implements InvocationHandler {
private Class<T> clazz;
public LwRpcClientDynamicProxy(Class<T> clazz) throws Exception {
this.clazz = clazz;
}
@Override
public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {
LwRequest lwRequest = new LwRequest();
String requestId = UUID.randomUUID().toString();
String className = method.getDeclaringClass().getName();
String methodName = method.getName();
Class<?>[] parameterTypes = method.getParameterTypes();
lwRequest.setRequestId(requestId);
lwRequest.setClassName(className);
lwRequest.setMethodName(methodName);
lwRequest.setParameterTypes(parameterTypes);
lwRequest.setParameters(args);
NettyClient nettyClient = new NettyClient("127.0.0.1", 8888);
log.info("开始连接服务器端:{}", new Date());
LwResponse send = nettyClient.send(lwRequest);
log.info("请求后返回的结果:{}", send.getResult());
return send.getResult();
}
}
在服务端会利用在客户端获取到的类名。参数等信息利用反射机制进行调用。
Class<?>[] parameterTypes = request.getParameterTypes();
Object[] paramethers = request.getParameters();
// 使用CGLIB 反射
FastClass fastClass = FastClass.create(serviceClass);
FastMethod fastMethod = fastClass.getMethod(methodName, parameterTypes);
return fastMethod.invoke(serviceBean, paramethers);
Netty客户端
@Slf4j
public class NettyClient {
private String host;
private Integer port;
private LwResponse response;
private EventLoopGroup group;
private ChannelFuture future = null;
private Object obj = new Object();
private NettyClientHandler nettyClientHandler;
public NettyClient(String host, Integer port) {
this.host = host;
this.port = port;
}
public LwResponse send(LwRequest request) throws Exception{
nettyClientHandler = new NettyClientHandler(request);
group = new NioEventLoopGroup();
Bootstrap bootstrap = new Bootstrap();
bootstrap.group(group)
.channel(NioSocketChannel.class)
.option(ChannelOption.SO_KEEPALIVE, true)
.option(ChannelOption.TCP_NODELAY, true)
.option(ChannelOption.CONNECT_TIMEOUT_MILLIS, 5000)
.handler(new ChannelInitializer<SocketChannel>() {
@Override
protected void initChannel(SocketChannel socketChannel) throws Exception {
ChannelPipeline pipeline = socketChannel.pipeline();
pipeline.addLast(new LengthFieldBasedFrameDecoder(65535, 0, 4));
pipeline.addLast(new LwRpcEncoder(LwRequest.class, new HessianSerializer()));
pipeline.addLast(new LwRpcDecoder(LwResponse.class, new HessianSerializer()));
pipeline.addLast(nettyClientHandler);
}
});
future = bootstrap.connect(host, port).sync();
nettyClientHandler.getCountDownLatch().await();
this.response = nettyClientHandler.getLwResponse();
return this.response;
}
@PreDestroy
public void close() {
group.shutdownGracefully();
future.channel().closeFuture().syncUninterruptibly();
}
}
@Slf4j
public class NettyClientHandler extends ChannelInboundHandlerAdapter {
private final CountDownLatch countDownLatch = new CountDownLatch(1);
private LwResponse response = null;
private LwRequest request;
public NettyClientHandler(LwRequest request) {
this.request = request;
}
public CountDownLatch getCountDownLatch() {
return countDownLatch;
}
public LwResponse getLwResponse() {
return this.response;
}
@Override
public void channelActive(ChannelHandlerContext ctx) {
log.info("客户端向客户端发送消息");
ctx.writeAndFlush(request);
log.info("客户端请求成功");
}
@Override
public void channelRead(ChannelHandlerContext ctx, Object msg)
throws Exception {
LwResponse lwResponse = (LwResponse) msg;
log.info("收到服务端的信息:{}", lwResponse.getResult());
this.response = lwResponse;
this.countDownLatch.countDown();
}
@Override
public void channelReadComplete(ChannelHandlerContext ctx) throws Exception {
ctx.close();
}
@Override
public void exceptionCaught(ChannelHandlerContext ctx,
Throwable cause) {
cause.printStackTrace();
ctx.close();
}
}
在客户端发送服务信息时,用LwQuest类进行封装,返回的结果用LwResponse进行封装,当客户端读取到服务器端返回的响应时,在NettyClientHandler
中进行处理,并利用CountDownLatch
进行线程的阻塞和运行。
Netty服务端
@Component
@Slf4j
public class NettyServer {
private EventLoopGroup boss = null;
private EventLoopGroup worker = null;
@Autowired
private ServerHandler serverHandler;
@Value("${server.address}")
private String address;
public void start() throws Exception {
log.info("成功");
boss = new NioEventLoopGroup();
worker = new NioEventLoopGroup();
try {
ServerBootstrap serverBootstrap = new ServerBootstrap();
serverBootstrap.group(boss, worker)
.channel(NioServerSocketChannel.class)
.option(ChannelOption.SO_BACKLOG, 1024)
.childOption(ChannelOption.SO_KEEPALIVE, true)
.childHandler(new ChannelInitializer<SocketChannel>() {
@Override
protected void initChannel(SocketChannel socketChannel) throws Exception {
ChannelPipeline pipeline = socketChannel.pipeline();
pipeline.addLast(new LengthFieldBasedFrameDecoder(65535, 0, 4));
pipeline.addLast(new LwRpcEncoder(LwResponse.class, new HessianSerializer()));
pipeline.addLast(new LwRpcDecoder(LwRequest.class, new HessianSerializer()));
pipeline.addLast(serverHandler);
}
});
String[] strs = address.split(":");
String addr = strs[0];
int port = Integer.valueOf(strs[1]);
ChannelFuture future = serverBootstrap.bind(addr, port).sync();
future.channel().closeFuture().sync();
} finally {
worker.shutdownGracefully();
boss.shutdownGracefully();
}
}
@PreDestroy
public void destory() throws InterruptedException {
boss.shutdownGracefully().sync();
worker.shutdownGracefully().sync();
log.info("关闭netty");
}
}
@Component
@Slf4j
@ChannelHandler.Sharable
public class ServerHandler extends SimpleChannelInboundHandler<LwRequest> implements ApplicationContextAware {
private ApplicationContext applicationContext;
@Override
public void setApplicationContext(ApplicationContext applicationContext) {
this.applicationContext = applicationContext;
}
@Override
protected void channelRead0(ChannelHandlerContext channelHandlerContext, LwRequest msg) throws Exception {
LwResponse lwResponse = new LwResponse();
lwResponse.setRequestId(msg.getRequestId());
log.info("从客户端接收到请求信息:{}", msg);
try {
Object result = handler(msg);
lwResponse.setResult(result);
} catch (Throwable throwable) {
lwResponse.setCause(throwable);
throwable.printStackTrace();
}
channelHandlerContext.writeAndFlush(lwResponse);
}
private Object handler(LwRequest request) throws ClassNotFoundException, InvocationTargetException {
Class<?> clazz = Class.forName(request.getClassName());
Object serviceBean = applicationContext.getBean(clazz);
Class<?> serviceClass = serviceBean.getClass();
String methodName = request.getMethodName();
log.info("获取到的服务类:{}", serviceBean);
Class<?>[] parameterTypes = request.getParameterTypes();
Object[] paramethers = request.getParameters();
// 使用CGLIB 反射
FastClass fastClass = FastClass.create(serviceClass);
FastMethod fastMethod = fastClass.getMethod(methodName, parameterTypes);
return fastMethod.invoke(serviceBean, paramethers);
}
}
在Netty服务端中,会利用``serverHandler`来处理从客户端中接收的信息,并利用反射的思想调用本地的方法,并将处理的结构封装在LwResponse中。
LwRequest
和LwRespnse
要想在网络中进行传输,需要转化为二进制转换。具体方法如下:
public class HessianSerializer implements Serializer {
@Override
public byte[] serialize(Object object) throws IOException {
ByteArrayOutputStream byteArrayOutputStream = new ByteArrayOutputStream();
Hessian2Output output = new Hessian2Output(byteArrayOutputStream);
output.writeObject(object);
output.flush();
return byteArrayOutputStream.toByteArray();
}
public <T> T deserialize(Class<T> clazz, byte[] bytes) throws IOException {
Hessian2Input input = new Hessian2Input(new ByteArrayInputStream(bytes));
return (T) input.readObject(clazz);
}
}
public class LwRpcDecoder extends ByteToMessageDecoder {
private Class<?> clazz;
private Serializer serializer;
public LwRpcDecoder(Class<?> clazz, Serializer serializer) {
this.clazz = clazz;
this.serializer = serializer;
}
@Override
protected void decode(ChannelHandlerContext channelHandlerContext, ByteBuf byteBuf, List<Object> list) throws Exception {
if (byteBuf.readableBytes() < 4)
return;
byteBuf.markReaderIndex();
int dataLength = byteBuf.readInt();
if (dataLength < 0) {
channelHandlerContext.close();
}
if (byteBuf.readableBytes() < dataLength) {
byteBuf.resetReaderIndex();
}
byte[] data = new byte[dataLength];
byteBuf.readBytes(data);
Object obj = serializer.deserialize(clazz, data);
list.add(obj);
}
}
public class LwRpcEncoder extends MessageToByteEncoder<Object> {
private Class<?> clazz;
private Serializer serializer;
public LwRpcEncoder(Class<?> clazz, Serializer serializer) {
this.clazz = clazz;
this.serializer = serializer;
}
@Override
protected void encode(ChannelHandlerContext ctx, Object in, ByteBuf out) throws Exception {
if (clazz.isInstance(in)) {
byte[] data = serializer.serialize(in);
out.writeInt(data.length);
out.writeBytes(data);
}
}
}
轻量级RPC设计与实现第一版的更多相关文章
- 轻量级RPC设计与实现第五版(最终版)
在最近一段时间里,通过搜集有关资料加上自己的理解,设计了一款轻量级RPC,起了一个名字lightWeightRPC.它拥有一个RPC常见的基本功能.主要功能和特点如下: 利用Spring实现依赖注入与 ...
- 轻量级RPC设计与实现第三版
在前两个版本中,每次发起请求一次就新建一个netty的channel连接,如果在高并发情况下就会造成资源的浪费,这时实现异步请求就十分重要,当有多个请求线程时,需要设计一个线程池来进行管理.除此之外, ...
- 轻量级RPC设计与实现第四版
在本版本中引入了SPI机制,关于Java的SPI机制与Dubbo的SPI机制在以前的文章中介绍过. 传送门:Dubbo的SPI机制与JDK机制的不同及原理分析 因为设计的RPC框架是基于Spring的 ...
- 轻量级RPC设计与实现第二版
在上一个版本中利用netty实现了简单的一对一的RPC,需要手动设置服务地址,限制性较大. 在本文中,利用zookeeper作为服务注册中心,在服务端启动时将本地的服务信息注册到zookeeper中, ...
- 微博轻量级RPC框架Motan
Motan 是微博技术团队研发的基于 Java 的轻量级 RPC 框架,已在微博内部大规模应用多年,每天稳定支撑微博上亿次的内部调用.Motan 基于微博的高并发和高负载场景优化,成为一套简单.易用. ...
- C# 的轻量级 RPC 框架
Redola.Rpc 的一个小目标 Redola.Rpc 的一个小目标 Redola.Rpc 的一个小目标:20000 tps. Concurrency level: 8 threads Comple ...
- 微博轻量级RPC框架Motan正式开源:支撑千亿调用
支撑微博千亿调用的轻量级 RPC 框架 Motan 正式开源了,项目地址为https://github.com/weibocom/motan. 微博轻量级RPC框架Motan正式开源 Motan 是微 ...
- 轻量级RPC框架开发
nio和传统io之间工作机制的差别 自定义rpc框架的设计思路 rpc框架的代码运行流程 第2天 轻量级RPC框架开发 今天内容安排: 1.掌握RPC原理 2.掌握nio操作 3.掌握netty简单的 ...
- 拥抱.NET Core,跨平台的轻量级RPC:Rabbit.Rpc
不久前发布了一篇博文".NET轻量级RPC框架:Rabbit.Rpc",当初只实现了非常简单的功能,也罗列了之后的计划,经过几天的不断努力又为Rabbit.Rpc增加了一大波新特性 ...
随机推荐
- Markdown 教程
Markdown 简介 Markdown 是一种轻量级标记语言,它允许人们使用易读易写的纯文本格式编写文档. Markdown 语言在 2004 由约翰·格鲁伯(英语:John Gruber)创建. ...
- HDU_1035_水
http://acm.xidian.edu.cn/problem.php?id=1035 本来想用goto优化一下的,不知道什么情况,加了goto就wa了. #include<iostream& ...
- Go语言实现:【剑指offer】把字符串转换成整数
该题目来源于牛客网<剑指offer>专题. 将一个字符串转换成一个整数,要求不能使用字符串转换整数的库函数. 输入描述: 输入一个字符串,包括数字字母符号,可以为空. 输出描述: 如果是合 ...
- android 基础学习笔记2
1.容器布局 一.线性布局 (LineaLayout) 方向:orientation =vertical / horizontal 重力(对齐) :gravity =bottom/right/left ...
- gridFS-Nginx的安装与使用
在使用gridFs的nginx模块时,先确认好你的机器上已经安装好了mongo 首先通过git将最新的gridfs的nginx模块下载到本地 git clone https://github.com/ ...
- 总结JavaScript对象的深浅拷贝
十四.对象的浅拷贝与深拷贝 什么是对象的拷贝? 将一个对象赋值给另外一个对象, 我们称之为对象的拷贝 什么是深拷贝, 什么是浅拷贝? 我们假设将A对象赋值给B对象 浅拷贝是指, 修改B对象的属性和方法 ...
- Python socket 基础(Client) - Foundations of Python Socket
Python socket 基础- Foundations of Python Socket 建立socket - establish socket import socket s = socket. ...
- 在.NET Core中使用MachineKey
在.NET Core中使用MachineKey 姐妹篇:<ASP.NET Cookie是怎么生成的> 姐妹篇:<.NET Core验证ASP.NET密码> 在上篇文章中,我介绍 ...
- golang 自定义接口 和 实现接口
/* 定义: type 接口名 interface{ 方法名(可选:参数列表) 可选:返回值列表 || (可选:返回值列表) } 例:type Writer interface { Write(p [ ...
- VFP 的 SPT 起跳 -- 陈纯(BOE数据网络工作室)
细节描述 Visual FoxPro 的 SPT 技术快速入门 说在前面熟悉 Fox 的朋友都知道,在 VFP 里我们可以使用远程视图 (Remote View) 和 SPT(SQL Pass Thr ...