Netty框架原理
用这张图表示的就是一个基本的Netty框架
通过创建两个线程池,一个负责接入, 一个负责处理
public class Start {
public static void main(String[] args) { //初始化线程
NioSelectorRunnablePool nioSelectorRunnablePool = new NioSelectorRunnablePool(Executors.newCachedThreadPool(), Executors.newCachedThreadPool()); //1 //获取服务类
ServerBootstrap bootstrap = new ServerBootstrap(nioSelectorRunnablePool); //绑定端口
bootstrap.bind(new InetSocketAddress(80)); System.out.println("start");
}
}
NioSelectorRunnablePool 相当于一个线程池操作类
public class NioSelectorRunnablePool { /**
* boss 线程数组
*/
private final AtomicInteger bossIndex = new AtomicInteger();
private Boss[] bosses; /**
* worker线程数组
*/
private final AtomicInteger workerIndex = new AtomicInteger();
private Worker[] workers; public NioSelectorRunnablePool(Executor boss, Executor worker) {
//初始化boss线程 即接入线程
initBoss(boss, 1);
//根据当前核心数*2 初始化处理线程
initWorker(worker, Runtime.getRuntime().availableProcessors() * 2);
} /**
* 初始化boss线程组
* @param boss
* @param count
*/
private void initBoss(Executor boss, int count) {
this.bosses = new NioServerBoss[count];
for (int i = 0; i < bosses.length; i++) {
//线程池数组
bosses[i] = new NioServerBoss(boss, "boss thread" + (i+1), this);
}
} /**
* 初始化worker线程
* @param worker worker线程池
* @param count 线程数
*/
private void initWorker(Executor worker, int count) {
this.workers = new NioServerWorker[count];
for (int i = 0; i < bosses.length; i++) {
workers[i] = new NioServerWorker(worker, "worker thread" + (i+1), this);
}
} /**
* 获取下一个boss线程
* @return
*/
public Boss nextBoss() {
return bosses[Math.abs(bossIndex.getAndIncrement() % bosses.length)];
} /**
* 获取下一个work线程
* @return
*/
public Worker nextWorkr() {
return workers[Math.abs(workerIndex.getAndIncrement() % workers.length)];
}
}
初始化两个线程池 NioServerBoss 和NioServerWorker 两个类都实现 各自的Boss 和 Worker 接口 继承 了 AbstractNioSelector 抽象Selector
public interface Boss { /**
* 加入一个新的ServerSocket
* @param serverChannel
*/
public void registerAcceptChannelTask(ServerSocketChannel serverChannel);
}
Boos
public interface Worker {
/**
* 加入一个新的客户端会话
* @param channel
*/
public void registerNewChannelTask(SocketChannel channel); }
Worker
/**
*@Description 抽象selector线程类
*@autor:mxz
*2018-08-17
**/
public abstract class AbstractNioSelector implements Runnable{
/**
* 线程池
*/
private Executor executor;
private String threadName; /**
* 选择器wakenUp状态标记
*/
protected final AtomicBoolean wakenUp = new AtomicBoolean(); /**
* 线程管理对象,存储线程池数组
*/
private NioSelectorRunnablePool selectorRunnablePool; protected Selector selector; /**
* 任务队列
*/
private final Queue<Runnable> taskQueue = new ConcurrentLinkedQueue<Runnable>(); public AbstractNioSelector(Executor executor, String threadName, NioSelectorRunnablePool selectorRunnablePool) {
this.executor = executor;
this.threadName = threadName;
this.selectorRunnablePool = selectorRunnablePool;
//一个线程 加入一个selector
openSelector();
} /**
* 获取线程管理对象
* @return
*/
protected NioSelectorRunnablePool getselectorRunnablePool() {
return this.selectorRunnablePool;
}
/**
* 获取selector并启动线程
*/
private void openSelector() {
try {
this.selector = Selector.open();
} catch (IOException e) {
throw new RuntimeException("Failed to create a selector");
}
//线程池执行该线程
executor.execute(this);
} @Override
public void run() {
Thread.currentThread().setName(this.threadName); while (true) {
try {
wakenUp.set(false);
//当注册事件到达时,方法返回,否则该方法会一直阻塞
select(selector); //运行任务队列中的任务
processTaskQueue(); process(selector);
} catch (Exception e) { }
}
}
/**
* 注册一个任务并激活selector 重新执行
* @param task
*/
protected final void registerTask(Runnable task) {
taskQueue.add(task); Selector selector = this.selector; if (selector != null) {
if (wakenUp.compareAndSet(false, true)) {
//会首先唤醒Boss 接入总线线程 唤醒阻塞在selector上的线程, 去做其他事情,例如注册channel改变interestOps的值
selector.wakeup();
}
} else {
taskQueue.remove(task);
}
} /**
*
*/ //执行队列中的任务
private void processTaskQueue() {
for(;;) {
final Runnable task = taskQueue.poll();
if (task == null) {
break;
}
task.run();
}
} /**
* selector抽象方法
* @param selector
* @return
* @throws IOException
*/
protected abstract int select(Selector selector) throws IOException; /**
* selector的业务处理
* @param selector
* @return
* @throws IOException
*/
protected abstract void process(Selector selector) throws IOException;
}
执行openSelector() 创建 selector execute 执行线程 执行各自的 select()
public class NioServerBoss extends AbstractNioSelector implements Boss { public NioServerBoss(Executor boss, String threadName, NioSelectorRunnablePool selectorRunnablePool) {
super(boss, threadName, selectorRunnablePool);
} @Override
protected int select(Selector selector) throws IOException {
return selector.select();
} @Override
protected void process(Selector selector) throws IOException {
Set<SelectionKey> selectedKeys = selector.selectedKeys();
if (selectedKeys.isEmpty()) {
return;
} for (SelectionKey key : selectedKeys) {
selectedKeys.remove(key);
ServerSocketChannel server = (ServerSocketChannel) key.channel();
//新客户端
SocketChannel channel = server.accept();
//设置为非阻塞
channel.configureBlocking(false);
//获取一个worker
Worker nextworker = getselectorRunnablePool().nextWorkr();
//注册新客户端介入任务给另一个线程任务队列加入新任务
nextworker.registerNewChannelTask(channel);
System.out.println("新客户连接");
}
} @Override
public void registerAcceptChannelTask(final ServerSocketChannel serverChannel) {
final Selector selector = this.selector;
registerTask(new Runnable() {
@Override
public void run() {
try {
serverChannel.register(selector, SelectionKey.OP_ACCEPT);
} catch (ClosedChannelException e) {
e.printStackTrace();
}
}
});
} }
public class NioServerWorker extends AbstractNioSelector implements Worker{ public NioServerWorker(Executor worker, String threadName, NioSelectorRunnablePool selectorRunnablePool) {
super(worker, threadName, selectorRunnablePool);
} @Override
protected int select(Selector selector) throws IOException {
return selector.select();
} @Override
protected void process(Selector selector) throws IOException {
Set<SelectionKey> selectedKeys = selector.selectedKeys();
if (selectedKeys.isEmpty()) {
return;
}
Iterator<SelectionKey> iterator = this.selector.selectedKeys().iterator();
while (iterator.hasNext()) {
SelectionKey key = iterator.next();
//移除 防止重复提交
iterator.remove(); //得到事件发生的socket通道
SocketChannel channel = (SocketChannel) key.channel(); //数据总长度
int ret = 0;
boolean failure = true;
ByteBuffer buffer = ByteBuffer.allocate(1024);
//读取数据
try {
ret = channel.read(buffer);
failure = false;
} catch (Exception e) {
}
//判断是否连接已断开
if (ret <= 0 || failure) {
key.channel();
System.out.println("客户端已断开连接");
} else {
System.out.println("收到数据:" + new String (buffer.array())); //回 写数据
ByteBuffer outBuf = ByteBuffer.wrap("收到\n".getBytes());
channel.write(outBuf);// 将消息发送到客户端
}
}
}
此时都会selector.selector() 阻塞等待连接
此时再看 bootstrap.bind(new InetSocketAddress(80)); 会调用
public class ServerBootstrap { private NioSelectorRunnablePool selectorRunnablePool; public ServerBootstrap(NioSelectorRunnablePool selectorRunnablePool) {
this.selectorRunnablePool = selectorRunnablePool;
} public void bind(final InetSocketAddress localAddress) {
try {
//获得一个ServerSocket通道
ServerSocketChannel serverChannel = ServerSocketChannel.open();
//设置通道为非阻塞
serverChannel.configureBlocking(false);
//将该通道对应的serverSocket绑定到port
serverChannel.socket().bind(localAddress); //获取一个boss线程
Boss nextBoss = selectorRunnablePool.nextBoss();
//向当前boss 线 程注册一个ServerSocket通道
nextBoss.registerAcceptChannelTask(serverChannel);
} catch (Exception e) {
// TODO: handle exception
}
} }
这个时候通过获取下一个线程注入任务池(其实就一个) 这里可以看AbstractSelector 中的nextBoss 和nextWorker 方法 从线程数组循环拿出线程
这个时候会将当前通道在selector上注册 OP_ACCEPT 的事件 并将这个任务添加到Taskqueue
/**
* 注册一个任务并激活selector 重新执行
* @param task
*/
protected final void registerTask(Runnable task) {
taskQueue.add(task); Selector selector = this.selector; if (selector != null) {
if (wakenUp.compareAndSet(false, true)) {
//会首先唤醒Boss 接入总线线程 唤醒阻塞在selector上的线程, 去做其他事情,例如注册channel改变interestOps的值
selector.wakeup();
}
} else {
taskQueue.remove(task);
}
}
这个时候会唤醒selector 不过唤醒的是boss的selector
唤醒后之前的阻塞会继续往下执行
wakenUp.set(false);
//当注册事件到达时,方法返回,否则该方法会一直阻塞
select(selector); //运行任务队列中的任务
processTaskQueue(); process(selector);
先执行任务 也就是 channel regiter 到 selector 上
执行 Boss中的 process 的方法
@Override
protected void process(Selector selector) throws IOException {
Set<SelectionKey> selectedKeys = selector.selectedKeys();
if (selectedKeys.isEmpty()) {
return;
} for (SelectionKey key : selectedKeys) {
selectedKeys.remove(key);
ServerSocketChannel server = (ServerSocketChannel) key.channel();
//新客户端
SocketChannel channel = server.accept();
//设置为非阻塞
channel.configureBlocking(false);
//获取一个worker
Worker nextworker = getselectorRunnablePool().nextWorkr();
//注册新客户端介入任务给另一个线程任务队列加入新任务
nextworker.registerNewChannelTask(channel);
System.out.println("新客户连接");
}
}
同理再去 走相同的路线 把获取到的通道绑到 worker的selector上
Netty框架原理的更多相关文章
- 分布式服务框架介绍:最成熟的开源NIO框架Netty
尽管JDK提供了丰富的NIO类库,网上也有很多NIO学习例程,但是直接使用Java NIO类库想要开发出稳定可靠的通信框架却并非易事,原因如下: 1)NIO的类库和API繁杂,使用麻烦,你需要熟练掌握 ...
- 新手入门:目前为止最透彻的的Netty高性能原理和框架架构解析
1.引言 Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架,用于快速开发可维护的高性能协议服务器和客户端. 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件 ...
- netty实现的RPC框架
自己手撸了一个nettyRPC框架,希望在这里给有兴趣的同学们做个参考. 要想实现nettyrpc需要了解的技术要点如下: spring的自定义注解.spring的bean的有关初始化. 反射和动态代 ...
- Netty高性能原理和框架架构解析
1.引言 Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架,用于快速开发可维护的高性能协议服务器和客户端. 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件 ...
- 这可能是目前最透彻的Netty原理架构解析
https://juejin.im/post/5be00763e51d453d4a5cf289 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件.整体架构,知其然且知其所以然,希 ...
- 【转】目前为止最透彻的的Netty高性能原理和框架架构解析
转自:https://zhuanlan.zhihu.com/p/48591893 1.引言 Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架,用于快速开发可维护的高性能协议服务器 ...
- Netty原理架构解析
Netty原理架构解析 转载自:http://www.sohu.com/a/272879207_463994本文转载关于Netty的原理架构解析,方便之后巩固复习 Netty是一个异步事件驱动的网络应 ...
- Netty 面试题 (史上最全、持续更新)
文章很长,建议收藏起来,慢慢读! 疯狂创客圈为小伙伴奉上以下珍贵的学习资源: 疯狂创客圈 经典图书 : <Netty Zookeeper Redis 高并发实战> 面试必备 + 大厂必备 ...
- 【Netty】最透彻的Netty原理架构解析
这可能是目前最透彻的Netty原理架构解析 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件.整体架构,知其然且知其所以然,希望给大家在实际开发实践.学习开源项目方面提供参考. ...
随机推荐
- 数据结构实验之图论九:最小生成树 (SDUT 2144)
#include<bits/stdc++.h> using namespace std; typedef long long ll; struct node { int s, e; int ...
- [bzoj 4650][NOI 2016]优秀的拆分
传送门 Description 如果一个字符串可以被拆分为\(AABB\) 的形式,其中$ A$和 \(B\)是任意非空字符串,则我们称该字符串的这种拆分是优秀的. 例如,对于字符串\(aabaaba ...
- create table:使用SELECT语句创建表
oracle下直接(创建表) create table newtablename as select * from oldtablename sqlserver的语法是(自动创建表) : select ...
- Flutter移动电商实战 --(45)详细页_说明区域UI编写
pages/details_page/details_expain.dart 详情页面引用组件 效果展示: 最终代码: import 'package:flutter/material.dart'; ...
- Vue 缓存当前页面keep-alive
需求: 产品经理在列表页(几千个数据,n个page)点击某一项进去到详情页后,再返回到列表页发现页面回到了第一页,找不到之前的查看的是哪一条了,为了方便咋公司产品经理,返回列表页时需要记住之前的pag ...
- 网站url路径优化方法完全讲解 (url优化、基于tp5、API接口开发)
url优化可是网站开发的必备高阶技能,先看本实例优化前后效果比较: (同为调用前台模块下的index控制器下的index方法) 优化前:www.tp5.com/tp5/public/index.php ...
- 动画之Evaluator
Evaluator就是通过监听器拿到当前动画对对应的具体数值,作用在于从插值器返回的数值进行转换成对应的数值.简单来说就是转换器 Evaluator返回值的类型更加动画中值决定的,所以在使用的时候注意 ...
- 【集成模型】Bootstrap Aggregating(Bagging)
0 - 思想 如下图所示,Bagging(Bootstrap Aggregating)的基本思想是,从训练数据集中有返回的抽象m次形成m个子数据集(bootstrapping),对于每一个子数据集训练 ...
- Linux C Socket编程:文件上传
一个服务端等待, 客户端上传文件到服务端,通过输入要上传的文件名,目前只做到仅对当前执行文件的目录下的文件,应该在服务端收到文件路径之后进行处理的. 服务端代码: #include <netin ...
- Tips for Conda
管理环境 创建环境 基于 python3.6 创建一个名为test_py3的环境 conda create -n test_py3 python=3.6 基于 python2.7 创建一个名为test ...