Netty框架原理

用这张图表示的就是一个基本的Netty框架
通过创建两个线程池,一个负责接入, 一个负责处理
public class Start {
public static void main(String[] args) {
//初始化线程
NioSelectorRunnablePool nioSelectorRunnablePool = new NioSelectorRunnablePool(Executors.newCachedThreadPool(), Executors.newCachedThreadPool()); //1
//获取服务类
ServerBootstrap bootstrap = new ServerBootstrap(nioSelectorRunnablePool);
//绑定端口
bootstrap.bind(new InetSocketAddress(80));
System.out.println("start");
}
}
NioSelectorRunnablePool 相当于一个线程池操作类
public class NioSelectorRunnablePool {
/**
* boss 线程数组
*/
private final AtomicInteger bossIndex = new AtomicInteger();
private Boss[] bosses;
/**
* worker线程数组
*/
private final AtomicInteger workerIndex = new AtomicInteger();
private Worker[] workers;
public NioSelectorRunnablePool(Executor boss, Executor worker) {
//初始化boss线程 即接入线程
initBoss(boss, 1);
//根据当前核心数*2 初始化处理线程
initWorker(worker, Runtime.getRuntime().availableProcessors() * 2);
}
/**
* 初始化boss线程组
* @param boss
* @param count
*/
private void initBoss(Executor boss, int count) {
this.bosses = new NioServerBoss[count];
for (int i = 0; i < bosses.length; i++) {
//线程池数组
bosses[i] = new NioServerBoss(boss, "boss thread" + (i+1), this);
}
}
/**
* 初始化worker线程
* @param worker worker线程池
* @param count 线程数
*/
private void initWorker(Executor worker, int count) {
this.workers = new NioServerWorker[count];
for (int i = 0; i < bosses.length; i++) {
workers[i] = new NioServerWorker(worker, "worker thread" + (i+1), this);
}
}
/**
* 获取下一个boss线程
* @return
*/
public Boss nextBoss() {
return bosses[Math.abs(bossIndex.getAndIncrement() % bosses.length)];
}
/**
* 获取下一个work线程
* @return
*/
public Worker nextWorkr() {
return workers[Math.abs(workerIndex.getAndIncrement() % workers.length)];
}
}
初始化两个线程池 NioServerBoss 和NioServerWorker 两个类都实现 各自的Boss 和 Worker 接口 继承 了 AbstractNioSelector 抽象Selector
public interface Boss {
/**
* 加入一个新的ServerSocket
* @param serverChannel
*/
public void registerAcceptChannelTask(ServerSocketChannel serverChannel);
}
Boos
public interface Worker {
/**
* 加入一个新的客户端会话
* @param channel
*/
public void registerNewChannelTask(SocketChannel channel);
}
Worker
/**
*@Description 抽象selector线程类
*@autor:mxz
*2018-08-17
**/
public abstract class AbstractNioSelector implements Runnable{
/**
* 线程池
*/
private Executor executor;
private String threadName; /**
* 选择器wakenUp状态标记
*/
protected final AtomicBoolean wakenUp = new AtomicBoolean(); /**
* 线程管理对象,存储线程池数组
*/
private NioSelectorRunnablePool selectorRunnablePool; protected Selector selector; /**
* 任务队列
*/
private final Queue<Runnable> taskQueue = new ConcurrentLinkedQueue<Runnable>(); public AbstractNioSelector(Executor executor, String threadName, NioSelectorRunnablePool selectorRunnablePool) {
this.executor = executor;
this.threadName = threadName;
this.selectorRunnablePool = selectorRunnablePool;
//一个线程 加入一个selector
openSelector();
} /**
* 获取线程管理对象
* @return
*/
protected NioSelectorRunnablePool getselectorRunnablePool() {
return this.selectorRunnablePool;
}
/**
* 获取selector并启动线程
*/
private void openSelector() {
try {
this.selector = Selector.open();
} catch (IOException e) {
throw new RuntimeException("Failed to create a selector");
}
//线程池执行该线程
executor.execute(this);
} @Override
public void run() {
Thread.currentThread().setName(this.threadName); while (true) {
try {
wakenUp.set(false);
//当注册事件到达时,方法返回,否则该方法会一直阻塞
select(selector); //运行任务队列中的任务
processTaskQueue(); process(selector);
} catch (Exception e) { }
}
}
/**
* 注册一个任务并激活selector 重新执行
* @param task
*/
protected final void registerTask(Runnable task) {
taskQueue.add(task); Selector selector = this.selector; if (selector != null) {
if (wakenUp.compareAndSet(false, true)) {
//会首先唤醒Boss 接入总线线程 唤醒阻塞在selector上的线程, 去做其他事情,例如注册channel改变interestOps的值
selector.wakeup();
}
} else {
taskQueue.remove(task);
}
} /**
*
*/ //执行队列中的任务
private void processTaskQueue() {
for(;;) {
final Runnable task = taskQueue.poll();
if (task == null) {
break;
}
task.run();
}
} /**
* selector抽象方法
* @param selector
* @return
* @throws IOException
*/
protected abstract int select(Selector selector) throws IOException; /**
* selector的业务处理
* @param selector
* @return
* @throws IOException
*/
protected abstract void process(Selector selector) throws IOException;
}
执行openSelector() 创建 selector execute 执行线程 执行各自的 select()
public class NioServerBoss extends AbstractNioSelector implements Boss {
public NioServerBoss(Executor boss, String threadName, NioSelectorRunnablePool selectorRunnablePool) {
super(boss, threadName, selectorRunnablePool);
}
@Override
protected int select(Selector selector) throws IOException {
return selector.select();
}
@Override
protected void process(Selector selector) throws IOException {
Set<SelectionKey> selectedKeys = selector.selectedKeys();
if (selectedKeys.isEmpty()) {
return;
}
for (SelectionKey key : selectedKeys) {
selectedKeys.remove(key);
ServerSocketChannel server = (ServerSocketChannel) key.channel();
//新客户端
SocketChannel channel = server.accept();
//设置为非阻塞
channel.configureBlocking(false);
//获取一个worker
Worker nextworker = getselectorRunnablePool().nextWorkr();
//注册新客户端介入任务给另一个线程任务队列加入新任务
nextworker.registerNewChannelTask(channel);
System.out.println("新客户连接");
}
}
@Override
public void registerAcceptChannelTask(final ServerSocketChannel serverChannel) {
final Selector selector = this.selector;
registerTask(new Runnable() {
@Override
public void run() {
try {
serverChannel.register(selector, SelectionKey.OP_ACCEPT);
} catch (ClosedChannelException e) {
e.printStackTrace();
}
}
});
}
}
public class NioServerWorker extends AbstractNioSelector implements Worker{
public NioServerWorker(Executor worker, String threadName, NioSelectorRunnablePool selectorRunnablePool) {
super(worker, threadName, selectorRunnablePool);
}
@Override
protected int select(Selector selector) throws IOException {
return selector.select();
}
@Override
protected void process(Selector selector) throws IOException {
Set<SelectionKey> selectedKeys = selector.selectedKeys();
if (selectedKeys.isEmpty()) {
return;
}
Iterator<SelectionKey> iterator = this.selector.selectedKeys().iterator();
while (iterator.hasNext()) {
SelectionKey key = iterator.next();
//移除 防止重复提交
iterator.remove();
//得到事件发生的socket通道
SocketChannel channel = (SocketChannel) key.channel();
//数据总长度
int ret = 0;
boolean failure = true;
ByteBuffer buffer = ByteBuffer.allocate(1024);
//读取数据
try {
ret = channel.read(buffer);
failure = false;
} catch (Exception e) {
}
//判断是否连接已断开
if (ret <= 0 || failure) {
key.channel();
System.out.println("客户端已断开连接");
} else {
System.out.println("收到数据:" + new String (buffer.array()));
//回 写数据
ByteBuffer outBuf = ByteBuffer.wrap("收到\n".getBytes());
channel.write(outBuf);// 将消息发送到客户端
}
}
}
此时都会selector.selector() 阻塞等待连接
此时再看 bootstrap.bind(new InetSocketAddress(80)); 会调用
public class ServerBootstrap {
private NioSelectorRunnablePool selectorRunnablePool;
public ServerBootstrap(NioSelectorRunnablePool selectorRunnablePool) {
this.selectorRunnablePool = selectorRunnablePool;
}
public void bind(final InetSocketAddress localAddress) {
try {
//获得一个ServerSocket通道
ServerSocketChannel serverChannel = ServerSocketChannel.open();
//设置通道为非阻塞
serverChannel.configureBlocking(false);
//将该通道对应的serverSocket绑定到port
serverChannel.socket().bind(localAddress);
//获取一个boss线程
Boss nextBoss = selectorRunnablePool.nextBoss();
//向当前boss 线 程注册一个ServerSocket通道
nextBoss.registerAcceptChannelTask(serverChannel);
} catch (Exception e) {
// TODO: handle exception
}
}
}
这个时候通过获取下一个线程注入任务池(其实就一个) 这里可以看AbstractSelector 中的nextBoss 和nextWorker 方法 从线程数组循环拿出线程
这个时候会将当前通道在selector上注册 OP_ACCEPT 的事件 并将这个任务添加到Taskqueue
/**
* 注册一个任务并激活selector 重新执行
* @param task
*/
protected final void registerTask(Runnable task) {
taskQueue.add(task); Selector selector = this.selector; if (selector != null) {
if (wakenUp.compareAndSet(false, true)) {
//会首先唤醒Boss 接入总线线程 唤醒阻塞在selector上的线程, 去做其他事情,例如注册channel改变interestOps的值
selector.wakeup();
}
} else {
taskQueue.remove(task);
}
}
这个时候会唤醒selector 不过唤醒的是boss的selector
唤醒后之前的阻塞会继续往下执行
wakenUp.set(false);
//当注册事件到达时,方法返回,否则该方法会一直阻塞
select(selector); //运行任务队列中的任务
processTaskQueue(); process(selector);
先执行任务 也就是 channel regiter 到 selector 上
执行 Boss中的 process 的方法
@Override
protected void process(Selector selector) throws IOException {
Set<SelectionKey> selectedKeys = selector.selectedKeys();
if (selectedKeys.isEmpty()) {
return;
} for (SelectionKey key : selectedKeys) {
selectedKeys.remove(key);
ServerSocketChannel server = (ServerSocketChannel) key.channel();
//新客户端
SocketChannel channel = server.accept();
//设置为非阻塞
channel.configureBlocking(false);
//获取一个worker
Worker nextworker = getselectorRunnablePool().nextWorkr();
//注册新客户端介入任务给另一个线程任务队列加入新任务
nextworker.registerNewChannelTask(channel);
System.out.println("新客户连接");
}
}
同理再去 走相同的路线 把获取到的通道绑到 worker的selector上
Netty框架原理的更多相关文章
- 分布式服务框架介绍:最成熟的开源NIO框架Netty
尽管JDK提供了丰富的NIO类库,网上也有很多NIO学习例程,但是直接使用Java NIO类库想要开发出稳定可靠的通信框架却并非易事,原因如下: 1)NIO的类库和API繁杂,使用麻烦,你需要熟练掌握 ...
- 新手入门:目前为止最透彻的的Netty高性能原理和框架架构解析
1.引言 Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架,用于快速开发可维护的高性能协议服务器和客户端. 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件 ...
- netty实现的RPC框架
自己手撸了一个nettyRPC框架,希望在这里给有兴趣的同学们做个参考. 要想实现nettyrpc需要了解的技术要点如下: spring的自定义注解.spring的bean的有关初始化. 反射和动态代 ...
- Netty高性能原理和框架架构解析
1.引言 Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架,用于快速开发可维护的高性能协议服务器和客户端. 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件 ...
- 这可能是目前最透彻的Netty原理架构解析
https://juejin.im/post/5be00763e51d453d4a5cf289 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件.整体架构,知其然且知其所以然,希 ...
- 【转】目前为止最透彻的的Netty高性能原理和框架架构解析
转自:https://zhuanlan.zhihu.com/p/48591893 1.引言 Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架,用于快速开发可维护的高性能协议服务器 ...
- Netty原理架构解析
Netty原理架构解析 转载自:http://www.sohu.com/a/272879207_463994本文转载关于Netty的原理架构解析,方便之后巩固复习 Netty是一个异步事件驱动的网络应 ...
- Netty 面试题 (史上最全、持续更新)
文章很长,建议收藏起来,慢慢读! 疯狂创客圈为小伙伴奉上以下珍贵的学习资源: 疯狂创客圈 经典图书 : <Netty Zookeeper Redis 高并发实战> 面试必备 + 大厂必备 ...
- 【Netty】最透彻的Netty原理架构解析
这可能是目前最透彻的Netty原理架构解析 本文基于 Netty 4.1 展开介绍相关理论模型,使用场景,基本组件.整体架构,知其然且知其所以然,希望给大家在实际开发实践.学习开源项目方面提供参考. ...
随机推荐
- express中的中间件(middleware)、自定义中间件、静态文件中间件、路由中间件
express文档地址 什么是中间件呢(middleware)?它是谁的中间件呢? 首先我们需要了解到请求和响应, 请求就是客户端发送请求给服务器, 响应就是,服务器根据客户端的请求返回给客户端的数据 ...
- python对象调用父类的方法
#类定义 class People: #定义基本属性 name = '' age = 0 #定义私有属性,私有属性在类外部无法直接进行访问 __weight = 0 #定义构造方法 def __ini ...
- GC和GC分配策略
一.内存如何回收 解决如何回收问题,首先需要解决回收对象的问题?什么样的对象需要回收,怎么样的不需要回收?保证有引用的内存不被释放:回收没有指针引用的内存是Collector的职责,在保证没有指针引用 ...
- jQuery 设置select,radio的值,无法自动触发绑定的change事件
一.问题 今天在对select和radio做change事件绑定后,手动设置其value值,但是不能触发change事件 二.解决 使用trigger方法手动触发
- 研途APP——项目需求分析
研途APP--项目需求分析 1.作业描述 项目 内容 课程 软件工程实践 作业链接 团队作业第二次-需求规格说明书 团队名称 8rookies 作业目标 作业正文 研途APP--项目需求分析 其他参考 ...
- Qt 中 Oracle 数据库 QOCI 驱动问题及解决
Qt 中 Oracle 数据库 QOCI 驱动问题及解决是本文要讲述的问题,用Qt开发Oracle程序时,常会遇到QOCI驱动问题,主要表现为程序运行时出现下面的错误. QOCI driver not ...
- Mysql -- BLOB, TEXT, GEOMETRY or JSON column 'result' can't have a default value
执行上面的代码, 即可解决, 不过mysql重启之后还会有问题. 根本解决: 将mysql的配置文件中的sql_mode项 注释掉.
- C++ 中virtual 用法
一.virtual 修饰基类中的函数,派生类重写该函数: #include using namespace std; class A{ public: virtual void display(){ ...
- [Java]某日期时间加上若干分钟得到新的日期时间
使用Java自带类库实现日期时间增减还是比自己人工拆分编写要牢靠,代码也简洁多了. 下面代码实现了在原有日期时间上加上一些分钟得到新的日期时间的功能,稍加改造还可以实现逆向运算. 代码: packag ...
- lua字符串处理(string库用法)
原文地址http://www.freecls.com/a/2712/f lua的string库是用来处理字符串的,基础函数如下 string.byte(s [, i [, j]]) string.by ...