Netty IO线程模型学习总结

Netty框架的主要线程是IO线程。线程模型的好坏直接决定了系统的吞吐量、并发性和安全性。

Netty的线程模型遵循了Reactor的基础线程模型。以下我们先一起看下该模型

Reactor线程模型

Reactor 单线程模型

单线程模型中全部的IO操作都在一个NIO线程上操作：

包括接受client的请求，读取client的消息和应答。因为使用的是异步非堵塞的IO，全部的IO操作不会堵塞。理论上一个线程就能够处理全部的IO操作。

单线程模型适用小容量的应用。

由于在高并发应用可导致下面问题

一个线程同一时候处理成百上千的链路，性能上无法支撑。

即使IO线程cpu 100%也无法满足要求。
当NIO线层负载过重，处理速度将变慢，会导致大量的client超时，重发，会更加重NIO的负载。终于导致系统大量超时
一旦IO线程跑飞，会导致整个系统通讯模块不可用，造成节点故障

Reactor多线程模型

该模型组织了一组线程进行IO的操作

特点：

1. 有专门的NIO线程---acceptor线程用于监听server，接受client的TCP请求

2. 网络操作的读写由一个IO线程池负责负责消息的读取接收编码和发送

3. 一个IO线程能够同一时候处理N条链路。可是一条链路仅仅相应一个Io线程。防止并发的操作问题

适合绝大多数场景，可是对于并发百万或者server须要对client握手进行安全认证，认证很耗性能的情况，会导致性能瓶颈。

主次Reactor多线程模型

接受client的连接不在是一个单独的IO线程，而是一个Nio线程池：

Acceptor接受client的请求并处理完毕后，将新建的socketChannel注冊到IO线程池的某个线程上，由

他负责IO的读写接编码工作。

Acceptor线程池只负责client的登录握手和安全认证，一旦链路成

功，将链路注冊到后端的线程池的线程上，有他进行兴许的Io操作。

Netty线程模型

public void bind(int port) throws Exception { // 配置服务端的NIO线程组 EventLoopGroup bossGroup = new NioEventLoopGroup(); EventLoopGroup workerGroup = new NioEventLoopGroup(); try { ServerBootstrap b = new ServerBootstrap(); b.group(bossGroup, workerGroup) .channel(NioServerSocketChannel.class) .option(ChannelOption.SO_BACKLOG, 1024) .childHandler(new ChildChannelHandler()); // 绑定port，同步等待成功 ChannelFuture f = b.bind(port).sync()。 // 等待服务端监听port关闭 f.channel().closeFuture().sync(); } finally { // 优雅退出，释放线程池资源 bossGroup.shutdownGracefully(); workerGroup.shutdownGracefully(); } } private class ChildChannelHandler extends ChannelInitializer<SocketChannel> { @Override protected void initChannel(SocketChannel arg0) throws Exception { arg0.pipeline().addLast(new TimeServerHandler()); } }

nettyserver在启动的时候，创建了两个NIOEventLoopGroup 独立的Reator线程池，一个用于接收client的TCP连接，一个用于处理IO的相关的读写操作。

Netty线程模型就是在reactor模型的基础上建立的，线程模型并非一成不变的，通过启动參数的配置，能够在三种中切换。

启动过程，bossGroup 会选择一个EventLoop 须要绑定serverSocketChannel 进行接收client连接;处理后，将准备好的socketchnanell顺利注冊到workGroup下。

netty服务端的创建过程

时序图：

Netty 屏蔽NIO通信的底层细节:

首先创建ServerBootstrap，他是Netty服务端的启动辅助类
设置并绑定Reactor线程池。

Netty的Reactor线程池是EventLoopGroup，它实际就是EventLoop线程的数组。

EventLoop的职责是处理全部注冊到本线程多路复用器Selector上的Channel
设置NIOserverSocketChannel. Netty通过工厂类，利用反射创建NioServerSocketChannel对象
设置TCP參数
链路建立的时候创建并初始化ChannelPipeline.它本质就是一个负责处理网络事件的职责链，负责管理和运行ChannelHandler。

网络事件以事件流的形式在ChannelPipeline中流转，由ChannelPipeline依据ChannelHandler的运行策略调度ChannelHandler的运行
1. 绑定并启动监听port
2. 绑定port，并启动。将会启动NioEventLoop负责调度和运行Selector轮询操作，选择准备就绪的Channel集合。当轮询到准备就绪的Channel之后，就由Reactor线程NioEventLoop运行ChannelPipeline的对应方法。终于调度并运行ChannelHandler。

NioEventLoop IO线程浅析

做为Netty的Reactor线程，由于要处理网络IO读写，所以聚合一个多路复用器对象，它通过open获取一个多路复用器。他的操作主要是在run方法的for循环中运行的。

做为bossGroup的线程他须要绑定NioServerSocketChannel 来监听client的connet请求，并处理连接和校验。
作为workGroup线层组的线程。须要将连接就绪的SocketChannel绑定到线程中。所以一个client连接至相应一个线程，一个线程能够绑定多个client连接。

从调度层面看。也不存在在EventLoop线程中再启动其他类型的线程用于异步运行其他的任务。这样就避免了多线程并发操作和锁竞争，提升了I/O线程的处理和调度性能。

NioEventLoop线程保护

IO操作是线程是的核心，一旦出现问题，导致其上面的多路复用器和多个链路无法正常工作。因此他须要特别的保护。

他在下面两个方面做了保护处理：

慎重处理异常

异常可能导致线程跑飞。会导致线程下的全部链路不可用，这时採try{}catch(Throwable) 捕获异常，防止跑飞。出现异常后，能够恢复运行。netty的原则是某个消息的异常不会导致整个链路的不可用，某个链路的不可用。不能导致其它链路的不可用。

规避NIO BUG

Selector.select 没有任务运行时,可能触发JDK的epoll BUG。这就是著名的JDK epoll BUG，JDK1.7早期版本号号称攻克了。可是据网上反馈，还有此BUG。

server直接表现为 IO线程的 CPU非常高，可能达到100%，可能会导致节点故障！

！！

为什么会发生epoll Bug

Netty的修复策略为:

对Selector的select的操作周期进行统计
对每完毕一次空的select操作进行一次计数
在某周期内（如100ms）连续N此空轮询，说明触发了epoll死循环BUG
检測到死循环后，重建selector的方式让系统恢复正常

netty採用此策略，完美避免了此BUG的发生。

參考资料:netty权威指南2