Netty 线程模型
一、线程模型概述
线程模型表明了代码的执行方式。从最开始的使用单线程,后来出现了多线程,之后是线程池。当有要执行的任务时,任务会被传到线程池,从线程池中获得空闲的线程来执行任务,执行完了后会将线程返回到线程池。
二、Reactor 模型
1.网络服务基本的步骤:
①读取请求 → ②解码请求 → ③处理请求 → ④编码响应 → ⑤发送响应
2.Reactor模型
(1)single threaded version
(图片摘自Doug Lea的pdf,链接参见文末)
在这个模型中,一个线程处理所有I/O相关的操作。acceptor接收来自客户端的TCP连接请求,建立连接后,通过dispatcher将消息(ByteBuffer)分发到各个handler(新的线程)上进行处理。这个模型无法满足高容量的需求,不停的穿建了新的线程来处理消息,耗尽系统资源。此外,当NIO线程负载较重之后,处理速度会变慢导致大量客户端连接超时,重新发送请求,导致CPU很快便会达到100。
(2)Multithreaded pattern
(图片摘自Doug Lea的pdf,链接参见文末)
这个版本上的变化,主要体现在分发到各个handler(worker thread)时,使用了线程池,这样避免创建过多的线程,控制线程数量,提高处理效率。 但是在个别场合,一个NIO线程负责监听和处理所有客户端连接(例如百万客户端连接)可能会存在性能问题。
(3)Multiple Reactor
(图片摘自Doug Lea的pdf,链接参见文末)
在这个模型中,主reactor选择一个线程作为acceptor线程,用于绑定监听端口,接收客户端连接。然后,Acceptor接收客户端请求后创建新的SocketChannel,注册到子reactor中进行握手等操作。最后,来到工作线程池,进行业务的操作。
三、Netty线程模型
1.接口EventLoop
public interface EventLoop extends OrderedEventExecutor, EventLoopGroup {
@Override
EventLoopGroup parent(); // 这个方法,返回这个EventLoop所属的EventLoopGroup的引用
}
在Netty中,多个EventLoop会被创建。其中的一个用来服务多个Channnel,另外的其他,会用来优化资源的使用。这句话的意思,联想代码部分,我们可以想到下面:
EventLoopGroup bossGroup = new NioEventLoopGroup(1); //负责监听接口,处理客户端过来的连接请求
EventLoopGroup workerGroup = new NioEventLoopGroup(); //负责连接之后,通道的信息的传输
再看一下他的类的层次图(图摘自《Netty in action》):
2.Netty 4中I/O 和 事件处理
事件多种多样,事件的本性决定了它本身如何被处理,例如:它可以从网络往应用里传输,也可相反,或是完全不同的一些事件。但是事件的处理逻辑要广泛和灵活,以至于可以处理任何的情况。因此,在Netty 4中所有I/O和事件的处理交给 指定到EventLoop上的thread来执行。这点与Netty 3不同。
3.Netty 3中I/O 和 事件处理
只有Inbound事件会被交给EventLoop来执行,而所有Outbound事件会由调用者线程来执行,可能是I/O线程,也可能是其他线程。因此,outbound端需要同步的操作。因为,五法保证多个线程不会同时操作outbound事件。
4.实现的细节
看下面流程,线程的管理:
任务执行前会进行判断,调用的线程是否是指定给EventLoop的线程。如果是同一个的话,直接执行任务;如果不是,将任务放进队列之中,等EventLoop再次处理它的任务。
这就解释了为什么在ChannelHandler中为什么不需要同步就可以让线程和Channel直接交互。
就写到这里了。。。能力一般,水平有限!希望以后多用到Netty,能更好的认知Netty。
参考资料:
http://gee.cs.oswego.edu/dl/cpjslides/nio.pdf
《Netty in action》
Netty 线程模型的更多相关文章
- eventloop & actor模式 & Java线程模型演进 & Netty线程模型 总结
eventloop的基本概念可以参考:http://www.ruanyifeng.com/blog/2013/10/event_loop.html Eventloop指的是独立于主线程的一条线程,专门 ...
- Netty线程模型
一.Reactor模型 1.单线程模型 Reactor单线程模型,指的是所有的IO操作都在同一个NIO线程上面完成,NIO线程的职责如下: 1)作为NIO服务端,接收客户端的TCP连接: 2)作为NI ...
- Netty系列之Netty线程模型
Reference: http://www.infoq.com/cn/articles/netty-threading-model 1. 背景 1.1. Java线程模型的演进 1.1.1. 单线程 ...
- 彻底搞懂 netty 线程模型
编者注:Netty是Java领域有名的开源网络库,特点是高性能和高扩展性,因此很多流行的框架都是基于它来构建的,比如我们熟知的Dubbo.Rocketmq.Hadoop等.本文就netty线程模型展开 ...
- Netty源码死磕一(netty线程模型及EventLoop机制)
引言 好久没有写博客了,近期准备把Netty源码啃一遍.在这之前本想直接看源码,但是看到后面发现其实效率不高, 有些概念还是有必要回头再细啃的,特别是其线程模型以及EventLoop的概念. 当然在开 ...
- Java后端进阶-网络编程(Netty线程模型)
前言 我们在使用Netty进行服务端开发的时候,一般来说会定义两个NioEventLoopGroup线程池,一个"bossGroup"线程池去负责处理客户端连接,一个"w ...
- Reactor三种线程模型与Netty线程模型
文中所讲基本都是以非阻塞IO.异步IO为基础.对于阻塞式IO,下面的编程模型几乎都不适用 Reactor三种线程模型 单线程模型 单个线程以非阻塞IO或事件IO处理所有IO事件,包括连接.读.写.异常 ...
- Netty核心概念(8)之Netty线程模型
1.前言 第7节初步学习了一下Java原本的线程池是如何工作的,以及Future的为什么能够达到其效果,这些知识对于理解本章有很大的帮助,不了解的可以先看上一节. Netty为什么会高效?回答就是良好 ...
- Netty源码学习(一)Netty线程模型
给你一台4路E7-4820V2(32核心64线程),512G内存的服务器,你该如何编程才能支持百万长连接? 最直接的想法是采用BIO的模式,为每个连接新建一个线程,在一一对应的线程中直接处理连接上的数 ...
随机推荐
- maven的依赖特性
若排版紊乱可查看我的个人博客原文地址 maven的依赖特性很多很杂,这里大概总结一下,maven的依赖特性主要是依赖范围和传递依赖,前者会影响后者,这篇文章会介绍传递依赖的传递原则,出现冲突传递依赖默 ...
- 第一章04:JDK与JRE 区别
JDK = 开发工具 JRE = 运行程序 跨平台性 java程序 = 可以在任何系统中运行(不分系统) JVM = java虚拟机(不同系统下载不一样的JDK版本)(安装的时候包含在jre里面)
- LeetCode 57 插入区间
题目: 给出一个无重叠的 ,按照区间起始端点排序的区间列表. 在列表中插入一个新的区间,你需要确保列表中的区间仍然有序且不重叠(如果有必要的话,可以合并区间). 示例 1: 输入: intervals ...
- shell中的输出重定向
shell中默认有三个标准设备:标准输入(STDIN).标准输出(STDOUT).标准错误(STDERR). 在Linux系统中,一切(或几乎一切)都是文件.因此,标准输入的文件描述符是0,标准输出的 ...
- 为什么毕业一年了工资还是只有7K
“天将降大任于斯人也,必先苦其心志,劳其筋骨,饿其体肤,空乏其身,行拂乱其所为,所以动心忍性,曾益其所不能.”. 从实习的时候开始说起吧,实习的时候是在上海的一家做winform的公司,这家公司总是会 ...
- windows中obs源码编译的坑
好用的版本: cmake-3.6.1-win64-x64 + vs2015 + qt-opensource-windows-x86-msvc2015_64-5.7.0 + obs-stu ...
- 【译】REM vs EM - 世纪之争
原文链接:https://zellwk.com/blog/rem-vs-em/ 在网络上排版的最佳做法之一是使用像rem和em这样的相对单位. 问题是,你应该使用哪个? 在rem支持者和em支持者之间 ...
- goroutine和channel
近期在学习golang的goroutine和channel时候有一些疑惑: 带缓冲的channel和不带缓冲的channel有什么区别? goroutine和主进程的有哪些影响和关系? 多个gorou ...
- SQL Server实现读写分离提高系统并发
转自:http://www.canway.net/Lists/CanwayOriginalArticels/DispForm.aspx?ID=666 在一些大型的网站或者应用中,单台的SQL Serv ...
- 第一次scrum冲刺
一.第一次冲刺任务 首先分工做好全局规划,然后基于规划实现全部功能,当然现在只是部分. 二.用户故事 用户进入界面 用户输入账号密码 不记得密 ...