经过一年时间的沉淀 再次回首 TCP Socket服务器编程 (二)
------------------
前言
------------------
发了第一篇文章后,有不少同志留言,看来socket编程仍然是软件系统里面一个比较难的部分。
第一篇文章主要介绍了传输协议的设计,这个是整个socket框架最底层基础的部分,接下来整个socket服务器大楼都将在这个协议设计基础上不断搭建出来。
这篇文章我主要接上文提出的服务器各个性能参数给出解决思路。
-------------------
socket服务端接收模块设计
-------------------
当服务器Accept一个新的socket之后,会对这个socket进行封装,成为一个connection(当然是自定义了) 。之后的处理都会交给这个connection负责。
由于socket发送的数据存在分包、黏包问题,connection接收模块注定了要使用接收队列。当然这个所谓的接受队列并没有大家想象的这么深奥,大致的代码结构如下:
public class SocketReceiveQueue
{
private Queue<ISocketReceivePackage> queue = null;
private MemoryStream receiveBuffer = null;
}
即一个queue的接收队列+一个stream。处理逻辑:
a. 接收到数据,压入receiveBuffer
b. 从receiveBuffer读取数据、获取协议包ISocketReceivePackage,这里可能会有多个,也可能一个也没有。
c. 当接收完毕后,协议包再从queue出队列,交给注册的协议处理handler处理。
到目前为止,整块接收逻辑并没有涉及具体的业务、也绝对不应该涉及具体的业务。唯一要额外注意的就是接收包的长度问题,即协议包声明的length是否过大。
这里要注意,由于整个接收模块没有涉及到具体的业务逻辑,也就不应该在这里对任何的输入进行检测(非法攻击、频率等),代码上就是以最快速度解析完协议包,然后丢给上层handler分析。
-------------------
客户端请求性能分析
-------------------
当协议包来到了与业务相关的Handler之后,我们开始进行性能检测。首先是请求频率,使用如下公式:
requestInterval = (requestInterval * requestTimes + interval) / (requestTimes + 1)
计算得到的requestInterval就是客户端的请求频率。 数学上也很简单,就是一个类似f(x) = af(x)+b的迭代算法。这个算法的特定当然就是性能高,我只需要记录用户当前请求时间、请求累计次数之后,就能完全监控了用户的请求性能。
此外还需要记录顾客的错误次数。从设计理论上来说,客户传输过来的数据不应该有错,除非代码出错。当然,如果在值类型之间转换出现的问题算是错误的话(用户正常输入了错误的数值),这个不算入错误。这个错误值是需要记录在数据库里面;一旦发现错误值过大,则直接封这个IP了。
还需要说明的是,在服务器一定有一个触发器,每x秒会遍历一次所有的connection,一旦发现有长时间无请求的空连接,要主动踢出。
-------------------
socket服务端发送模块设计
-------------------
当服务器处理完数据后,需要将处理结果回复给客户端。如果使用简单的设计思路,即直接压入socket发送,性能是非常的低的;因此socket的发送必定需要使用发送队列。使用发送队列的优势在于:
a. 当服务器内部需要发送的数据激增的时候,通过压入发送队列,能够减轻IO的处理压力。很多时候我们会发现整个服务器的性能瓶颈就在IO的处理上(收发) ,而不是服务器的数据库操作等。因此设计上就要以减轻IO处理为目标。
b. 使用发送队列,能够把多个回复数据包合并一次发送,极大减轻了IO的压力。
代码 public class SendMessageQueueController
{
Queue<SocketConnection> queue;
} public class SocketConnection
{
private SocketReceiveQueue receiveQueue;//接收队列
private SocketSendQueue sendQueue;//发送队列
} public class SocketSendQueue
{
private Queue<ISocketSendPackage> queue;//发送协议集合
}
代码逻辑如下:
a. 把需要发送的协议包压入当前SocketSendQueue.
b. 判断SocketConnection是否已经存在在SendMessageQueueController,如果不存在,则入列;如果存在,则返回。
c. SendMessageQueueController每隔x毫秒检查一次发送队列,如果发现有数据,则进入while循环,直到所有SocketConnection出列并发送所有的数据。之后再进入等待。
d. 所谓包合并发送,就是把多个协议包一次写入发送的Stream里面,然后让socket发送。
这块的设计问题主要集中在线程冲突,需要在关键地方加几把锁,否则就容易出现线程冲突了。
------------------
后记
------------------
本文介绍的方法并不是最好的方法,我也相信业界有更加成熟的思路。不过我文中列举的一些设计思路至少我用起来还是能够满足现有需求的。
如果各位同志有更好的思路,希望多多留言指教。
在下一篇文章中将结合具体的传输协议开始设计服务端的通用逻辑模块,例如重发、数据缓存、登录登出等。
经过一年时间的沉淀 再次回首 TCP Socket服务器编程 (二)的更多相关文章
- 经过一年时间的沉淀 再次回首 TCP Socket服务器编程--转
------------------ 前言 ------------------ 开发了这么多年,发现最困难的程序开发就是通讯系统. 其他大部分系统,例如CRM/CMS/权限框架/MIS之类的,无论怎 ...
- 再次回首 TCP Socket服务器编程
转载:http://www.cnblogs.com/zc22/archive/2010/06/27/1766007.html ------------------ 前言 --------------- ...
- C# 的tcp Socket设置自定义超时时间
简单的c# TCP通讯(TcpListener) C# 的TCP Socket (同步方式) C# 的TCP Socket (异步方式) C# 的tcp Socket设置自定义超时时间 C# TCP ...
- 计算机网络再次整理————tcp周边[八]
前言 tcp的包的格式可以看我以前的计算机网络整理,下面这些周边只是为了开发时候我们能用到一些理论知识. 正文 首先要介绍的就是域名,为啥有域名这东西呢?单纯站在网络的角度上讲这属于应用层的东西了. ...
- [译]再次对比TCP与UDP
免责声明:和往常一样,此文章的观点都属于‘No Bugs’Hare(译注:一个网站) ,也许不一定和翻译者或者Overload编辑的意见一致.同时,翻译者从Lapine翻译到英语也具有一定的难度.除此 ...
- 再回首,Java温故知新(二):Java基本数据类型
Java作为一种强类型语言,意味着每一个变量都会有特定的类型,Java共有8种基本类型,其中有4种整型(byte.short.int.long).两种浮点型(float.double).1种字符型(c ...
- 计算机网络再次整理————tcp例子[五]
前言 本文介绍一些tcp的例子,然后不断完善一下. 正文 服务端: // See https://aka.ms/new-console-template for more information us ...
- 再回首数据结构—AVL树(二)
前面主要介绍了AVL的基本概念与结构,下面开始详细介绍AVL的实现细节: AVL树实现的关键点 AVL树与二叉搜索树结构类似,但又有些细微的区别,从上面AVL树的介绍我们知道它需要维护其左右节点平衡, ...
- 计算机网络再次整理————tcp[二]
前言 本文不会去介绍tcp的具体协议,因为这个tcp 应该不能说是单纯的连接和传输数据这么简单,里面还有很多机制. 正文 首先介绍一下什么是协议族(protocal Family),举个例子PF_IN ...
随机推荐
- EasyNVR完美搭配腾讯云CDN/阿里云CDN进行RTMP、HLS直播加速的使用说明
1.相关资料入口 腾讯云LVB EasyNVR.com 2.加速说明 2.1. 腾讯LVB加速 2.1.1. 开通服务 腾讯云视频LVB开通入口 2.1.2. 登录进入控制台 腾讯云直播控制台 2.1 ...
- iOS11 push控制器tabbar上移问题
解决方法 - (void)pushViewController:(UIViewController *)viewController animated:(BOOL)animated { // 如果有大 ...
- PAT 1053. 住房空置率 (20)
在不打扰居民的前提下,统计住房空置率的一种方法是根据每户用电量的连续变化规律进行判断.判断方法如下: 在观察期内,若存在超过一半的日子用电量低于某给定的阈值e,则该住房为“可能空置”: 若观察期超过某 ...
- FTP开启被动连接模式
在Linux环境下搭建ftp服务器,具体步骤见:http://www.cnblogs.com/zjiacun/p/6896803.html 配置被动连接的方法: 找到配置文件/etc/vsftpd/v ...
- afinal 文件上传、下载、图片加载实例
// Afinal框架讲解 public class AfinalActivity extends FinalActivity { @ViewInject(id=R.id.bt_afinal_load ...
- html ---- web sql 例子
<!doctype html> <html> <head> <meta charset="utf-8"> <script> ...
- shell一些方法
字符串截取转自原文地址:http://www.jb51.net/article/56563.htm 一:字符串截取 有var变量: var=http://www.aaa.com/123.htm 1. ...
- java中接口的概念及使用(补充final修饰符的使用)
接口 初期理解,可以是一个特殊的抽象类 当抽象类中的方法都是抽象的,那么该类可以通过接口的形式来表示 class 用于定义类 interface 用于定义接口 接口定义时,格式特点: 1.接口中常见的 ...
- 使用cocoaPods import导入时没有提示的解决办法
1.选择target(就是左边你的工程target)—— BuildSettings —— search Paths 下的 User Header Search Paths(如图所示:) 2.双 ...
- adobe flash player 下载地址
1. https://www.adobe.com/cn/products/flashplayer/distribution3.html