Python高级网络编程系列之第三篇
在高级篇二中,我们讲解了5中常用的IO模型,理解这些常用的IO模型,对于编写服务器程序有很大的帮助,可以提高我们的并发速度!因为在网络中通信主要的部分就是IO操作。在这一篇当中我们会重点讲解在第二篇当中提到的IO复用模型,即select机制。其实select机制有一些缺陷,后来产生了一种更加高效的机制epoll,稍后会讲解!
一、select机制
1. 原理:select可以理解成一个监听器,可以监听多个文件描述符。当某个文件描述符的状态发生改变了(可读/可写),操作系统就会发送消息给应用程序,去处理数据。
2. 优点:几乎所有平台都支持,跨平台支持性较好。
3. 缺点:
(1). 当个进程/线程可监视的文件描述符数量有限制。
(2). 对文件描述符的扫描是线性的,采用轮询的方式,每次都是从头一直扫描到结尾,当文件描述符的列表变大时,会相当浪费时间和CPU
(3). 把包含大量文件描述符的数组从内核空间拷贝到用户空间,当数组小的时候可能还好,但是随着数组的增大会变得很浪费资源。
4. 水平触发:
当select()把状态发生变化的文件描述符报告给进程之后,如果进程没有进行任何处理,那么下次select()还会报告这些文件描述符。
二、epoll
epoll可以看成是select/poll(本质就是select)的加强版,打破了很多select的约束,以及添加了一些其他的功能!
1. 为什么epoll效率很高呢?
epoll最大的特点是只告诉服务器有哪些文件描述符(fd)发生了变化。如果服务器不去处理相应的fd,那么操作系统就会把这个fd丢弃,不再给服务器发送消息(边缘触发)!除此之外,epoll是采用事件监听的方式通知,这也是epoll的魅力所在!
2.原理:

(1). 注册在epoll中的文件描述符,操作系统的事件监听会去监听文件描述符集合(fd_set)
(2). 如果有fd发生了变化,那么事件监听会向操作系统报告发生变化的fd
(3). 操作系统会给服务器发送消息,通知它你关注的fd有变化,去处理吧
(4). 此时服务器就去共享内存中读取数据了!
3. 优点:
(1). 没有最大连接数的限制。
(2). 不采用轮询的方式去处理fd,而是采用事件监听的方式,即哪个fd有事件发生,OS通知服务器使用相应的回调函数来处理fd
(3). 内存拷贝:当有数据到来时,操作系统会给服务器发送通知去处理数据。通过采用共享内存的方式加快用户空间与内核空间消息的传递速度。
4. 误区:
并不是在任何情况下,epoll都要比select/poll高效,只有当很多连接请求到来时才会很高效!
三、epoll编程模型
(1). 创建1个epoll对象
(2). 告诉epoll对象,在指定的fd上监听指定的事件
(3). 询问epoll对象,自从上次查询后,哪些fd上发生了哪些事件
(4). 在这些fd上执行一些操作
(5). 告诉epoll对象,修改fd列表或注册事件,并监控
(6). 重复步骤3-5,直到完成
(7). 销毁epoll对象

四、代码实现
"""
利用非阻塞和epoll来实现一个服务器
"""
import socket import select class WebServer:
"""定义一个web服务器""" def __init__(self):
# 1.创建TCP 服务器
self.tcp_server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 复用端口
self.tcp_server.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
# 2.绑定端口
self.tcp_server.bind(('', 6767))
# 3.设为被动套接字
self.tcp_server.listen(128) def run(self):
"""运行一个服务器"""
#1.把服务器设置为非阻塞模式
self.tcp_server.setblocking(False)
#2.创建一个epoll对象并为服务器注册一个可接受连接的事件
epoll = select.epoll()
epoll.register(self.tcp_server.fileno(), select.EPOLLIN)
client_dict = dict() # 让fd与client建立关联
#3.服务器接受客户端的请求
while True:
# 4.监听epoll中哪个fd发生了什么事件
epoll_list = epoll.poll()
for fd, event in epoll_list:
if fd == self.tcp_server.fileno():
# 有客户端来连接被动套接字服务器
client, addr = self.tcp_server.accept()
# print(addr)
# 把客户端注册到epoll中
epoll.register(client.fileno(), select.EPOLLIN)
# 把客户端和客户端对应的fd添加到client字典中去
client_dict[client.fileno()] = client
else:
# 有客户端发送数据过来,但是该如何去获得这个客户端呢?
data = client_dict[fd].recv(1024).decode('utf-8')
if data:
# 说明客户端发送数据过来了
print(data)
client_dict[fd].send('我已经收到你的数据了!\n'.encode('utf-8'))
else:
# 说明客户端已经关闭了
client_dict[fd].close() client_dict.popitem()
# 需要把该客户端注册的事件取消掉
epoll.unregister(fd) # 遍历client字典中每个客户端对应的fd
for item in client_dict.items(): print('fd:{}--->addr:{}'.format(item[0], item[1]))
print('-'*50)
# 关闭服务器
self.tcp_server.close() def main():
#1.初始化一个TCP服务器
server = WebServer()
#2.运行一个服务器
server.run() if __name__ == '__main__':
main()
Python高级网络编程系列之第三篇的更多相关文章
- Python高级网络编程系列之第一篇
在上一篇中我们简单的说了一下Python中网络编程的基础知识(相关API就不解释了),其中还有什么细节的知识点没有进行说明,如什么是TCP/IP协议有几种状态,什么是TCP三次握手,什么是TCP四次握 ...
- Python高级网络编程系列之第二篇
在上一篇中,我们深入探讨了TCP/IP协议的11种状态,理解这些状态对我们编写服务器的时候有很大的帮助,但一般写服务器都是使用C/Java语言,因为这些语言对高并发的支持特别好.我们写的这些简单的服务 ...
- Python高级网络编程系列之基础篇
一.Socket简介 1.不同电脑上的进程如何通信? 进程间通信的首要问题是如何找到目标进程,也就是操作系统是如何唯一标识一个进程的! 在一台电脑上是只通过进程号PID,但在网络中是行不通的,因为每台 ...
- Python高级网络编程系列之终极篇---自己实现一个Web框架
通过前面几个小节的学习,现在我们想要把之前学到的知识点给串联起来,实现一个很小型的Web框架.虽然很小,但是用到的知识点都是比较多的.如Socket编程,装饰器传参在实际项目中如何使用.通过这一节的学 ...
- 《安卓网络编程》之第三篇 使用Apache接口
在Android系统中,提供了一下三种通信接口: 标准的Java 接口:java.net Apache接口:org.apache.http Android网络接口:android.net.http 在 ...
- 猫哥网络编程系列:HTTP PEM 万能调试法
注:本文内容较长且细节较多,建议先收藏再阅读,原文将在 Github 上维护与更新. 在 HTTP 接口开发与调试过程中,我们经常遇到以下类似的问题: 为什么本地环境接口可以调用成功,但放到手机上就跑 ...
- python之网络编程
本地的进程间通信(IPC)有很多种方式,但可以总结为下面4类: 消息传递(管道.FIFO.消息队列) 同步(互斥量.条件变量.读写锁.文件和写记录锁.信号量) 共享内存(匿名的和具名的) 远程过程调用 ...
- python基础网络编程--转
python之网络编程 本地的进程间通信(IPC)有很多种方式,但可以总结为下面4类: 消息传递(管道.FIFO.消息队列) 同步(互斥量.条件变量.读写锁.文件和写记录锁.信号量) 共享内存(匿名的 ...
- 猫哥网络编程系列:详解 BAT 面试题
从产品上线前的接口开发和调试,到上线后的 bug 定位.性能优化,网络编程知识贯穿着一个互联网产品的整个生命周期.不论你是前后端的开发岗位,还是 SQA.运维等其他技术岗位,掌握网络编程知识均是岗位的 ...
随机推荐
- csharp: Setting the value of properties reflection
using System; using System.Collections.Generic; using System.ComponentModel; using System.Data; usin ...
- 贝尔数(来自维基百科)& Stirling数
贝尔数 贝尔数以埃里克·坦普尔·贝尔(Eric Temple Bell)为名,是组合数学中的一组整数数列,开首是(OEIS的A000110数列): Bell Number Bn是基数为n的集合 ...
- AOP 怎么理解?
什么是 AOP ? AOP 为 Aspect Oriented Programming 的缩写,意为:面向切面编程,通过预编译方式和运行期动态代理实现程序功能的统一维护的一种技术.AOP 是 OOP ...
- MEF 插件式开发之 WPF 初体验
MEF 在 WPF 中的简单应用 MEF 的开发模式主要适用于插件化的业务场景中,C/S 和 B/S 中都有相应的使用场景,其中包括但不限于 ASP.NET MVC .ASP WebForms.WPF ...
- 程序员Web面试之前端框架等知识
基于前面2篇博客: 程序员Web面试之jQuery 程序员Web面试之JSON 您已经可以顺利进入Web开发的大门. 但是要动手干,还需要了解一些已有的前端框架.UI套件,即要站在巨人肩膀上而不是从轮 ...
- js 监听事件的叠加和移除
html DOM元素有很多on开头的监听事件,如onload.onclick等,见DOM事件列表.但是同一种事件,后面注册的会覆盖前面的: window.onresize = function(){ ...
- (网页)20个JS 小技巧超级实用
转自CSDN: 1. 将彻底屏蔽鼠标右键 oncontextmenu=”window.event.returnValue=false”< table border oncontextmenu=r ...
- (后端)org.springframework.dao.EmptyResultDataAccessException: Incorrect result size: expected 1,actual 0
两种方案: 用queryForList方法替换queryForObject或者queryForMap,因为这两个方法必须要有值,不能为空. 把这个异常捕获,用try/catch. 这个查询的结果是nu ...
- 故障小记录:yum 安装报错File "/usr/bin/yum", line 30 except KeyboardInterrupt, e:
发生原因: 由于yum是基于python的,之前安装我python3,当我修改了python命令的指向到python3之后就会发生这样的问题. 解决办法: 由于我当初想到可能以后还需要python2, ...
- Linux笔记(二): WIN 10 Ubuntu 双系统
(一) 说明 记录一次ubuntu安装过程及遇到的问题. 环境:WIN 10 单硬盘 (二) ubuntu ISO文件下载 ubuntu 18.04 https://www.ubuntu.com/ ...