python--第十天总结（IO多路复用）

服务器端编程经常需要构造高性能的IO模型，常见的IO模型有四种：

（1）同步阻塞IO（Blocking IO）：即传统的IO模型。

（2）同步非阻塞IO（Non-blocking IO）：默认创建的socket都是阻塞的，非阻塞IO要求socket被设置为NONBLOCK。注意这里所说的NIO并非Java的NIO（New IO）库。

（3）IO多路复用（IO Multiplexing）：即经典的Reactor设计模式，有时也称为异步阻塞IO，Java中的Selector和Linux中的epoll都是这种模型。

（4）异步IO（Asynchronous IO）：即经典的Proactor设计模式，也称为异步非阻塞IO。

同步和异步的概念描述的是用户线程与内核的交互方式：同步是指用户线程发起IO请求后需要等待或者轮询内核IO操作完成后才能继续执行；而异步是指用户线程发起IO请求后仍继续执行，当内核IO操作完成后会通知用户线程，或者调用用户线程注册的回调函数。

阻塞和非阻塞的概念描述的是用户线程调用内核IO操作的方式：阻塞是指IO操作需要彻底完成后才返回到用户空间；而非阻塞是指IO操作被调用后立即返回给用户一个状态值，无需等到IO操作彻底完成。

详细了参考转载的IO多路复用机制详解

IO多路复用

I/O多路复用指：通过一种机制，可以监视多个描述符，一旦某个描述符就绪（一般是读就绪或者写就绪），能够通知程序进行相应的读写操作。

Linux

Linux中的 select，poll，epoll 都是IO多路复用的机制。他们之间的区别参考另一篇博文 http://www.cnblogs.com/wjx1/p/5082640.html

Python

Python中有一个select模块，其中提供了：select、poll、epoll三个方法，分别调用系统的 select，poll，epoll 从而实现IO多路复用。

Windows Python：
提供： select
Mac Python：
提供： select
Linux Python：
提供： select、poll、epoll

注意：网络操作、文件操作、终端操作等均属于IO操作，对于windows只支持Socket操作，其他系统支持其他IO操作，但是无法检测普通文件操作自动上次读取是否已经变化。

SocketServer模块

SocketServer内部使用 IO多路复用以及 “多线程” 和 “多进程” ，从而实现并发处理多个客户端请求的Socket服务端。即：每个客户端请求连接到服务器时，Socket服务端都会在服务器是创建一个“线程”或者“进程” 专门负责处理当前客户端的所有请求。

ThreadingTCPServer

ThreadingTCPServer实现的Soket服务器内部会为每个client创建一个 “线程”，该线程用来和客户端进行交互。

1、ThreadingTCPServer基础

使用ThreadingTCPServer:

创建一个继承自 SocketServer.BaseRequestHandler 的类
类中必须定义一个名称为 handle 的方法
启动ThreadingTCPServer

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import SocketServer

class MyServer(SocketServer.BaseRequestHandler):

    def handle(self):

        # print self.request,self.client_address,self.server

        conn = self.request

        conn.sendall('欢迎致电 10086，请输入1xxx,0转人工服务.')

        Flag = True

        while Flag:

            data = conn.recv(1024)

            if data == 'exit':

                Flag = False

            elif data == '':

                conn.sendall('通过可能会被录音.balabala一大推')

            else:

                conn.sendall('请重新输入.')

if __name__ == '__main__':

    server = SocketServer.ThreadingTCPServer(('127.0.0.1',8009),MyServer)

    server.serve_forever()

SocketServer实现服务器

SocketServer实现服务器

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import socket

ip_port = ('127.0.0.1',8009)

sk = socket.socket()

sk.connect(ip_port)

sk.settimeout(5)

while True:

    data = sk.recv(1024)

    print 'receive:',data

    inp = raw_input('please input:')

    sk.sendall(inp)

    if inp == 'exit':

        break

sk.close()

客户端

客户端

2、ThreadingTCPServer源码剖析

ThreadingTCPServer的类图关系如下：

内部调用流程为：

启动服务端程序
执行 TCPServer.__init__ 方法，创建服务端Socket对象并绑定 IP 和端口
执行 BaseServer.__init__ 方法，将自定义的继承自SocketServer.BaseRequestHandler 的类 MyRequestHandle赋值给 self.RequestHandlerClass
执行 BaseServer.server_forever 方法，While 循环一直监听是否有客户端请求到达 ...
当客户端连接到达服务器
执行 ThreadingMixIn.process_request 方法，创建一个 “线程” 用来处理请求
执行 ThreadingMixIn.process_request_thread 方法
执行 BaseServer.finish_request 方法，执行 self.RequestHandlerClass() 即：执行自定义 MyRequestHandler 的构造方法（自动调用基类BaseRequestHandler的构造方法，在该构造方法中又会调用 MyRequestHandler的handle方法）

实例：

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import SocketServer

class MyServer(SocketServer.BaseRequestHandler):

    def handle(self):

        # print self.request,self.client_address,self.server

        conn = self.request

        conn.sendall('欢迎致电 10086，请输入1xxx,0转人工服务.')

        Flag = True

        while Flag:

            data = conn.recv(1024)

            if data == 'exit':

                Flag = False

            elif data == '':

                conn.sendall('通过可能会被录音.balabala一大推')

            else:

                conn.sendall('请重新输入.')

if __name__ == '__main__':

    server = SocketServer.ThreadingTCPServer(('127.0.0.1',8009),MyServer)

    server.serve_forever()

服务端

服务端

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import socket

ip_port = ('127.0.0.1',8009)

sk = socket.socket()

sk.connect(ip_port)

sk.settimeout(5)

while True:

    data = sk.recv(1024)

    print 'receive:',data

    inp = raw_input('please input:')

    sk.sendall(inp)

    if inp == 'exit':

        break

sk.close()

客户端

客户端

源码精简：

import socket

import threading

import select

def process(request, client_address):

    print request,client_address

    conn = request

    conn.sendall('欢迎致电 10086，请输入1xxx,0转人工服务.')

    flag = True

    while flag:

        data = conn.recv(1024)

        if data == 'exit':

            flag = False

        elif data == '':

            conn.sendall('通过可能会被录音.balabala一大推')

        else:

            conn.sendall('请重新输入.')

sk = socket.socket(socket.AF_INET, socket.SOCK_STREAM)

sk.bind(('127.0.0.1',8002))

sk.listen(5)

while True:

    r, w, e = select.select([sk,],[],[],1)

    print 'looping'

    if sk in r:

        print 'get request'

        request, client_address = sk.accept()

        t = threading.Thread(target=process, args=(request, client_address))

        t.daemon = False

        t.start()

sk.close()

如精简代码可以看出，SocketServer的ThreadingTCPServer之所以可以同时处理请求得益于 select 和 Threading 两个东西，其实本质上就是在服务器端为每一个客户端创建一个线程，当前线程用来处理对应客户端的请求，所以，可以支持同时n个客户端链接（长连接）。

ForkingTCPServer

ForkingTCPServer和ThreadingTCPServer的使用和执行流程基本一致，只不过在内部分别为请求者建立 “线程” 和 “进程”。

基本使用：

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import SocketServer

class MyServer(SocketServer.BaseRequestHandler):

    def handle(self):

        # print self.request,self.client_address,self.server

        conn = self.request

        conn.sendall('欢迎致电 10086，请输入1xxx,0转人工服务.')

        Flag = True

        while Flag:

            data = conn.recv(1024)

            if data == 'exit':

                Flag = False

            elif data == '':

                conn.sendall('通过可能会被录音.balabala一大推')

            else:

                conn.sendall('请重新输入.')

if __name__ == '__main__':

    server = SocketServer.ForkingTCPServer(('127.0.0.1',8009),MyServer)

    server.serve_forever()

服务端

服务端

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import socket

ip_port = ('127.0.0.1',8009)

sk = socket.socket()

sk.connect(ip_port)

sk.settimeout(5)

while True:

    data = sk.recv(1024)

    print 'receive:',data

    inp = raw_input('please input:')

    sk.sendall(inp)

    if inp == 'exit':

        break

sk.close()

客户端

客户端

以上ForkingTCPServer只是将 ThreadingTCPServer 实例中的代码：

server = SocketServer.ThreadingTCPServer(('127.0.0.1',8009),MyRequestHandler)
变更为

server =SocketServer.ForkingTCPServer(('127.0.0.1',8009),MyRequestHandler)

SocketServer的ThreadingTCPServer之所以可以同时处理请求得益于 select 和 os.fork 两个东西，其实本质上就是在服务器端为每一个客户端创建一个进程，当前新创建的进程用来处理对应客户端的请求，所以，可以支持同时n个客户端链接（长连接）。

源码剖析参考 ThreadingTCPServer

Twisted

Twisted是一个事件驱动的网络框架，其中包含了诸多功能，例如：网络协议、线程、数据库管理、网络操作、电子邮件等。

事件驱动

简而言之，事件驱动分为二个部分：第一，注册事件；第二，触发事件。

自定义事件驱动框架，命名为：“弑君者”：

#!/usr/bin/env python

# -*- coding:utf-8 -*-

# event_drive.py

event_list = []

def run():

    for event in event_list:

        obj = event()

        obj.execute()

class BaseHandler(object):

    """

    用户必须继承该类，从而规范所有类的方法（类似于接口的功能）

    """

    def execute(self):

        raise Exception('you must overwrite execute')

最牛逼的事件驱动框架

程序员使用“弑君者框架”：

#!/usr/bin/env python

# -*- coding:utf-8 -*-

from source import event_drive

class MyHandler(event_drive.BaseHandler):

    def execute(self):

        print 'event-drive execute MyHandler'

event_drive.event_list.append(MyHandler)

event_drive.run()

如上述代码，事件驱动只不过是框架规定了执行顺序，程序员在使用框架时，可以向原执行顺序中注册“事件”，从而在框架执行时可以出发已注册的“事件”。

基于事件驱动Socket

 #!/usr/bin/env python

 # -*- coding:utf-8 -*-

 from twisted.internet import protocol

 from twisted.internet import reactor

 class Echo(protocol.Protocol):

     def dataReceived(self, data):

         self.transport.write(data)

 def main():

     factory = protocol.ServerFactory()

     factory.protocol = Echo

     reactor.listenTCP(8000,factory)

     reactor.run()

 if __name__ == '__main__':

     main()

程序执行流程：

运行服务端程序
创建Protocol的派生类Echo
创建ServerFactory对象，并将Echo类封装到其protocol字段中
执行reactor的 listenTCP 方法，内部使用 tcp.Port 创建socket server对象，并将该对象添加到了 reactor的set类型的字段 _read 中
执行reactor的 run 方法，内部执行 while 循环，并通过 select 来监视 _read 中文件描述符是否有变化，循环中...
客户端请求到达
执行reactor的 _doReadOrWrite 方法，其内部通过反射调用 tcp.Port 类的 doRead 方法，内部 accept 客户端连接并创建Server对象实例（用于封装客户端socket信息）和创建 Echo 对象实例（用于处理请求），然后调用 Echo 对象实例的 makeConnection 方法，创建连接。
执行 tcp.Server 类的 doRead 方法，读取数据，
执行 tcp.Server 类的 _dataReceived 方法，如果读取数据内容为空（关闭链接），否则，出发 Echo 的 dataReceived 方法
执行 Echo 的 dataReceived 方法

从源码可以看出，上述实例本质上使用了事件驱动的方法和 IO多路复用的机制来进行Socket的处理。