Python高级网络编程系列之第三篇
在高级篇二中,我们讲解了5中常用的IO模型,理解这些常用的IO模型,对于编写服务器程序有很大的帮助,可以提高我们的并发速度!因为在网络中通信主要的部分就是IO操作。在这一篇当中我们会重点讲解在第二篇当中提到的IO复用模型,即select机制。其实select机制有一些缺陷,后来产生了一种更加高效的机制epoll,稍后会讲解!
一、select机制
1. 原理:select可以理解成一个监听器,可以监听多个文件描述符。当某个文件描述符的状态发生改变了(可读/可写),操作系统就会发送消息给应用程序,去处理数据。
2. 优点:几乎所有平台都支持,跨平台支持性较好。
3. 缺点:
(1). 当个进程/线程可监视的文件描述符数量有限制。
(2). 对文件描述符的扫描是线性的,采用轮询的方式,每次都是从头一直扫描到结尾,当文件描述符的列表变大时,会相当浪费时间和CPU
(3). 把包含大量文件描述符的数组从内核空间拷贝到用户空间,当数组小的时候可能还好,但是随着数组的增大会变得很浪费资源。
4. 水平触发:
当select()把状态发生变化的文件描述符报告给进程之后,如果进程没有进行任何处理,那么下次select()还会报告这些文件描述符。
二、epoll
epoll可以看成是select/poll(本质就是select)的加强版,打破了很多select的约束,以及添加了一些其他的功能!
1. 为什么epoll效率很高呢?
epoll最大的特点是只告诉服务器有哪些文件描述符(fd)发生了变化。如果服务器不去处理相应的fd,那么操作系统就会把这个fd丢弃,不再给服务器发送消息(边缘触发)!除此之外,epoll是采用事件监听的方式通知,这也是epoll的魅力所在!
2.原理:

(1). 注册在epoll中的文件描述符,操作系统的事件监听会去监听文件描述符集合(fd_set)
(2). 如果有fd发生了变化,那么事件监听会向操作系统报告发生变化的fd
(3). 操作系统会给服务器发送消息,通知它你关注的fd有变化,去处理吧
(4). 此时服务器就去共享内存中读取数据了!
3. 优点:
(1). 没有最大连接数的限制。
(2). 不采用轮询的方式去处理fd,而是采用事件监听的方式,即哪个fd有事件发生,OS通知服务器使用相应的回调函数来处理fd
(3). 内存拷贝:当有数据到来时,操作系统会给服务器发送通知去处理数据。通过采用共享内存的方式加快用户空间与内核空间消息的传递速度。
4. 误区:
并不是在任何情况下,epoll都要比select/poll高效,只有当很多连接请求到来时才会很高效!
三、epoll编程模型
(1). 创建1个epoll对象
(2). 告诉epoll对象,在指定的fd上监听指定的事件
(3). 询问epoll对象,自从上次查询后,哪些fd上发生了哪些事件
(4). 在这些fd上执行一些操作
(5). 告诉epoll对象,修改fd列表或注册事件,并监控
(6). 重复步骤3-5,直到完成
(7). 销毁epoll对象

四、代码实现
"""
利用非阻塞和epoll来实现一个服务器
"""
import socket import select class WebServer:
"""定义一个web服务器""" def __init__(self):
# 1.创建TCP 服务器
self.tcp_server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 复用端口
self.tcp_server.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
# 2.绑定端口
self.tcp_server.bind(('', 6767))
# 3.设为被动套接字
self.tcp_server.listen(128) def run(self):
"""运行一个服务器"""
#1.把服务器设置为非阻塞模式
self.tcp_server.setblocking(False)
#2.创建一个epoll对象并为服务器注册一个可接受连接的事件
epoll = select.epoll()
epoll.register(self.tcp_server.fileno(), select.EPOLLIN)
client_dict = dict() # 让fd与client建立关联
#3.服务器接受客户端的请求
while True:
# 4.监听epoll中哪个fd发生了什么事件
epoll_list = epoll.poll()
for fd, event in epoll_list:
if fd == self.tcp_server.fileno():
# 有客户端来连接被动套接字服务器
client, addr = self.tcp_server.accept()
# print(addr)
# 把客户端注册到epoll中
epoll.register(client.fileno(), select.EPOLLIN)
# 把客户端和客户端对应的fd添加到client字典中去
client_dict[client.fileno()] = client
else:
# 有客户端发送数据过来,但是该如何去获得这个客户端呢?
data = client_dict[fd].recv(1024).decode('utf-8')
if data:
# 说明客户端发送数据过来了
print(data)
client_dict[fd].send('我已经收到你的数据了!\n'.encode('utf-8'))
else:
# 说明客户端已经关闭了
client_dict[fd].close() client_dict.popitem()
# 需要把该客户端注册的事件取消掉
epoll.unregister(fd) # 遍历client字典中每个客户端对应的fd
for item in client_dict.items(): print('fd:{}--->addr:{}'.format(item[0], item[1]))
print('-'*50)
# 关闭服务器
self.tcp_server.close() def main():
#1.初始化一个TCP服务器
server = WebServer()
#2.运行一个服务器
server.run() if __name__ == '__main__':
main()
Python高级网络编程系列之第三篇的更多相关文章
- Python高级网络编程系列之第一篇
在上一篇中我们简单的说了一下Python中网络编程的基础知识(相关API就不解释了),其中还有什么细节的知识点没有进行说明,如什么是TCP/IP协议有几种状态,什么是TCP三次握手,什么是TCP四次握 ...
- Python高级网络编程系列之第二篇
在上一篇中,我们深入探讨了TCP/IP协议的11种状态,理解这些状态对我们编写服务器的时候有很大的帮助,但一般写服务器都是使用C/Java语言,因为这些语言对高并发的支持特别好.我们写的这些简单的服务 ...
- Python高级网络编程系列之基础篇
一.Socket简介 1.不同电脑上的进程如何通信? 进程间通信的首要问题是如何找到目标进程,也就是操作系统是如何唯一标识一个进程的! 在一台电脑上是只通过进程号PID,但在网络中是行不通的,因为每台 ...
- Python高级网络编程系列之终极篇---自己实现一个Web框架
通过前面几个小节的学习,现在我们想要把之前学到的知识点给串联起来,实现一个很小型的Web框架.虽然很小,但是用到的知识点都是比较多的.如Socket编程,装饰器传参在实际项目中如何使用.通过这一节的学 ...
- 《安卓网络编程》之第三篇 使用Apache接口
在Android系统中,提供了一下三种通信接口: 标准的Java 接口:java.net Apache接口:org.apache.http Android网络接口:android.net.http 在 ...
- 猫哥网络编程系列:HTTP PEM 万能调试法
注:本文内容较长且细节较多,建议先收藏再阅读,原文将在 Github 上维护与更新. 在 HTTP 接口开发与调试过程中,我们经常遇到以下类似的问题: 为什么本地环境接口可以调用成功,但放到手机上就跑 ...
- python之网络编程
本地的进程间通信(IPC)有很多种方式,但可以总结为下面4类: 消息传递(管道.FIFO.消息队列) 同步(互斥量.条件变量.读写锁.文件和写记录锁.信号量) 共享内存(匿名的和具名的) 远程过程调用 ...
- python基础网络编程--转
python之网络编程 本地的进程间通信(IPC)有很多种方式,但可以总结为下面4类: 消息传递(管道.FIFO.消息队列) 同步(互斥量.条件变量.读写锁.文件和写记录锁.信号量) 共享内存(匿名的 ...
- 猫哥网络编程系列:详解 BAT 面试题
从产品上线前的接口开发和调试,到上线后的 bug 定位.性能优化,网络编程知识贯穿着一个互联网产品的整个生命周期.不论你是前后端的开发岗位,还是 SQA.运维等其他技术岗位,掌握网络编程知识均是岗位的 ...
随机推荐
- Layui 获取 radio的值
var OutInvoiceType = $('#OutInvoiceType input[checked]').val(); 就可以获取到了.
- C#添加IIS站点
利用IIS7自带类库管理IIS现在变的更强大更方便,而完全可以不需要用DirecotryEntry这个类了(乐博网中很多.net管理iis6.0的文章都用到了DirecotryEntry这个类 ),M ...
- 设计模式之适配器模式(Adapter)(6)
简介 在实际的开发过程中,由于应用环境的变化(例如使用语言的变化),我们需要的实现在新的环境中没有现存对象可以满足,但是其他环境却存在这样现存的对象.那么如果将“将现存的对象”在新的环境中进行调用呢? ...
- java.io.IOException No space left on device
磁盘空间不足 1.df -k,发现程序所在的工作目录/data,居然到了100%. 1604050 free allocated Kb 535144219 used allocated Kb 100 ...
- docker 搭建maven 私服
# 搜索镜像 docker search nexus; #拉取nexus镜像docker pull sonatype/nexus; #运行 -id 创建守护式容器--privileged=true 授 ...
- HTML中令人惊喜的全局属性
1.accesskey 属性 : 规定激活元素的快捷键. 浏览器支持:几乎所有浏览器均 accesskey 属性,除了 Opera. 定义和用法 accesskey 属性规定激活(使元素获得焦点)元素 ...
- Linux环境下运行简单java程序
一.安装java 1.下载jdk8 登录网址:http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-213315 ...
- Visualforce控制器
Visualforce框架是遵循MVC结构的.Visualforce页面代表了"视图"部分,Salesforce的各种对象代表了"模型"部分,而Apex则代表了 ...
- loadrunner 脚本开发-参数化之将内容保存为参数、参数数组及参数值获取Part 2
脚本开发-参数化之将内容保存为参数.参数数组及参数值获取 by:授客 QQ:1033553122 ----------------接 Part 1--------------- 把内容保存到参数数组 ...
- centos7 Linux 安装jdk1.8
在CentOS7上安装JDK1.8 1 通过 xshell 连接到CentOS7 服务器: 2 进入到目录 /usr/local/ 中(一般装应用环境我们都会在这个目录下装,也可自行选择目录): cd ...