深入理解 epoll 原理
- 从网卡如何接收数据说起
- CPU 如何知道接受了数据?
- 进程阻塞为什么不占用 CPU 资源?
- 内核接收网络数据全过程
- 同时监视多个 socket 的方法
- epoll 的设计思路
- epoll 的原理和流程
- epoll 的实现细节
- 结论
- 参考资料
从网卡如何接收数据说起
下图是一个典型的计算机结构图,计算机由 CPU、存储器(内存)、网络接口等部件组成。要想真正了解 epoll, 第一步就要从硬件的角度看计算机如何接收网络数据。
上图展示了网卡接收数据的过程:
- 阶段1: 网卡收到网线传来的数据。
- 阶段2: 硬件电路(网卡)的处理和传输。
- 阶段3: 将数据写入到内存的某个地址上。
上面的整个过程涉及到 DMA传输、IO通路选择 等硬件有关的知识,但我们只需要知道:网卡会把接收到的数据写入内存。
CPU 如何知道接受了数据?
了解 epoll 的第二步,要从 CPU 的角度来看数据接收。要理解这个问题,就要先了解一个概念:中断。
计算机执行程序时,就会有优先级的需求。比如,当计算机收到中断信号时(电容可以保存少许电量,供 CPU 运行很短的一小段时间),它应立即去保存数据,保存数据的程序具有较高的优先级。
一般而言,由硬件产生的中断信号需要 CPU 立刻做出回应(不然数据就可能丢失),所以它的优先级很高。CPU 理应中断掉正在执行的程序,去做出响应;当 CPU 完成对硬件的响应后,再重新执行用户程序。中断的过程如下图 2 ,和函数调用差不多,只不过函数调用是事先定好位置,而中断的位置由中断信号决定。
以键盘⌨️为例,当用户按下键盘某个按键时,键盘会给 CPU 的中断引脚发出一个高电平。CPU 能捕获这个信号,然后执行键盘中断程序。下图 3 展示了各种硬件通过中断与 CPU 进行交互。
到现在可以回答本节提出的问题了:当网卡把数据写入到内存后,网卡向 CPU 发出一个中断信号,操作系统便能得知有新数据到来,再通过网卡的中断程序去处理这些数据。
进程阻塞为什么不占用 CPU 资源?
了解 epoll 的第三步,要从 操作系统进程调度的角度来看数据接收。阻塞是进程调度的关键一环,指的是进程在等待某事件(如接收网络数据)发生之前的等待状态,recv、select 和 epoll 都是阻塞方法。
为了简单器件,我们从普通的 recv 接收开始分析,先看看下面代码:
// 创建 socket
int s = socket(AF_INET, SOCK_STREAM, 0);
// 绑定
bind(s, ...)
// 监听
listen(s, ...)
// 接受客户端连接
int c = accept(s, ...)
// 接收客户端数据
recv(c, ...)
// 将数据打印
print(...)
这是一段最基础的网络编程代码,先新建 socket 对象,依次掉用 bind、listen、accept,最后调用 recv 接收数据。recv 是一个阻塞方法,当程序运行到 recv 时,它会一直等待,直到接收到数据才往下执行。
那么阻塞的底层原理是什么??
工作队列
操作系统为了支持多任务,实现了进程调度的功能,会把进程分为运行态和等待态等几种状态。运行状态是进程获得 CPU 使用权,正在执行代码的状态;等待状态是阻塞状态,比如上述程序运行到 recv 的时候,程序会从运行态转换为等待状态,接收到数据后又变回运行状态。操作系统会分时执行各个运行状态的进程,由于速度很快,看上去就像是同时执行多个任务。
下图 4 中的计算机中运行着 A、B、C 三个进程,其中进程 A 执行着上述基础网络程序,一开始,这 3 个进程都被操作系统的工作队列所引用,都处于运行状态,会分时执行。
等待队列
当进程 A 执行到创建 socket 的语句时,操作系统会创建一个由文件系统管理的 socket 对象(如下图 5)。这个 socket 对象包含了发送缓冲区、接收缓冲区、等待队列等成员。等待队列是个非常重要的结构,它指向所有需要等待该 socket 事件的进程。
当程序执行到 recv 时,操作系统会将进程 A 从工作队列移动到该 socket 的等待队列中(如下图 6)。由于工作队列只剩下了进程 B 和进程 C,依据进程调度,CPU 会轮流调度执行这两个进程的程序,不会执行进程 A 的程序。所以进程 A 被阻塞,不会往下执行代码,也不会占用 CPU 资源。
操作系统添加等待队列只是添加了对这个等待中进程的引用,以便在接收到数据时获取进程对象、将其唤醒,而非直接将进程管理纳入自己之下。上图为了方便说明,直接将进程挂到socket 的等待队列之下。
唤醒进程
当 socket 接收到数据后,操作系统将该 socket 等待队列上的进程重新放回到工作队列,该进程变成运行状态,继续执行代码。也由于 socket 的接收缓冲区已经有了数据,recv 可以返回接收到的数据。
内核接收网络数据全过程
这一步,贯穿网卡、中断、进程调度的知识,叙述阻塞 recv 下,内核接收数据全过程。
如下图 7 所示,进程在 recv 阻塞期间,计算机收到了对端传送的数据,数据经网卡传送到内存,然后网卡通过中断信号通知 CPU 有数据到达,CPU 执行中断程序。此处的中断程序主要有两项功能,先将网络数据写入到对应 socket 的接收缓冲区里面,再唤醒进程 A,重新将进程 A 放入工作队列中。
这里有两个问题需要思考一下:
- 操作系统如何知道网络数据对应于哪个 socket?
- 如何同时监视多个 socket 的数据?
第一个问题:因为一个 socket 对应着一个端口号,而网络数据包中包含了 IP 和 PORT 的信息,内核可以通过端口号找到对应的 socket。当然,为了提高处理速度,操作系统会维护端口号到 socket 的索引结构,以便快速读取。
第二个问题是重中之重,是后面多路复用的重点。
同时监视多个 socket 的方法
服务端需要管理多个客户端连接,而 recv 只能监视单个 socket,这种矛盾下,人们开始寻找监视多个 socket 的方法。epoll 的要义就是高效的监视多个 socket。从发展角度看,必然先出现一种不太高效的方法,后人再加以改进。只有先了解了不太高效的方法,才能够理解 epoll 的本质。
假如能够预先传入一个 socket 列表,如果列表中的 socket 都没有数据,挂起进程,直到有一个 socket 收到数据,唤醒进程。这种方式很直接,也是 select 方式的思想。
为方便理解,我们先复习 select 的用法。在如下的代码中,先准备一个数组(下面代码中的fds),让fds存放着所有需要监视的socket。然后调用select,如果fds中的所有socket都没有数据,select会阻塞,直到有一个socket接收到数据,select返回,唤醒进程。用户可以遍历fds,通过FD_ISSET判断具体哪个socket收到数据,然后做出处理。
// 创建 socket
int s = socket(AF_INET, SOCK_STREAM, 0);
// 绑定
bind(s, ...)
// 监听
listen(s, ...)
int fds[] = 存放需要监听的socket
while(1){
int n = select(..., fds, ...)
for(int i=0; i < fds.count; i++){
if(FD_ISSET(fds[i], ...)){
//fds[i]的数据处理
}
}
}
select 的监听流程
select的实现思路很直接。假如程序同时监视如下图的sock1、sock2和sock3三个socket,那么在调用select之后,操作系统把进程A分别加入这三个socket的等待队列中。
select 的唤醒流程
所谓唤起进程,就是将进程从所有的等待队列中移除,加入到工作队列里面。如下图 9 所示。
经由这些步骤,当进程 A 被唤醒后,它知道至少有一个 socket 接收了数据。程序只需遍历一遍 socket 列表,就可以得到就绪的 socket。
这种简单方式行之有效,在几乎所有操作系统都有对应的实现。
select 的缺点
最简单的方法往往有缺点,主要是:
- 每次调用 select 都需要将进程加入到所有监视 socket 的等待队列中,每次唤醒又需要从每个 socket 的等待队列中移除。这里涉及了两次遍历,而且每次都要将整个fds列表传递给内核,有一定的开销。正是因为遍历操作开销大,出于效率的考量,才会规定 select 的最大监视数量,默认只能监视 1024 个 socket。
- 进程被唤醒后,程序并不知道哪些socket收到数据,还需要遍历一次。
那么,有没有能减少遍历的方式?有没有保存就绪 socket 的方法?这两个问题便是 epoll 技术要解决的。
上面只解释了select的一种情形。当程序调用select时,内核会先遍历一遍socket,如果有一个以上的socket接收缓冲区有数据,那么select直接返回,不会阻塞。这也是为什么select的返回值有可能大于1的原因之一。如果没有socket有数据,进程才会阻塞。
epoll 的设计思路
epoll 是在 select 出现 N 年之后才被发明的,是 select 和 poll 的增强版本。epoll 通过以下一些措施来改进效率。
1. 功能分离
select 低效的原因之一是将 维护等待队列 和 阻塞进程两个步骤合二为一。如下图 10 所示,每次调用 delect 都需要这两个步骤,然而大多数应用场景中,需要监视的 socket 相对固定,并不需要每次都修改。epoll 将这两个操作分开,先用 epoll_ctl 维护等待队列,再调用 epoll_wait 阻塞进程。显而易见的,效率就能得到提升。
为了方便理解后续的内容,我们先复习下 epoll 的用法。如下的代码中,先用 epoll_create 创建一个 epoll 对象 epfd,再通过 epoll_ctl 将需要监视的 socket 添加到 epfd 中,最后调用 epoll_wait 等待数据。
int s = socket(AF_INET, SOCK_STREAM, 0);
bind(s, ...)
listen(s, ...)
int epfd = epoll_create(...);
epoll_ctl(epfd, ...); //将所有需要监听的socket添加到epfd中
while(1){
int n = epoll_wait(...)
for(接收到数据的socket){
//处理
}
}
由于功能分离,使得 epoll 有了优化的可能。
2. 就绪列表
select 抵消了的另外一个原因在于程序不知道哪些 socket 收到数据,只能一个个遍历。如果内核维护一个 就绪列表,引用收到数据的 socket,就能避免遍历。如下图11所示,计算机共有三个 socket,收到数据的 socket2 和 socket3 被 rdlist(就绪列表) 所引用。当进程被唤醒后,只要获取 rdlist 的内容,就能够知道哪些 socket 收到数据。
epoll 的原理和流程
本节会以示例和图表来介绍 epoll 的原理和流程。
1. 创建 epoll 对象
如下图 12 所示,当某个进程调用 epoll_create 方法时,内核会创建一个 eventpoll 对象(也就是程序中的 epfd 对象)。eventpoll 对象也是文件系统中的一员,和 socket 一员,它也会有等待队列。
创建一个代表该 epoll 的 eventpoll 对象是必须的,因为内核要维护就绪列表数据,就绪列表可以作为 eventpoll 的成员。
2. 维护监视列表
创建 epoll 对象后,可以用 epoll_ctl 添加或删除所要监听的 socket。下面以添加 socket 为例,如下图 13 所示,如果通过 epoll_ctl 添加 socket1, socket2, socket3 的监视,内核会将 eventpoll 添加到这三个 socket 的等待队列中。
当 socket 收到数据后,中断程序会操作 eventpoll 对象,而不是直接操作进程。
3. 接收数据
当 socket 接收到数据后,中断程序会给 eventpoll 的就绪列表添加 socket 引用。如下图 14 所示,socket2 和 socket3 接收到数据后,中断程序让 rdlist 引用这两个 socket。
eventpoll 对象相当于是 socket 和进程之间的中介,socket 的数据接收并不直接影响进程。而是通过改变 eventpoll 的就绪列表来改变进程状态。
当程序执行到 epoll_wait 时,如果 rdlist 已经引用了 socket,那么 epoll_wait 直接返回,如果 rdlist 为空,阻塞进程。
4. 阻塞和唤醒进程
假设计算机正在运行 进程 A 和进程 B,在某时刻进程 A运行到了 epoll_wait 语句。如下图 15 所示,内核将会将进程 A 放入 eventpoll 的等待队列中,阻塞进程。
当 socket 接收到数据,中断程序一方面修改 rdlist,另一方面唤醒 eventpoll 等待队列中的进程,进程 A 再次进入运行状态。也因为有 rdlist 的存在,进程 A 可以知道哪些 socket 发生了变化。
epoll 的实现细节
至此,我们对 epoll 的本质已经有了一定的了解。但我们还有一个问题,eventpoll 的数据结构是怎样的?
我们可以先思考两个问题:
- 就绪队列 应该用什么数据结构?
- eventpoll 应该用什么数据结构?
1. 就绪列表的数据结构
就绪列表引用着就绪的socket,所以它应能够快速的插入数据。
程序可能随时调用epoll_ctl添加监视socket,也可能随时删除。当删除时,若该socket已经存放在就绪列表中,它也应该被移除。
所以就绪列表应是一种能够快速插入和删除的数据结构。双向链表就是这样一种数据结构,epoll使用双向链表来实现就绪队列(对应上图的rdllist, 这里我觉得单链表也可以)。
2. 索引结构
既然epoll将维护监视队列和进程阻塞分离,也意味着需要有个数据结构来保存所有监视的socket。至少要方便的添加和移除,还要便于搜索,以避免重复添加。红黑树是一种自平衡二叉查找树,搜索、插入和删除时间复杂度都是O(log(N)),效率较好。epoll使用了红黑树作为索引结构(对应上图的rbr)
ps:因为操作系统要兼顾多种功能,以及由更多需要保存的数据,rdlist并非直接引用socket,而是通过epitem间接引用,红黑树的节点也是epitem对象。同样,文件系统也并非直接引用着socket。为方便理解,本文中省略了一些间接结构。
结论
epoll 在 select 和 poll(poll 和 select 基本一样,有少量改进)的基础引入了eventpoll 作为中间层,使用了先进的数据结构,是一种高效的多路复用技术。
参考资料
- 罗培羽知乎专栏
- 《Linux高性能服务器编程》
深入理解 epoll 原理的更多相关文章
- EPOLL原理详解(图文并茂)
文章核心思想是: 要清晰明白EPOLL为什么性能好. 本文会从网卡接收数据的流程讲起,串联起CPU中断.操作系统进程调度等知识:再一步步分析阻塞接收数据.select到epoll的进化过程:最后探究e ...
- node.js学习(三)简单的node程序&&模块简单使用&&commonJS规范&&深入理解模块原理
一.一个简单的node程序 1.新建一个txt文件 2.修改后缀 修改之后会弹出这个,点击"是" 3.运行test.js 源文件 使用node.js运行之后的. 如果该路径下没有该 ...
- Atitit 图像处理 深刻理解梯度原理计算.v1 qc8
Atitit 图像处理 深刻理解梯度原理计算.v1 qc8 1.1. 图像处理 梯度计算 基本梯度 内部梯度 外部梯度 方向梯度1 2. 图像梯度就是图像边缘吗?2 1.1. 图像处理 梯度计算 ...
- 深入理解PHP原理之变量作用域
26 Aug 08 深入理解PHP原理之变量作用域(Scope in PHP) 作者: Laruence( ) 本文地址: http://www.laruence.com/2008/08/26 ...
- 深入理解PHP原理之变量分离/引用
19 Sep 08 深入理解PHP原理之变量分离/引用(Variables Separation) 作者: Laruence( ) 本文地址: http://www.laruence.com/20 ...
- 《深入理解mybatis原理》 MyBatis事务管理机制
MyBatis作为Java语言的数据库框架,对数据库的事务管理是其很重要的一个方面.本文将讲述MyBatis的事务管理的实现机制. 首先介绍MyBatis的事务Transaction的接口设计以及其不 ...
- 《深入理解mybatis原理》 Mybatis初始化机制具体解释
对于不论什么框架而言.在使用前都要进行一系列的初始化,MyBatis也不例外. 本章将通过下面几点具体介绍MyBatis的初始化过程. 1.MyBatis的初始化做了什么 2. MyBatis基于XM ...
- 《深入理解mybatis原理》 MyBatis的架构设计以及实例分析
作者博客:http://blog.csdn.net/u010349169/article/category/2309433 MyBatis是目前非常流行的ORM框架,它的功能很强大,然而其实现却比较简 ...
- 轻松理解Redux原理及工作流程
轻松理解Redux原理及工作流程 Redux由Dan Abramov在2015年创建的科技术语.是受2014年Facebook的Flux架构以及函数式编程语言Elm启发.很快,Redux因其简单易学体 ...
- 深入理解mybatis原理, Mybatis初始化SqlSessionFactory机制详解(转)
文章转自http://blog.csdn.net/l454822901/article/details/51829785 对于任何框架而言,在使用前都要进行一系列的初始化,MyBatis也不例外.本章 ...
随机推荐
- CCRD_TOC_2007_EULAR专辑_1
中信国健临床通讯 EULAR 2007专辑I 目 录 类风湿关节炎 1 TEMPO 研究第一年影像学数据显示:骨侵蚀修复 (repair) 几乎只出现在无关节肿胀或肿胀改善组 van der Heij ...
- Django中多数据库的配置,实现分库分表,主从复制,读写分离
在django项目中, 一个工程中存在多个APP应用很常见. 有时候希望不同的APP连接不同的数据库,这个时候需要建立多个数据库连接. 1. 修改项目的 settings 配置 在 settings. ...
- python路径含空格导致打开文件报错
2023.02.14更新: python中使用os.listdir不行,但是可以用os.walk,可以绕过空格的问题. 在windows中总有奇怪的问题,比如路径或文件名带空格,打开文件就会报错. 一 ...
- js中各种事件监听
html.push('<input type="button" id="autocount_' + sysTime + '" class="la ...
- k8s之 pod调度
案例:确保Pod分配到具有SSD硬盘的节点上 第一步:给节点添加标签 格式:kubectl label nodes <node-name> <label-key>=<la ...
- 查看git的用户名和密码
转载自:https://www.cnblogs.com/xihailong/p/13354628.html 一.查看查看用户名 :git config user.name查看密码: git confi ...
- js 字符串中提取ip地址
方法1: var reg = new RegExp(/\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}/);var str = 'http://172.38.172.10:8000 ...
- 069_VisualForce Ajax 更多用法解读02
一.同步调用的异常处理:AJAX Toolkit try catch... <html> <head> <script src="/soap/ajax/44. ...
- 《Toward Fast, Flexible, and Robust Low-Light Image Enhancement》
1.(23条消息) 图像增强评价标准EME和matlab代码_eme指标_zhonglingyuxiuYYX的博客-CSDN博客 2.nn.moduleList 3.LOE:lightness ord ...
- flex_bison
flex_bison flex flex词法分析器,可以利用正则表达式来生成匹配相应字符串的C语言代码,其语法格式基本同Lex相同.单词的描述称为模式(Lexical Pattern),模式一般用正规 ...