epoll内核原理极简图文解读
wptr33 2024-12-14 15:35 13 浏览
预备知识:内核poll钩子原理
内核函数poll_wait
把当前进程加入到驱动里自定义的等待队列上 当驱动事件就绪后,就可以在驱动里自定义的等待队列上唤醒调用poll的进程
故poll_wait作用:可以让驱动知道 事件就绪的时候唤醒哪些等待进程
钩子poll
内核f_op->poll必须配合驱动自己的等待队列才能用,不然驱动有事件产生后不知道哪些进程调用了poll来等待这个事件
内核f_op->poll要做的事情
- 调用poll_wait,将当前进程放入驱动设备的等待队列上,这样驱动就知道哪些进程在调用poll等待事件
- 检查此时立刻已有的事件(POLLIN\POLLOUT\POLLERR......)并返回掩码表示
f_op->poll是一个非阻塞的操作,立即返回,返回值以掩码形式表示当前已产生的事件集合
举例
snull驱动的例子: snull驱动有两个自定义的等待队列:
wait_queue_head_t inq;//读取进程无数据可读时,在此队列等待wait_queue_head_t outq;//写入进程无空间可写时,在此队列等待
由于snull驱动的读操作read会在读取数据后,唤醒outq队列上的写进程们 且snull驱动的写操作write会在写入数据后,唤醒inq队列上的读进程们
而snull驱动的poll操作:
调用poll_wait将当前进程加入到inq;调用poll_wait将当前进程加入到outq;查看当前有什么事件,返回掩码
假设某进程X调用poll,则进程X会出现在inq与outq等待队列上
之后snull写入时,由于将唤醒inq,故调用poll而进入inq的进程X被唤醒
同理,snull读取时,由于将唤醒outq,故调用poll而进入outq的进程X被唤醒
于是,读、写事件唤醒了调用poll等待事件产生的进程们
白话
进程调用poll就是希望:事件产生的时候告诉我
而事件E产生的时候,认为其对应的等待队列上的进程是等待E事件的进程,于是会唤醒此等待队列上的进程们
所以进程调用poll的时候,poll内部应该把当前进程放到合适的等待队列上
这样事件产生的时候,调用poll的进程由于已经在对应等待队列上了,于是就会被唤醒
预备知识2:等待队列
等待队列对头:wait_queue_head_t 队列的成员:wait_queue_t
wait_queue_t的成员
void *private; /*指向进程描述符task_struct*/ wait_queue_func_t func;//唤醒时调用此函数,即钩子函数 struct list_head task_list;//队列链表指针
一般钩子函数func是内核默认函数default_wake_function,功能就是唤醒了进程
我们也可以在把进程放入等待队列时主动设定钩子函数,使得在唤醒进程时自动执行我们需要的操作
epoll就利用了队列钩子函数:把产生的事件内容copy到rdlist
这样,事件来临时会自动把事件内容放到rdlist中,而不需要我们自己遍历监听句柄们查有谁产生了事件
epoll内核原理1:调用epoll_create1/epoll_create
创建了epoll句柄eventpoll,返回其文件表示的描述符epfd
eventpoll内部有以下关键数据结构:
- rbtree:红黑树,每个被加入到epoll监控的文件事件会创建一个epitem结构,作为rbtree节点
- 使用rbtree的优点:可容纳大量文件事件,方便增删改(O(lgN))
- rdlist:内核链表,用于存放当前产生了期待事件产生的文件句柄们(这里的一个文件句柄可以理解为一个epoll_event)
- wq:当进程调用epoll_wait等待时,进程加入等待队列wq
- poll_wait:eventpoll本身的等待队列,由于eventpoll自己也被当做文件,这个队列用于自己被别人调用select/poll/epoll监听的情况(一般没啥用)
poll_wait在啥时候用呢:
fd = socket(...);efd1 = epoll_create();efd2 = epoll_create();epoll_ctl(efd1, EPOLL_CTL_ADD, fd, ...);epoll_ctl(efd2, EPOLL_CTL_ADD, efd1, ...);
如上,efd1监控fd,而efd2监控了efd1,即嵌套的epoll监控:epoll监控另一个epoll句柄
efd2要监控efd1,将调用efd1的poll函数
回忆之前说过:文件f_op->poll需要配合驱动提供的等待队列
对于epollfd,等待队列就是poll_wait
efd2监听efd1,会调用efd1->f_op->poll,于是把当前进程放到efd1的poll_wait队列上
在epoll的内核实现中,当efd1本身监听到fd事件产生后,会顺便唤醒poll_wait上的进程
于是,“efd1监听到事件” 被通知到efd2。这样,就实现了epollfd被其他多路复用监听了!
故:poll_wait就是用于epoll句柄被另外的多路复用监听的,配合epoll自己的f_op->poll,看起来一般用不到
相关视频推荐
面试中正经“八股文”网络原理tcp/udp,网络编程epoll/reactor
LinuxC++后台服务器开发架构师免费学习地址:C/C++Linux服务器开发/后台架构师【零声教育】-学习视频教程-腾讯课堂
【文章福利】:小编整理了一些个人觉得比较好的学习书籍、视频资料共享在群文件里面,有需要的可以自行添加哦!~点击832218493加入(需要自取)
epoll内核原理2:调用epoll_ctl操作句柄新增监控事件
epoll_ctl:EPOLL_CTL_ADD、EPOLL_CTL_MOD、EPOLL_CTL_DEL新增、修改、删除红黑树上的文件句柄
其中epll_ctl:EPOLL_CTL_ADD新增句柄不仅仅新增红黑树节点,更关键的是对文件开始监控!
与select/poll的本质区别:并不是调用epoll_wait的时候才监听文件,而是EPOLL_CTL_ADD的时候就开始监听了
详细分析EPOLL_CTL_ADD
epoll_ctl(epfd, EPOLL_CTL_ADD, fd, fdevent)核心流程:
1.对要注册的事件event->events追加关心事件:EPOLLERR | EPOLLHUP
回忆epoll的使用中说过:EPOLLERR、EPOLLHUP事件会被自动监听,即使我们没设置
2.创建epitem结构,加入到红黑树中
3.【关键】revent = file->f_op->poll,即调用poll,把当前进程放到文件的等待队列上且设置回调函数ep_poll_callback,返回值revent是文件当前已产生事件掩码
4.检查返回事件:如果revent与关心事件event->events有交集(说明ADD之前事件就准备好了)
(1)把此epitem节点拷贝到rdlist链表中;(就绪句柄拷贝到rdlist)
(2)如果有进程在wq等待队列上(即有进程在调用epoll_wait等待),则唤醒之!
(3)顺便,如果有进程在poll_wait等待队列上(即有进程调用多路复用来监听当前epoll句柄),则唤醒之!
可以看到,如果在EPOLL_CTL_ADD一个文件之前,这个文件关心的事件就已经产生了的话,由于会唤醒wq队列上的进程,则此时EPOLL_CTL_ADD会使得epoll_wait函数从阻塞中返回
4.1~4.3的逻辑与回调函数干的事情一模一样,故图中先不画
简而言之:epoll_ctl_add把当前进程注册到文件等待队列上,并设置回调函数
再说回调函数干了什么
回调函数ep_poll_callback作为等待队列的回调函数:
当文件事件来临,唤醒文件等待队列上进程,ep_poll_callback函数将被自动调用,并把已产生事件们作为其参数传入
回调函数ep_poll_callback核心流程:
ep_poll_callback检查已产生事件与关心事件是否有交集,如果有:
- 将文件的epitem节点拷贝到rdlist链表上(就绪句柄拷贝到rdlist)
- 如果有进程在wq等待队列上(即有进程在调用epoll_wait等待),则唤醒之!
- 顺便,如果有进程在poll_wait等待队列上(即有进程调用多路复用来监听当前epoll句柄),则唤醒之!
简而言之:回调函数把文件句柄拷贝到rdlist,并唤醒epoll_wait等待的进程
epoll内核原理3:当文件有事件来临时:
- 对应的等待队列上的进程被唤醒,执行回调函数ep_poll_callback,并把已产生事件们以参数传入
- call ep_poll_callback
简而言之:事件发生时,文件句柄被自动拷贝到rdlist,调用epoll_wait等待的进程们被唤醒
epol内核原理4:调用epoll_wait等待事件
epoll_wait并不监听文件句柄,而是等待rdlist不空 or 收到信号 or 超时这三种条件后返回
伪代码:
epoll_wait(epfd, events, MAXSIZE, timeout) res = 0 jitimeout = 剩余时间,timeout换算为内核时间 while rdlist为空: 当前进程放到等待队列wq中; while 1: 如果rdlist不空,或者jitimeout = 0超时 break 如果有信号挂起 res = EINTR break jitimeout = schedule_timeout(jitimeout) 让出CPU,唤醒后返回新的剩余时间 如果res = 0,说明rdlist不空 or 超时了 则把rdlist中句柄们调用ep_send_events函数拷贝到events数组中,返回拷贝了几个句柄,赋值给res return res; //res = -1,收到信号; //res = 0,超时 //res > 0, 有res个句柄拷贝到events数组
主要逻辑:
- 不断让出CPU,直到:
- rdlist有数据
- 超时
- 收到信号
2.如果rdlist有数据,则拷贝到用户传入的events数组
简而言之:等待rdlist不空或者超时、信号中断,rdlist不空则把句柄们拷贝到用户空间
PS:拷贝到用户这个环节看边缘触发与水平触发的区别
拷贝句柄函数ep_send_events会先遍历rdlist中每个句柄,对于每个句柄,再次调用poll获取实际事件:
1.如果与关心事件有交集:
如果句柄是水平触发(EPOLLLT),则再次把句柄加入到rdlist;否则从rdlist中删除
于是水平模式下次还会准备好,这就是EPOLLET 与 EPOLLLT的区别原理
2.如果与关心事件无交集,从rdlist中删除之
问题:如此一来看起来水平模式的句柄永远都不断重新加入rdlist,这就成永远都通知了吧? 当事件已经被处理完后,调用poll得到的实际事件与关心事件已经无交集了,于是会被删除的! ep_send_events函数内再次调用poll获取实际事件就是为了EPOLLLT模式而生的,防止其永远加入rdlist! 于是,EPOLLLT读事件 做到了只要有数据就不停通知,直到没数据就不再通知了
———————————————— 版权声明:本文为CSDN博主「LeechanXBlog」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。 原文链接:https://blog.csdn.net/linkedin_38454662/article/details/73337208
- 上一篇:epoll原理详解及epoll反应堆模型
- 下一篇:I/O多路复用之EPOLL
相关推荐
- 文科生自学Python-生成简单的WORD文档
-
--天行健君子以自强不息,地势坤君子以厚德载物,学习编程成就更好的自己--Python语言简洁生动,特别适合文科生学习入门IT世界,用几十行代码就能够做一个完整的爬虫脚本,开发效率杠杠的!短时间内即可...
- 使用Python 爬取京东、淘宝等商品详情页的数据,避开反爬虫机制
-
以下是爬取京东商品详情的Python3代码,以excel存放链接的方式批量爬取。excel如下...
- CV学习笔记(二十四):数据集标注与制作
-
最近在做一些数据标注的工作,虽然标注数据比较枯燥,但这也是每个做算法的工程师升级打怪的必由之路。使用一些合适的工具往往可以事半功倍,效率UP。一:数据标注流程二:数据处理的一些小代码1:重命名当得到这...
- 新手常见的python报错及解决方案(如何理解python报错信息)
-
此篇文章整理新手编写代码常见的一些错误,有些错误是粗心的错误,但对于新手而已,会折腾很长时间才搞定,所以在此总结下我遇到的一些问题。希望帮助到刚入门的朋友们。后续会不断补充。...
- 殊途同归python第5节:一键管理所有文档
-
Python自带的os模块,文件和文件夹的小管家,直接上代码importosa=os.getcwd()#获取当前路径,以字符串形式返回当前的绝对路径。os.chdir("动画片收...
- 1.文件夹的处理 OS(文件夹的操作方法)
-
os.getcwd()#当前目录os.listdir()#列出目录下的文件os.path.join()#拼接路径os.path.split()#拆分路径os.path.exists...
- Linux下分析bin文件的10种方法(linux binary文件)
-
这世界有10种人,一种人懂二进制,另一种人不懂二进制。——鲁迅大家好,我是良许。二进制文件是我们几乎每天都需要打交道的文件类型,但很少人知道他们的工作原理。这里所讲的二进制文件,是指一些可执行文件,...
- 文科生自学Python-pandas交叉透视表降维变换
-
--心有猛虎,细嗅蔷薇,学习编程成就更好的自己--...
- 史上最全!近万字梳理Python 开发必备的 os 模块(建议收藏)
-
点赞、收藏、加关注,下次找我不迷路...
- Undoing a git rebase(undoing a git rebase)
-
技术背景在使用Git进行版本控制时,gitrebase是一个强大的命令,它可以将一个分支的修改合并到另一个分支,使提交历史更加线性。然而,在某些情况下,我们可能需要撤销...
- 【干货】常用的Git命令有哪些?(git 常用命令行入门)
-
Git是一个开源的分布式版本控制系统,它被广泛用于软件开发中。在使用Git进行版本控制时,有许多常用的命令,本文将对这些命令进行详细的介绍。...
- 项目中使用 husky 格式化代码和校验 commit 信息
-
大家好,我是前端西瓜哥。今天我们学习使用husky工具,在commit的时候做一些风格的校验工作,包括commit信息格式化和文件格式化。githook和husky...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
面试官:git pull是哪两个指令的组合?
-
git 执行pull错误如何撤销 git pull fail
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
git pull 之后本地代码被覆盖 解决方案
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git命令之pull git.pull
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)