swoole中使用task进程异步的处理耗时任务
我们知道,swoole中有两大进程,分别是 master 主进程和 manager 管理进程。
其中 master 主进程中会有一个主 reactor 线程和多个 reactor 线程,主要的作用就是用来维护TCP连接,处理网络IO,收发数据。
而 manager 管理进程,作用则是 fork 和管理 worker 和 task 进程。
worker 进程的作用是接收 reactor 线程传递的数据,并处理数据,返回处理结果给 reactor 线程。
task 进程的作用是处理一些相对耗时的任务,task 与 worker 进程是独立的,不会影响 worker 进程处理客户端的请求。
一、task 进程的应用场景:
1、相对耗时的邮件群发,比如某某活动,需要给100W用户发送活动邮件。
2、推送某些大V的动态,比如某大V发了条新消息,粉丝需要及时获取到该动态。
二、worker 与 task 的相互关系:
1、worker 进程中能过调用 task() 来投递任务,task 进程中 通过 onTask 事件来响应投递来的任务。
2、task 进程中 通过 直接返回 或 调用 finish() 来告诉 worker 进程任务处理完毕,worker 进程中 通过 onFinish 事件响应任务完成。
三、使用 task 的前题:
1、在 Server 中 配置 task_worker_num 数量。
2、设置 Server 的 onTask 和 onFinish 事件回调函数。
四、简单的使用task进行累加和的计算例子
<?php $server = new swoole_server('0.0.0.0', 6666); $server->set([
'worker_num' => 2,
'task_worker_num' => 16,
]); $server->on('WorkerStart', function ($server, $worker_id) {
//注意这里,我们通过taskworker来判断是task进程还是worker进程
//需要在worker进程中调用task(),不然会报出警告
//这里会执行两遍,因为我们设置了worker_num数为2
if (!$server->taskworker) {
echo '投递任务开始...', PHP_EOL;
//投递32个累加计算任务给16个task进程
for ($ix = 0; $ix < 32; $ix++) {
//注意这里的投递是异步的
$server->task([mt_rand(1, 100), mt_rand(1000, 9999)]);
}
echo '投递任务结束...', PHP_EOL;
}
}); //server服务必须要有onReceive回调
$server->on('Receive', function ($server, $fd, $reactor_id, $data) { }); //注意,task进程完全是同步阻塞模式的
$server->on('Task', function ($server, $task_id, $src_worker_id, $data) {
echo "task {$task_id} 进程正在工作...", PHP_EOL;
$start = $data[0];
$end = $data[1];
$total = 0;
for (; $start <= $end; $start++) {
$total += $start;
}
echo "task {$task_id} 进程完成工作...", PHP_EOL;
return $total;
}); $server->on('Finish', function ($server, $task_id, $data) {
echo "task {$task_id} 进程处理完成, 结果为 {$data}", PHP_EOL;
}); $server->start();
注意,我们通过调用 task() 往任务池中投递任务,swoole 底层会轮询的投递任务到各个 task 进程。
当你投递任务的数量超过 onTask 的处理速度,这会导致任务池被塞满,进而导致 worker 进程发生阻塞,所以需合理设置 task_worker_num 数量和处理速度之间的关系。
当然,我们也可以人为的把任务投递到指定的 task 进程。task() 函数的第二个参数可以指定要投递的 task 进程ID,ID范围为 0 到 (task_worker_num - 1)。
五、对任务进行切分,人为控制投递到 task 进程
<?php $server = new swoole_server('0.0.0.0', 6666); $server->set([
'worker_num' => 1,
'task_worker_num' => 10,
]); $server->on('WorkerStart', function ($server, $worker_id) {
//为了方便演示,把worker_num设置为1,这里只会执行一次
if (!$server->taskworker) {
//通过swoole_table共享内存,在不同进程中共享数据
$server->result = new swoole_table(10240);
//用于保存task进程完成数量
$server->result->column('finish_nums', swoole_table::TYPE_INT);
//用于保存最终计算结果
$server->result->column('result', swoole_table::TYPE_INT);
$server->result->create();
//计算1000的累加和,并把计算任务分配到10个task进程上
$num = 1000;
$step = $num / $server->setting['task_worker_num'];
for ($ix = 0; $ix < $server->setting['task_worker_num']; $ix++) {
$start = $ix * $step;
$server->task([$start, $start + $step], $ix);
}
}
}); $server->on('Receive', function ($server, $fd, $reactor_id, $data) { }); //注意,task进程完全是同步阻塞模式的
$server->on('Task', function ($server, $task_id, $src_worker_id, $data) {
echo "task {$task_id} 进程正在工作... 计算 {$data[0]} - {$data[1]} ", PHP_EOL;
$start = ++$data[0];
$end = $data[1];
$total = 0;
for (; $start <= $end; $start++) {
$total += $start;
}
echo "task {$task_id} 进程完成工作...", PHP_EOL;
return $total;
}); $server->on('Finish', function ($server, $task_id, $data) {
echo "task {$task_id} 进程处理完成, 结果为 {$data}", PHP_EOL;
$server->result->incr('finish_nums', 'finish_nums');
$server->result->set('result', ['result' => $data + $server->result->get('result', 'result')]); if ($server->result->get('finish_nums', 'finish_nums') == $server->setting['task_worker_num']) {
echo "最终计算结果:{$server->result->get('result', 'result')}", PHP_EOL;
}
}); $server->start();
swoole中使用task进程异步的处理耗时任务的更多相关文章
- Swoole异步投递task任务
[使用场景] Swoole的task模块可以用来做一些异步的慢速任务.耗时场景.如webim中发广播,发送邮件等,把这些任务丢给task进程之后,worker进程可以继续处理新的数据请求,任务完成后会 ...
- swoole中退出、异常与错误的处理笔记
关于PHP这方面的知识 可以看 https://www.cnblogs.com/zyf-zhaoyafei/p/6928149.html 进行补课 然后下面记录一下使用swoole的时候需要注意的地方 ...
- Swoole 中使用异步任务
执行异步任务 (Task) # server.php $serv = new Swoole\Server("127.0.0.1", 9501); // 设置异步任务的工作进程数量 ...
- Swoole 中使用 TCP 异步服务器、TCP 协程服务器、TCP 同步客户端、TCP 协程客户端
TCP 异步风格服务器 异步风格服务器通过监听事件的方式来编写程序.当对应的事件发生时底层会主动回调指定的函数. 由于默认开启协程化,在回调函数内部会自动创建协程,遇到 IO 会产生协程调度,异步风格 ...
- [转] android 中 任务、进程和线程的区别
PS: handler的目的是在组件进程中开辟一个线程作为消息的poller,收到消息后可以更新Activity中的控件(特殊的view) 任务.进程和线程 关于Android中的组件和应用, ...
- Linux中的task,process, thread 简介
本文的主要目的是介绍在Linux内核中,task,process, thread这3个名字之间的区别和联系.并且和WINDOWS中的相应观念进行比较.如果你已经很清楚了,那么就不用往下看了. LINU ...
- SV中的task和function
SV中class的properties和methods默认都是public的,但是可以声明为local和protected. 一个properties声明为local类型的,则只在该class中的me ...
- C# 中使用 Task 实现提前加载
介绍一种/两种可以提前做点什么事情的方法. 场景 在UI线程中执行耗时操作,如读取大文件,为了不造成UI卡顿,常采用异步加载的方式,即 async/await . 通常的写法是这样的: private ...
- (转)如何在Linux中统计一个进程的线程数
如何在Linux中统计一个进程的线程数 原文:http://os.51cto.com/art/201509/491728.htm 我正在运行一个程序,它在运行时会派生出多个线程.我想知道程序在运行时会 ...
随机推荐
- 游戏《Minecraft》IntelliJ下模组开发环境ForgeGradle的使用教程
嗯,当你想搞个模组的时候,肯定需要用到FG. 就比如编译模组的时候. 很好,首先下载源码去. files.minecraftforge.net/ 然后打开命令行到源码目录下 执行命令~ Win: ...
- 32(2).层次聚类---BIRCH
BIRCH:Balanced Iterative Reducing and Clustering Using Hierarchies 算法通过聚类特征树CF Tree:Clustering Featu ...
- java1.8 ConcurrentHashMap 详细理解
基于 jdk1.8 Java并发包中提供的一个线程安全且高效的HashMap实现,可以完全替代HashTable,在并发编程的场景中使用频率非常之高.可能大多人只是知道它使用了多个锁代替HashTab ...
- VMware® Workstation 15 Pro 最新版软件安装教程
VMware 15 Pro下载地址: https://pan.baidu.com/s/1ILY2PTqB-BaJMn2hbKO4CA 提取码:vebd 如有问题咨询QQ:2217084817 VMwa ...
- Cypress 之 常用API
.visit() 访问一个远程URL.>>详情参考 Cypress 之 cy.visit() cy.visit(url) cy.visit(url, options) cy.visit(o ...
- C# detect latest .net framework installed on PC
static void GetNetVersionDemo() { using (RegistryKey ndpKey = RegistryKey.OpenBaseKey(RegistryHive.L ...
- jenkins-pipeline里使用docker命令
在jenkins的pipeline里,就是jenkinsfile文件里,如果希望调用docker来构建镜像,需要进行以下配置! tools{}里添加docker是失败的,这个我找了很多资料,最后需要e ...
- springcloud Springboot vue.js Activiti6 前后分离 跨域 工作流 集成代码生成器 shiro权限
1.代码生成器: [正反双向](单表.主表.明细表.树形表,快速开发利器)freemaker模版技术 ,0个代码不用写,生成完整的一个模块,带页面.建表sql脚本.处理类.service等完整模块2. ...
- 前端JS实现一键导入excel表格
前面的文章中已经讲过关于js表格的导出,此文章主要说到的是excel文件如何导入到网页中,并在网页端显示. 代码部分: <!DOCTYPE html> <html> <h ...
- 【实习第一天】odoo开发基础(一)
管理权限 在项目中,有个security文件夹,其中的ir.model.access文件后面带4个参数.分别代表着读,写,创建,删除的操作 想要开启权限需要将其参数调成为1,反之为0.倘若不调整参数, ...