nginx的进程模型

nginx采用的也是大部分http服务器的做法，就是master,worker模型，一个master进程管理站个或者多个worker进程，基本的事件处理都是放在woker中，master负责一些全局初始化，以及对worker的管理。

在nginx中master和worker的通信是通过socketpair来实现的，每次fork完一个子进程之后，将这个子进程的socketpaire句柄传递给前面已经存在的子进程，这样子进程之间也就可以通信了。

nginx中fork子进程是在ngx_spawn_process中进行的：

第一个参数是全局的配置，第二个参数是子进程需要执行的函数，第三个参数是proc的参数。第四个类型。

1. ngx_pid_t
2. ngx_spawn_process(ngx_cycle_t *cycle, ngx_spawn_proc_pt proc, void *data,
3. char *name, ngx_int_t respawn)

这个函数主要的任务就是：

1 有一个ngx_processes全局数组，包含了所有的存货的子进程，这里会fork出来的子进程放入到相应的位置。并设置这个进程的相关属性。

2 创建socketpair，并设置相关属性。

3 在子进程中执行传递进来的函数。

在看详细代码之前，我们先来看几个主要的数据结构：

首先是进程结构，这个结构体表示了一个进程。包含了它的id状态，channel等等。

1. typedef struct {
2. ///进程id
3. ngx_pid_t           pid;
4. ///进程的退出状态(主要在waitpid中进行处理).
5. int                 status;
6. ///进程channel(也就是通过socketpair创建的两个句柄)
7. ngx_socket_t        channel[2];
8. ///进程的执行函数（也就是每次spawn，子进程所要执行的那个函数).
9. ngx_spawn_proc_pt   proc;
10. void               *data;
11. char               *name;
12. ///进程的几个状态。
13. unsigned            respawn:1;
14. unsigned            just_respawn:1;
15. unsigned            detached:1;
16. unsigned            exiting:1;
17. unsigned            exited:1;
18. } ngx_process_t;

下面我们来看详细的代码。

先来看第一部分：

1. //全局的进程表，保存了存活的子进程。
2. ngx_process_t    ngx_processes[NGX_MAX_PROCESSES];
3. ...................................
4. u_long     on;
5. ngx_pid_t  pid;
6. ///表示将要fork的子进程在ngx_processes中的位置，
7. ngx_int_t  s;
8. ///首先，如果传递进来的类型大于0,则就是已经确定这个进程已经退出，我们就可以直接确定slot。
9. if (respawn >= 0) {
10. s = respawn;
11. } else {
12. ///遍历ngx_processess，从而找到空闲的slot，从而等会fork完毕后,将子进程信息放入全局进程信息表的相应的slot。
13. for (s = 0; s < ngx_last_process; s++) {
14. if (ngx_processes[s].pid == -1) {
15. break;
16. }
17. }
18. ///到达最大进程限制报错。
19. if (s == NGX_MAX_PROCESSES) {
20. ngx_log_error(NGX_LOG_ALERT, cycle->log, 0,
21. "no more than %d processes can be spawned",
22. NGX_MAX_PROCESSES);
23. return NGX_INVALID_PID;
24. }
25. }

接下来新建一对socketpair句柄，然后初始化相关属性。

1. ///如果类型为NGX_PROCESS_DETACHED，则说明是热代码替换(热代码替换也是通过这个函数进行处理的)，因此不需要新建socketpair。
2. if (respawn != NGX_PROCESS_DETACHED) {
3. /* Solaris 9 still has no AF_LOCAL */
4. ///建立socketpair
5. if (socketpair(AF_UNIX, SOCK_STREAM, 0, ngx_processes[s].channel) == -1)
6. {
7. ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
8. "socketpair() failed while spawning \"%s\"", name);
9. return NGX_INVALID_PID;
10. }
11. 。。。。。。。。。。。。。。。。。。。。。。。。。。。。
12. ///设置非阻塞模式
13. if (ngx_nonblocking(ngx_processes[s].channel[0]) == -1) {
14. ........................................................
15. }
16. if (ngx_nonblocking(ngx_processes[s].channel[1]) == -1) {
17. ........................................
18. }
19. ///打开异步模式
20. on = 1;
21. if (ioctl(ngx_processes[s].channel[0], FIOASYNC, &on) == -1) {
22. .................................................
23. }
24. ///设置异步io的所有者
25. if (fcntl(ngx_processes[s].channel[0], F_SETOWN, ngx_pid) == -1) {
26. ..............................................
27. }
28. ///当exec后关闭句柄。
29. if (fcntl(ngx_processes[s].channel[0], F_SETFD, FD_CLOEXEC) == -1) {................................................
30. }
31. if (fcntl(ngx_processes[s].channel[1], F_SETFD, FD_CLOEXEC) == -1) {
32. 。。。。。。。。。。。。。。。。。。。。。。。。。。
33. }
34. ///设置当前的子进程的句柄
35. ngx_channel = ngx_processes[s].channel[1];
36. } else {
37. ngx_processes[s].channel[0] = -1;
38. ngx_processes[s].channel[1] = -1;
39. }

接下来就是fork子进程，并设置进程相关参数。

1. ///设置进程在进程表中的slot。
2. ngx_process_slot = s;
3. pid = fork();
4. switch (pid) {
5. case -1:
6. ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
7. "fork() failed while spawning \"%s\"", name);
8. ngx_close_channel(ngx_processes[s].channel, cycle->log);
9. return NGX_INVALID_PID;
10. case 0
11. ///子进程，因此执行传递进来的子进程的函数
12. ngx_pid = ngx_getpid();
13. proc(cycle, data);
14. break;
15. default:
16. break;
17. }
18. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "start %s %P", name, pid);
19. ngx_processes[s].pid = pid;
20. ngx_processes[s].exited = 0;
21. ///如果大于0,则说明我们确定了重启的子进程，因此下面的初始化就用已死的子进程的就够了。
22. if (respawn >= 0) {
23. return pid;
24. }
25. ///开始初始化进程结构。
26. ngx_processes[s].proc = proc;
27. ngx_processes[s].data = data;
28. ngx_processes[s].name = name;
29. ngx_processes[s].exiting = 0;
30. ///设置相关状态。
31. switch (respawn) {
32. case NGX_PROCESS_RESPAWN:
33. ngx_processes[s].respawn = 1;
34. ngx_processes[s].just_respawn = 0;
35. ngx_processes[s].detached = 0;
36. break;
37. case NGX_PROCESS_JUST_RESPAWN:
38. ngx_processes[s].respawn = 1;
39. ngx_processes[s].just_respawn = 1;
40. ngx_processes[s].detached = 0;
41. break;
42. case NGX_PROCESS_DETACHED:
43. ngx_processes[s].respawn = 0;
44. ngx_processes[s].just_respawn = 0;
45. ngx_processes[s].detached = 1;
46. break;
47. }
48. if (s == ngx_last_process) {
49. ngx_last_process++;
50. }
51. return pid;

这里有个问题，那就是后面fork的子进程如何来让前面已经fork的子进程得到自己的进程相关信息呢。在nginx中是每次新的子进程fork
完毕后，然后父进程此时将这个子进程id，以及流管道的句柄channel[0]传递给前面的子进程。这样子进程之间也可以通信了。

先来看相关的数据结构：

1. ///封装了父子进程之间传递的信息。
2. typedef struct {
3. ///对端将要做得命令。
4. ngx_uint_t  command;
5. ///当前的子进程id
6. ngx_pid_t   pid;
7. ///在全局进程表中的位置
8. ngx_int_t   slot;
9. ///传递的fd
10. ngx_fd_t    fd;
11. } ngx_channel_t;

接下来来看代码：

1. static void
2. ngx_start_worker_processes(ngx_cycle_t *cycle, ngx_int_t n, ngx_int_t type)
3. {
4. ngx_int_t      i, s;
5. ngx_channel_t  ch;
6. ....................................
7. ///传递给其他子进程的命令
8. ch.command = NGX_CMD_OPEN_CHANNEL;
9. ///这里n，就是从配置文件中读取的，需要几个子进程。
10. for (i = 0; i < n; i++) {
11. cpu_affinity = ngx_get_cpu_affinity(i);
12. ///这个函数刚才介绍过了。就是fork子进程。
13. ngx_spawn_process(cycle, ngx_worker_process_cycle, NULL,
14. "worker process", type);
15. ///初始化channel，ngx_process_slot这个我们在上面的spawn函数中已经赋值完毕，就是当前子进程的位置。
16. ch.pid = ngx_processes[ngx_process_slot].pid;
17. ch.slot = ngx_process_slot;
18. ch.fd = ngx_processes[ngx_process_slot].channel[0];
19. ///遍历整个进程表
20. for (s = 0; s < ngx_last_process; s++) {
21. ///遇到非存活的进程就跳过。
22. if (s == ngx_process_slot
23. || ngx_processes[s].pid == -1
24. || ngx_processes[s].channel[0] == -1)
25. {
26. continue;
27. }
28. ngx_log_debug6(NGX_LOG_DEBUG_CORE, cycle->log, 0,
29. "pass channel s:%d pid:%P fd:%d to s:%i pid:%P fd:%d",
30. ch.slot, ch.pid, ch.fd,
31. s, ngx_processes[s].pid,
32. ngx_processes[s].channel[0]);
33. /* TODO: NGX_AGAIN */
34. ///然后传递这个channel给其他子进程(主要是传递句柄)。
35. ngx_write_channel(ngx_processes[s].channel[0],
36. &ch, sizeof(ngx_channel_t), cycle->log);
37. }
38. }
39. }

而在子进程中是如何处理的呢，子进程的管道可读事件捕捉函数是ngx_channel_handler(ngx_event_t *ev)，在这个函数中，会读取mseeage，然后解析，并根据不同的命令做不同的处理，来看它的代码片断：

1. ///这里ch为读取的channel。
2. switch (ch.command) {
3. case NGX_CMD_QUIT:
4. ngx_quit = 1;
5. break;
6. case NGX_CMD_TERMINATE:
7. ngx_terminate = 1;
8. break;
9. case NGX_CMD_REOPEN:
10. ngx_reopen = 1;
11. break;
12. case NGX_CMD_OPEN_CHANNEL:
13. ///可以看到操作很简单，就是对ngx_processes全局进程表进行赋值。
14. ngx_processes[ch.slot].pid = ch.pid;
15. ngx_processes[ch.slot].channel[0] = ch.fd;
16. break;
17. case NGX_CMD_CLOSE_CHANNEL:
18. .....................................................
19. if (close(ngx_processes[ch.slot].channel[0]) == -1) {
20. ngx_log_error(NGX_LOG_ALERT, ev->log, ngx_errno,
21. "close() channel failed");
22. }
23. ngx_processes[ch.slot].channel[0] = -1;
24. break;
25. }

接下来详细的来看worker和master如何进行交互，以及master如何同外部进行交互(比如热代码替换，reconfig这些操作)。

在nginx中，worker和master的交互，我们前面已经提过了，就是通过流管道以及信号，而master与外部的交互是通过信号来进行的。

在看master得主循环之前，我们先来看信号处理和函数，在nginx中，父子进程的信号处理函数是相同的，只不过有一个变量在master和worker中赋值不同，以此来区分。

在信号处理中，通过设置相应的标志变量，从而在主循环中，判断这些变量，从而做相应的操作。

1. ///定义的信号值。
2. #define NGX_SHUTDOWN_SIGNAL      QUIT
3. #define NGX_TERMINATE_SIGNAL     TERM
4. #define NGX_NOACCEPT_SIGNAL      WINCH
5. #define NGX_RECONFIGURE_SIGNAL   HUP
6. #if (NGX_LINUXTHREADS)
7. #define NGX_REOPEN_SIGNAL        INFO
8. #define NGX_CHANGEBIN_SIGNAL     XCPU
9. #else
10. #define NGX_REOPEN_SIGNAL        USR1
11. #define NGX_CHANGEBIN_SIGNAL     USR2
12. #endif
13. void
14. ngx_signal_handler(int signo)
15. {
16. char            *action;
17. ngx_int_t        ignore;
18. ngx_err_t        err;
19. ngx_signal_t    *sig;
20. ignore = 0;
21. err = ngx_errno;
22. ///首先得到当前的信号值
23. for (sig = signals; sig->signo != 0; sig++) {
24. if (sig->signo == signo) {
25. break;
26. }
27. }
28. ngx_time_update(0, 0);
29. action = "";
30. ///这里ngx_process在master和worker中赋值不同。
31. switch (ngx_process) {
32. ///master中。
33. case NGX_PROCESS_MASTER:
34. case NGX_PROCESS_SINGLE:
35. switch (signo) {
36. case ngx_signal_value(NGX_SHUTDOWN_SIGNAL):
37. ///如果接受到quit信号，则准备退出进程。
38. ngx_quit = 1;
39. action = ", shutting down";
40. break;
41. case ngx_signal_value(NGX_TERMINATE_SIGNAL):
42. case SIGINT:
43. ///sigint信号，则
44. ngx_terminate = 1;
45. action = ", exiting";
46. break;
47. case ngx_signal_value(NGX_NOACCEPT_SIGNAL):
48. ///winch信号，停止接受accept。
49. ngx_noaccept = 1;
50. action = ", stop accepting connections";
51. break;
52. case ngx_signal_value(NGX_RECONFIGURE_SIGNAL):
53. ///sighup信号用来reconfig
54. ngx_reconfigure = 1;
55. action = ", reconfiguring";
56. break;
57. case ngx_signal_value(NGX_REOPEN_SIGNAL):
58. ///用户信号，用来reopen
59. ngx_reopen = 1;
60. action = ", reopening logs";
61. break;
62. ///热代码替换.
63. case ngx_signal_value(NGX_CHANGEBIN_SIGNAL):
64. if (getppid() > 1 || ngx_new_binary > 0) {
65. /*
66. * Ignore the signal in the new binary if its parent is
67. * not the init process, i.e. the old binary's process
68. * is still running.  Or ignore the signal in the old binary's
69. * process if the new binary's process is already running.
70. */
71. ///上面注释很详细，我就不解释了。。
72. action = ", ignoring";
73. ignore = 1;
74. break;
75. }
76. ///正常情况下，需要热代码替换。设置标志位
77. ngx_change_binary = 1;
78. action = ", changing binary";
79. break;
80. case SIGALRM:
81. break;
82. case SIGIO:
83. ngx_sigio = 1;
84. break;
85. case SIGCHLD:
86. ///子进程已退出，设置标记。
87. ngx_reap = 1;
88. break;
89. }
90. break;
91. ///worker的信号处理。worker的比较简单。
92. case NGX_PROCESS_WORKER:
93. switch (signo) {
94. case ngx_signal_value(NGX_NOACCEPT_SIGNAL):
95. ngx_debug_quit = 1;
96. case ngx_signal_value(NGX_SHUTDOWN_SIGNAL):
97. ngx_quit = 1;
98. action = ", shutting down";
99. break;
100. case ngx_signal_value(NGX_TERMINATE_SIGNAL):
101. case SIGINT:
102. ngx_terminate = 1;
103. action = ", exiting";
104. break;
105. case ngx_signal_value(NGX_REOPEN_SIGNAL):
106. ngx_reopen = 1;
107. action = ", reopening logs";
108. break;
109. ...............................................
110. }
111. break;
112. }
113. ................................................
114. ///最终如果信号是sigchld，我们收割僵尸进程(用waitpid)。
115. if (signo == SIGCHLD) {
116. ngx_process_get_status();
117. }
118. ngx_set_errno(err);
119. }

先来看master的主循环，处理其实很简单，就是在循环过程中判断相应的条件，然后进入相应的处理。这里的相关标志位基本都是在上面的信号处理函数中赋值的。：

1. for ( ;; ) {
2. ///delay用来等待子进程退出的时间，由于我们接受到SIGINT信号后，我们需要先发送信号给子进程，而子进程的退出需要一定的时间，超时时如果子进程已退出，我们父进程就直接退出，否则发送sigkill信号给子进程(强制退出),然后再退出。
3. if (delay) {
4. delay *= 2;
5. ..............................................
6. itv.it_interval.tv_sec = 0;
7. itv.it_interval.tv_usec = 0;
8. itv.it_value.tv_sec = delay / 1000;
9. itv.it_value.tv_usec = (delay % 1000 ) * 1000;
10. ///设置定时器。
11. if (setitimer(ITIMER_REAL, &itv, NULL) == -1) {
12. ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
13. "setitimer() failed");
14. }
15. }
16. ///延时，等待定时器。
17. sigsuspend(&set);
18. ngx_time_update(0, 0);
19. ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, "wake up");
20. ///ngx_reap为1,说明有子进程已经退出。
21. if (ngx_reap) {
22. ngx_reap = 0;
23. ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, "reap children");
24. ///这个里面处理退出的子进程(有的worker异常退出，这时我们就需要重启这个worker )，如果所有子进程都退出则会返回0.
25. live = ngx_reap_children(cycle);
26. }
27. ///如果没有存活的子进程，并且收到了ngx_terminate或者ngx_quit信号，则master退出。
28. if (!live && (ngx_terminate || ngx_quit)) {
29. ngx_master_process_exit(cycle);
30. }
31. ///收到了sigint信号。
32. if (ngx_terminate) {
33. ///设置延时。
34. if (delay == 0) {
35. delay = 50;
36. }
37. if (delay > 1000) {
38. ///如果超时，则强制杀死worker
39. ngx_signal_worker_processes(cycle, SIGKILL);
40. } else {
41. ///负责发送sigint给worker，让它退出。
42. ngx_signal_worker_processes(cycle,
43. ngx_signal_value(NGX_TERMINATE_SIGNAL));
44. }
45. continue;
46. }
47. ///收到quit信号。
48. if (ngx_quit) {
49. ///发送给worker quit信号
50. ngx_signal_worker_processes(cycle,
51. ngx_signal_value(NGX_SHUTDOWN_SIGNAL));
52. ls = cycle->listening.elts;
53. for (n = 0; n < cycle->listening.nelts; n++) {
54. if (ngx_close_socket(ls[n].fd) == -1) {
55. ngx_log_error(NGX_LOG_EMERG, cycle->log, ngx_socket_errno,
56. ngx_close_socket_n " %V failed",
57. &ls[n].addr_text);
58. }
59. }
60. cycle->listening.nelts = 0;
61. continue;
62. }
63. ///收到需要reconfig的信号
64. if (ngx_reconfigure) {
65. ngx_reconfigure = 0;
66. ///判断是否热代码替换后的新的代码还在运行中(也就是还没退出当前的master)。如果还在运行中，则不需要重新初始化config。
67. if (ngx_new_binary) {
68. ngx_start_worker_processes(cycle, ccf->worker_processes,
69. NGX_PROCESS_RESPAWN);
70. ngx_start_cache_manager_process(cycle, NGX_PROCESS_RESPAWN);
71. ngx_noaccepting = 0;
72. continue;
73. }
74. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "reconfiguring");
75. ///重新初始化config，并重新启动新的worker
76. cycle = ngx_init_cycle(cycle);
77. if (cycle == NULL) {
78. cycle = (ngx_cycle_t *) ngx_cycle;
79. continue;
80. }
81. ngx_cycle = cycle;
82. ccf = (ngx_core_conf_t *) ngx_get_conf(cycle->conf_ctx,
83. ngx_core_module);
84. ngx_start_worker_processes(cycle, ccf->worker_processes,
85. NGX_PROCESS_JUST_RESPAWN);
86. ngx_start_cache_manager_process(cycle, NGX_PROCESS_JUST_RESPAWN);
87. live = 1;
88. ngx_signal_worker_processes(cycle,
89. ngx_signal_value(NGX_SHUTDOWN_SIGNAL));
90. }
91. ///这个标志没弄懂有什么意义。代码里面是当热代码替换后，如果ngx_noacceptig被设置了，则设置这个标志位(难道意思是热代码替换前要先停止当前的accept连接？)
92. if (ngx_restart) {
93. ngx_restart = 0;
94. ngx_start_worker_processes(cycle, ccf->worker_processes,
95. NGX_PROCESS_RESPAWN);
96. ngx_start_cache_manager_process(cycle, NGX_PROCESS_RESPAWN);
97. live = 1;
98. }
99. ///重新打开log
100. if (ngx_reopen) {
101. ngx_reopen = 0;
102. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "reopening logs");
103. ngx_reopen_files(cycle, ccf->user);
104. ngx_signal_worker_processes(cycle,
105. ngx_signal_value(NGX_REOPEN_SIGNAL));
106. }
107. ///热代码替换
108. if (ngx_change_binary) {
109. ngx_change_binary = 0;
110. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "changing binary");
111. ///进行热代码替换，这里是调用execve来执行新的代码。
112. ngx_new_binary = ngx_exec_new_binary(cycle, ngx_argv);
113. }
114. ///接受到停止accept连接，其实也就是worker退出(有区别的是，这里master不需要退出).。
115. if (ngx_noaccept) {
116. ngx_noaccept = 0;
117. ngx_noaccepting = 1;
118. ///给worker发送信号。
119. ngx_signal_worker_processes(cycle,
120. ngx_signal_value(NGX_SHUTDOWN_SIGNAL));
121. }
122. }
123. }

然后来看worker的主循环,worker的比较简单。逻辑和master的很相似：

1. for ( ;; ) {
2. ///ngx_exiting是当收到master的quit命令后，设置为1,然后等待其他资源退出。
3. if (ngx_exiting) {
4. c = cycle->connections;
5. .............................................
6. ///定时器超时则退出worker
7. if (ngx_event_timer_rbtree.root == ngx_event_timer_rbtree.sentinel)
8. {
9. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "exiting");
10. ngx_worker_process_exit(cycle);
11. }
12. }
13. ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, "worker cycle");
14. ngx_process_events_and_timers(cycle);
15. ///收到shutdown命令则worker直接退出
16. if (ngx_terminate) {
17. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "exiting");
18. ngx_worker_process_exit(cycle);
19. }
20. ///收到quit命令
21. if (ngx_quit) {
22. ngx_quit = 0;
23. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0,
24. "gracefully shutting down");
25. ngx_setproctitle("worker process is shutting down");
26. if (!ngx_exiting) {
27. ///关闭socket，然后设置退出标志。
28. ngx_close_listening_sockets(cycle);
29. ngx_exiting = 1;
30. }
31. }
32. ///收到master重新打开log的命令。
33. if (ngx_reopen) {
34. ngx_reopen = 0;
35. ngx_log_error(NGX_LOG_NOTICE, cycle->log, 0, "reopening logs");
36. ngx_reopen_files(cycle, -1);
37. }
38. }