深入理解Connector

上一篇主要是从各个容器的生命周期的角度讲了一下整个tomcat的运行流程，说明了各个容器之间的调用关系。但并没有太过详细的说明每一个组件并区分他们。

下面从功能的角度上详细的分析一下connector连接器。（下面的介绍会弱化一些调用关系，如果想知道各个组件之间的具体调用关系以及生命周期，可以查看上一篇文章。）

注：本篇是以tomcat8为例，不同版本的tomcat结构都有所不同。

首先，tomcat中一个Connector对应了一个请求，所以service容器中可以同时有多个connector对象。

Connector是使用protocolHandler来处理具体的请求（不同的protocolHandler代表不同的连接类型）。

而每种protocolHandler都使用了各自的3个重要组件来具体处理请求：

Endpoint：用于处理底层Socket连接（nio和nio2实现的是TCP/IP协议，Apr实现的是SSL/TLS协议）

Processer：用于将Endpoint接收到的Socket封装成Request（实现HTTP协议或websocket协议或AJP协议）

Adapter：用于将封装好的Request交给Container（将请求适配到servlet容器）

protocolHandler

每一个connector中实际上是使用protocolHandler来处理请求，protocolHandler接口是所有protocol类的顶层接口。

ProtocolHandler结构如下图：

首先，每个protocol的生命周期操作（start和init）是定义在它们的公共顶层抽象类AbstractProtocol中，所以每一个protocol的生命周期运行方式是一样的。

之后可以看出Protocol实际上分为了两种，即根据请求协议的不同：HTTP1.1和AJP1.3，有两种对应的ProtocolHandler。

这里说一下AJP协议：

AJP主要用于Tomcat的负载均衡，如nginx可以通过AJP协议向tomcat发送请求。

他存在以下优点：

1、发送的内容都是高度压缩的，所以流量消耗很少。

2、WEB服务器和SERVLET容器建立的是持久性tcp连接

3、性能比http更好（cpu使用率更低，时间略微更快）

缺点：

1、由于是持久连接，可能会导致连接数过多。

由图中可以看到，protocol有六个具体实现类，根据协议不同，各有两个。

每个子类之间的差距主要就是调用的endpoint不同。

每种协议的protocol都能选择三种endpoint（可以根据他们的名字来判断，如AjpAprProtocol和Http11AprProtocol调用的都是AprEndpoint）

下面主要讲一下Endpoint组件

Endpoint

endpoint组件结构如图所示，其中具体是执行方法startInternal()由三个子类自己进行覆写。

可以看出endpoint一共有三种，nio、nio2、apr。这三种其实都是不同的io方式，区别如下：

nio：

传统的java.io.*包是阻塞式的，即每一个请求都要占用一个线程，当并发数高时很占用资源。

而nio是非阻塞io，可以用少量的线程来处理大量的请求。

nio与传统io主要是在概念上不同，nio有三个新概念：Buffers/Channels/Selectors，

Channels是输入与读取的管道，其读写粒度为Block（Block的抽象就是Buffer，Buffer可以看成是一个缓冲区），所以用户从Channels管道中读到的数据实际上是Buffer，如果想往管道里添加数据，也得先将数据装到Buffer中。

Selector(选择器，多路复用器)：轮询所有的注册通道，根据通道状态执行相关操作。状态包括：Connect，Accept，Read，Write。

在server端会创建一个Selector多路复用器，所有的客户端想和服务器建立连接都要创建一个SocketChannel注册到Selector上，然后Selector使用一个线程轮询着检测所有的注册的SocketChannel的状态，根据每个不同的通道的状态执行相关的代码。NIO的本质就是避免原始的TCP建立连接使用三次握手的操作，减少连接的开销。

nio2：

nio与nio2相比，nio被称为同步非阻塞，而nio2被称为异步非阻塞。可以看出nio2的关注点在异步上。

这种模式下用户只需要发起一个io然后返回，等IO操作真正的完成以后，应用程序会得到IO操作完成的通知，此时用户进程只需要对数据进行处理就好了，不需要进行实际的IO读写操作，因为真正的IO读取或者写入操作已经由内核完成了。

一个IO操作其实分成了两个步骤：发起IO请求和实际的IO操作。

同步IO和异步IO的区别就在于第二个步骤是否阻塞，如果实际的IO读写阻塞请求进程，那么就是同步IO。

阻塞IO和非阻塞IO的区别在于第一步，发起IO请求是否会被阻塞，如果阻塞直到完成那么就是传统的阻塞IO，如果不阻塞，那么就是非阻塞IO。

apr：

apr简单理解，就是从操作系统级别解决异步IO问题，大幅度的提高服务器的处理和响应性能， 也是Tomcat运行高并发应用的首选模式。

需要额外安装apr和native。使用了tomcat native技术之后，tomcat在跟操作系统级别的交互方面可以做得更好。

apr中socket的接收实际上是调用的native。

Tomcat-native是tomcat的一个子项目，一部分是用java写的，一部分是c写的。

Tomcat-native可以看做是一个集成包，里面集成了两个东西：openssl，这个是ssl信道的实现，另外一个是高性能的apr网络库（都是c写的）。

以后有机会再深入了解这一块。

Processer

endpoint建立好socket连接后，会将请求继续发送给Processer进行封装成request和response，processer结构图如下：

首先可以看出Processor在抽象类上分为了两类，先说第一种UpgradeProcessorBase。

之前也说过Processor是用来根据应用层协议将socket中的内容封装进request和response中的。

而在protocol组件结构中可以看出，tomcat支持两种应用层协议：AJP1.3和HTTP1.1。

此处的UpgradeProcessorBase是用来处理HTTP的升级协议WebSocket的。

说明一下WebSocket协议：

websocket协议是html5提出的一个规范。

websocket协议最突出的一点是：服务器和客户端可以在规定的时间范围内相互推送消息（而传统的Http协议服务端只能等客户端发送请求后再返回消息）。

websocket协议先通过http发送一条特殊的http请求进行握手后创建一共用于交换数据的TCP连接，之后服务端与客户端的相互推送都是通过此tcp连接进行。

所以第一次的特殊http请求用的还是Http11Processor组件，然后Http11Processor处理之后，如果Socket状态为UPGRADING，那么接下来Endpoint会创建并调用UpgradeProcessorBase来处理。

同理，Http11Processor是用来处理http1.1协议。AjpProcessor是用来处理AJP协议。

接下来比较重要的问题是：processor在什么时候，如何封装的request和response？

创建request和response对象的相关代码如下：

public AbstractProcessor(AbstractEndpoint<?> endpoint) {
    this(endpoint, new Request(), new Response());
}

这是AbstractProcessor的构造函数，也就是说，当子类processor被创建时，就会新建request和response对象。

先说org.apache.coyote.Request

这个Request和我们在servlet中使用的HttpServletRequest不同，这个Request是用来在tomcat内部使用的，里面的很多方法都不希望暴露给开发人员。

所以此处使用了适配器模式，用户实际上操作的是org.apache.catalina.connector.Request

之后调用adapter的service(this.request, this.response)，将request和response传给adapter

adapter

adapter接口只有一个实现类，该实现类不在org.apache.coyote包中（之前的组件都在该包中），而是org.apache.catalina.connector包中的coyoteAdapter类。

至此，Adapter的service方法获取到request和response后调用Container管道中的invoke方法继续处理请求。

传输的代码是：

connector.getService().getContainer().getPipeline().getFirst().invoke(request, response);

即：先从Connector中获取service，然后从service中获取Container。接着再获取管道，再获取管道的第一个值Value，最后调用invoke()方法执行请求。