Tomcat 的 Socket 服务器是 Tomcat 作为 Web 容器的基石，它的核心职责是：

1. 在指定端口上监听客户端的连接请求。
2. 接受连接，与客户端建立一个 TCP 通信通道（即 Socket）。
3. 接收客户端发送的 HTTP 请求数据。
4. 将原始的 HTTP 请求交给 Tomcat 的核心处理引擎（Catalina）。
5. 接收引擎处理后的响应数据。
6. 将响应数据通过 Socket 发送回客户端。

下面我们从几个层面来深入解析这个“Socket 服务器”。

核心组件：Connector (连接器)

在 Tomcat 的架构中，负责处理网络 I/O 和协议解析的组件是 Connector，你可以把 Connector 想象成一个“接待员”，专门负责与外界的网络通信。

一个 Tomcat 实例可以配置一个或多个 Connector。

• 一个 HTTP/1.1 Connector，监听 8080 端口，处理普通 HTTP 请求。
• 一个 AJP/1.3 Connector，监听 8009 端口，用于接收来自 Apache 或 Nginx 等 Web 服务器的代理请求。
• 一个 HTTP/2 Connector，提供更高效的二进制协议支持。

我们通常说的“Tomcat Socket 服务器”，其实现主要就封装在 Connector 组件中，特别是其内部的 Endpoint 子组件。

架构演进：从 BIO 到 NIO2

Tomcat 的 Socket 实现经历了几个重要的迭代，每一次都是为了解决性能和可伸缩性问题，理解这个演进过程至关重要。

a) BIO (Blocking I/O) - 阻塞式 I/O

这是最早期、最简单的模型。

• 工作方式:

  1. Tomcat 启动一个主线程（Acceptor），在指定端口 accept() 连接。
  2. 每当有一个新的连接进来,Acceptor 线程就会创建一个新的 Socket 对象。
  3. Acceptor 线程会立即创建一个新的线程（Worker 线程）来处理这个 Socket 的后续所有 I/O 操作（读取请求、解析、处理、写回响应）。
  4. 在这个 Worker 线程的整个生命周期里，它都会被阻塞在 InputStream.read() 方法上，等待客户端数据。

• 优点:

  
  （图片来源网络，侵删）

  模型简单,易于理解和实现。

• 致命缺点:

  • 一个线程只处理一个连接，如果并发量很大（10000 个并发连接），Tomcat 就需要创建 10000 个线程，这会消耗大量内存，并且线程间的上下文切换会非常频繁，导致 CPU 耗尽，性能急剧下降。
  • 线程利用率低，大部分时间里，线程都在等待 I/O，没有做任何 productive 的工作。

BIO 模型只适用于极少数并发量的场景，已经被 Tomcat 官方标记为不推荐使用。

b) NIO (Non-blocking I/O / New I/O) - 非阻塞式 I/O

为了解决 BIO 的问题，Tomcat 从 6.0 版本开始引入了 NIO 模型，并在后续版本中不断完善，成为目前的主流和默认选择。

• 核心思想：

  • 分离 I/O 线程和处理线程。
  • 使用多路复用器 来监控多个 Channel（通道，对应 Socket）的 I/O 事件。

• 核心组件:

  1. Acceptor 线程: 只负责在端口上 accept() 新的连接，并将新的 Socket 封装成一个 Channel 注册到 Poller 的队列中，它不进行任何 I/O 操作，非常高效。
  2. Poller 线程池:
     • 这是 NIO 的核心。Poller 内部持有一个 Selector 对象。
     • Acceptor 将新 Channel 交给 Poller，Poller 将其注册到 Selector 上，并监听其可读事件。
     • Poller 不会自己进行 I/O 读取，而是当某个 Channel 变得可读时（即客户端数据已到达），Poller 会将这个 Channel 封装成一个 SocketProcessor 任务对象，放入一个任务队列中。
  3. Worker 线程池:
     • 这是一个独立的线程池（默认是 Tomcat 线程池）。
     • 线程池中的线程会不断地从 Poller 的任务队列中取出 SocketProcessor 任务。
     • 只有在这个时候，Worker 线程才会真正进行 I/O 读取，从 Channel 中读取请求数据，并交给后续的 Servlet 容器处理。

• 优点:

  • 高并发、低资源：一个 Worker 线程可以在处理完一个请求后，立即从队列中取出下一个任务处理，无需为每个连接都创建一个线程，线程数量由线程池大小决定，通常远小于并发连接数。
  • 线程利用率高：线程在没有任务时处于等待状态，有任务时才被唤醒，避免了 BIO 中线程长时间阻塞的问题。

• 缺点:

  • 实现比 BIO 复杂。
  • 在极高并发下,Poller 的任务队列可能会成为性能瓶颈。

NIO 是目前 Tomcat 的默认模型，在绝大多数场景下都能提供卓越的性能。

c) APR (Apache Portable Runtime) 和 NIO2

• APR:

  • 它不是一个 I/O 模型，而是一组本地库（C 语言库），通过 JNI 调用。
  • 它使用操作系统原生的 I/O 能力（如 Linux 的 epoll，Windows 的 IOCP），性能通常优于 Java NIO。
  • 使用 APR 需要额外安装库文件（tcnative-1.dll / libtcnative-1.so），配置稍显复杂。
  • 在追求极致性能的生产环境中,APR 仍然是一个很好的选择。

• NIO2 (JSR 203 - More New I/O APIs for Java):

  • 也称为 AIO (Asynchronous I/O)，是 Java 7 引入的异步 I/O 模型。
  • 它允许应用程序在 I/O 操作完成时被通知，而不是主动去轮询或阻塞。
  • Tomcat 8 开始支持 NIO2，但相比于成熟的 NIO，NIO2 的生态系统和社区支持相对较少，且在某些场景下性能提升并不总是明显。
  • NIO 仍然是 Tomcat 的默认和首选。

NIO 模型的详细工作流程（以一次请求为例）

为了让你更清晰地理解,我们走一遍 NIO 处理一个 HTTP 请求的完整流程：

1. 监听与接受：

   • Acceptor 线程在 8080 端口调用 ServerSocketChannel.accept()，这是一个非阻塞操作。
   • 一个客户端（如浏览器）发起连接，accept() 返回一个 SocketChannel。
   • Acceptor 线程将这个 SocketChannel 设置为非阻塞模式，并将其封装成一个 NioEndpoint 内部的对象，然后将其放入 Poller 的事件队列中。

2. 轮询与就绪：

   • Poller 线程（或 Selector）会从队列中取出这个 SocketChannel。
   • Poller 将 SocketChannel 注册到 Selector 上，监听 SelectionKey.OP_READ 事件。
   • Poller 线程会不断轮询 Selector，检查哪些 Channel 的 I/O 事件已经就绪。

3. 任务派发：

   • 当某个 SocketChannel 变得可读（客户端数据到达网卡并拷贝到内核缓冲区），Selector 就会检测到这个事件。
   • Poller 线程会为这个就绪的 SocketChannel 创建一个 SocketProcessor 任务对象。
   • SocketProcessor 对象被放入一个共享的阻塞队列中。

4. 请求处理：

   • Tomcat 线程池（Worker 线程）中的一个空闲线程从阻塞队列中获取 SocketProcessor 任务。
   • 线程被唤醒,开始执行任务，它才真正调用 SocketChannel.read() 方法，从内核缓冲区读取请求数据到用户空间。
   • 读取到完整的 HTTP 请求行、请求头和请求体后，线程将原始字节流解析成 HttpServletRequest 和 HttpServletResponse 对象。
   • 调用 CoyoteAdapter，将请求传递给 Engine、Host、Context、Wrapper 等 Servlet 容器组件进行处理。
   • 调用你的 Servlet 代码。

5. 响应返回：

   • 你的 Servlet 处理完毕，将响应数据写入 HttpServletResponse。
   • Worker 线程将响应数据通过 SocketChannel.write() 方法写回给客户端。
   • 处理完成,Worker 线程回到线程池中，等待下一个任务。

如何配置和选择？

在 Tomcat 的 server.xml 中，你可以轻松地配置不同的连接器模式。

a) NIO (默认)

<Connector port="8080" protocol="HTTP/1.1"
           connectionTimeout="20000"
           redirectPort="8444"
           executor="tomcatThreadPool" <!-- 使用自定义线程池 -->
           acceptCount="100"           <!-- 等待队列长度 -->
           maxThreads="200"            <!-- 最大线程数 (NIO下是Worker线程数) -->
           minSpareThreads="20"        /> <!-- 最小空闲线程数 -->

• protocol="HTTP/1.1" 默认就是使用 NIO 模式。
• executor 属性可以让你自定义线程池，而不是使用 Tomcat �的。

b) APR

1. 下载库文件：从 Tomcat 官网下载 tomcat-native 组件，解压后将 tcnative-1.dll (Windows) 或 libtcnative-1.so (Linux) 放到 Tomcat 的 bin 目录下，并确保系统能找到（或设置 java.library.path）。
2. 修改配置：

   <Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
              connectionTimeout="20000"
              redirectPort="8444" />

   • protocol 属性明确指定为 Http11AprProtocol。

c) NIO2

<Connector port="8080" protocol="org.apache.coyote.http11.Http11Nio2Protocol"
           connectionTimeout="20000"
           redirectPort="8444" />

• protocol 属性指定为 Http11Nio2Protocol。

对于绝大多数用户来说,直接使用 Tomcat 的默认 NIO 模型就是最佳选择，它提供了极高的性能和可伸缩性，并且无需任何额外的配置，只有在对性能有极致要求，并且有能力维护本地库环境的团队，才会考虑使用 APR，而 NIO2 则是一个未来的发展方向，但目前还不是主流。