什么是C10K问题？
C10K 问题，全称是 “Concurrent 10,000 connections problem”。
C10K 问题：指的是单台服务器如何同时处理“ 1 万个并发连接”的挑战。
这个概念最早由 Dan Kegel 在 1999 年提出，当时的网络环境和服务器硬件水平与现在有很大不同。
在那个时代，服务器的硬件资源相对有限，操作系统和网络协议栈的性能也存在瓶颈。
因此，如何让一台服务器能够高效地处理 1 万个并发连接，成为了一个亟待解决的问题。
如何解决C10K问题？
解决 C10K 问题，也就是如何让一台服务器高效处理上万并发连接，核心要点可以归纳为以下四点：
1. I/O 多路复用：
核心作用：
允许一个进程同时监视多个文件描述符（例如，网络连接），并在这些文件描述符中的任何一个就绪（可读、可写）时得到通知。
关键技术：
epoll (Linux)：
在 Linux 系统中，epoll 是高效的 I/O 多路复用机制，它使用事件驱动的方式，仅在文件描述符状态发生变化时才通知应用程序，大大减少了系统开销。
kqueue (BSD, macOS)：
在 BSD 系统（包括 macOS）中，kqueue 提供了类似 epoll 的高效功能。
重要性：
I/O 多路复用是处理大量并发连接的基础，它使服务器能够高效地管理多个连接，而无需为每个连接创建单独的线程或进程。
2. 异步非阻塞 I/O
核心理念：
当应用程序发起 I/O 操作时，它不会等待操作完成，而是立即返回。当 I/O 操作完成时，操作系统会通知应用程序。
优势：
避免了线程阻塞，提高了服务器的响应速度和吞吐量。
允许服务器在等待 I/O 操作完成时处理其他任务。
应用：
通常和I/O多路复用技术配合使用，能达到最佳效果。
3. 轻量级进程/线程模型：
核心目标：
减少线程或进程上下文切换的开销。
实现方式：
使用轻量级线程（例如，协程）或事件驱动架构，这些技术允许服务器在单个线程中处理多个并发连接。
优势：
降低了系统资源消耗，提高了并发处理能力。
4. 网络协议栈优化
提高网络数据包的处理效率。
优化手段：
零拷贝技术：
减少数据在内核空间和用户空间之间的复制，提高数据传输效率。
TCP 窗口缩放：
优化 TCP 连接，提高数据传输速度。
DPDK/XDP：
跳过内核协议栈，在用户态直接处理网络数据包，极大提高网络处理效率。
重要性：
网络协议栈的优化对于处理大量网络流量至关重要。
通过这些核心技术，服务器能够更有效地处理大量并发连接。