百万QPS是大型架构核心,下面我详解电商百万QPS方案@mikechen
电商百万QPS
在电商大促(如秒杀、限量抢购)场景中,系统往往需要在极短时间内承受 百万级 QPS 流量冲击。
单一负载均衡层很难稳定承载,因此主流互联网架构通常采用: L4 + L7 多层负载均衡架构。

系统需在极短时间内,承载百万级QPS并保证用户体验、与业务连续性。
为应对这一挑战,采用L4(传输层)与L7(应用层)多层混合的负载均衡架构。
能在性能、可控性与灵活性之间取得平衡。
百万QPS架构方案
整体架构,如下:

用户请求 │ ▼ DNS智能解析 │ ▼ CDN缓存层 │ ▼ L4负载均衡(LVS集群) │ ▼ L7负载均衡(Nginx集群) │ ▼ 网关层(API Gateway) │ ▼ 秒杀服务集群
L4 的定位:极致吞吐的“粗分流”
工作在传输层(TCP/UDP),只看 IP+端口,对应用内容无感,适合做大流量、简单规则的分发。
典型实现:LVS、F5、云厂商的 SLB/ELB 等,常放在最前面承担最大 QPS。
比如:LVS + DR模式(Direct Routing) + DPDK加速。

单机可达300-500万QPS;
配置:ipvsadm + keepalived高可用
云上:阿里云NLB / 腾讯云CLB四层 / AWS NLB
优点:
性能极高,内核态转发,能轻松支撑百万级 QPS。
功能简单,稳定性强。
L7 的定位:智能路由的“细分流”
工作在应用层(HTTP/HTTPS 等),可以解析 URL、Header、Cookie、Query 等。
根据业务规则做路由、限流、灰度、鉴权等。
典型实现:Nginx、Envoy、HAProxy、各家云 API 网关。

优点:
支持按路径、业务线、用户属性、商品 ID 等做精准路由。
可以挂 Lua / 插件实现防刷、A/B 测试、灰度发布等策略。
混合方案的核心思想
前置 L4 做“高性能入口 + 大集群粗分流”。

L4:性能天花板,吃洪峰、扛DDoS。
后置多级 L7 做“业务级治理 + 动态策略控制”。
L4 不做复杂逻辑,只保证“扛得住”,L7 负责“做得精”。
L7:业务大脑,限流、路由、安全、灰度
多层:层层削峰,单层不崩整体不崩。