负载均衡无处不在,无论是大型网站,以及分布式架构里,还是在各种主流中间件里,都需要涉及到负载均衡@mikechen
比如:最早的淘宝,随着网站访问越来越大,单台服务器不能解决了,就需要扩充多台服务器来承担压力,这种横向扩展,就需要负载均衡来解决。
如下图所示:
比如,通过上图的Nginx来负载分配请求,到多台服务器。
除了,提高整体系统的性能和响应速度,而且,还避免了单一服务器的过度负载。
但是,如何把请求更好的分配到服务器呢,这里就需要涉及到具体的:负载均衡算法。
常见的算法主要包含,以下6种:
1.轮询(Round Robin)
轮询,英文是Round Robin,将请求按照顺序分配给服务器列表,每个请求都依次从头开始分配,循环往复。
如下图所示:
优点:
简单且公平,适用于服务器性能相近的情况。
缺点:
如果服务器性能差异较大,可能导致负载不均衡。
适用场景:
轮询适用于服务器性能相近,且无需考虑会话状态的情况。
2.IP 哈希(IP Hash)
IP哈希,主要是根据客户端的IP地址进行哈希计算,将同一IP的请求始终分配给同一台服务器,保持会话一致性。
如下图所示:
工作流程:
第一步:当有新的请求到达时,负载均衡器使用客户端的IP地址,作为输入进行哈希计算。
第二步:哈希计算完结果,然后决定了请求将被分配到服务器列表中的哪一台服务器。
第三步:所有拥有相同IP地址的请求,都将被分配给相同的服务器。
优点:
算法相对简单,不涉及复杂的权重计算,适用于需要维持特定会话的应用。
缺点:
在服务器数量变化时,可能导致部分请求需要重新分配。
适用场景:
适用于相同 IP 的客户端,将始终被分配到同一台服务器上的场景。
3.最少连接(Least Connection)
最少连接,其实非常容易理解,就是将请求分配给当前连接数最少的服务器,以确保连接较少的服务器得到更多的请求。
如下图所示:
优点:
该算法对服务器性能差异较大的情况有较好的适应性,比如:不同服务器处理速度不一致时,确保请求优先发送到连接数较少的服务器,有助于避免某些服务器被过度利用。
缺点:
需要实时监测连接数,可能引入一些计算开销。比如:特别是在高流量的环境中。
适用场景:
最小连接数算法适用于服务器性能差异较大的情况,以确保负载较小的服务器获得更多的请求,然而,需要权衡算法的实时监测开销和对连接持续时间变化的敏感性。
3.加权轮询(Weighted Round Robin)
加权轮询,就是在刚才我讲的轮询的基础上,增加一个权重值。
比如:为每个服务器分配一个权重值,按照权重进行轮询分配请求,权重高的服务器获得更多的请求。
如下图所示:
优点:
通过考虑服务器权重,加权轮询能够更公平地分配负载,确保性能较高的服务器能够处理更多的请求。
缺点:
当服务器性能动态变化时,需要手动调整权重。
适用场景:
加权轮询适用于服务器性能存在差异,通常用于服务器配置异构的环境,其中一些服务器可能比其他服务器更强大,能够处理更多的负载。
5.加权最少连接(Weighted Least Connection)
加权最少连接,类似于加权轮询,但还考虑了服务器的当前连接数,选择连接数和权重的乘积最小的服务器。
优点:
结合了连接数和权重,更适应性强。
缺点:
需要实时监测连接数,复杂度相对较高。
5.随机策略
随机策略,是通过随机选择一个服务器来处理新的请求,在随机策略中,每个服务器被选中的概率是相等的,无论服务器的性能或负载情况如何。
如下图所示:
优点:
最大的一个优点,就是实现简单,没有复杂的算法或参数设置。
缺点:
最大的缺点就是:不考虑服务器的性能差异,因此可能导致性能较差的服务器被选中处理更多的请求。
适用场景:
随机策略适用于一些简单的场景,特别是当服务器性能相近且请求分布相对均匀时。
mikechen
mikechen睿哥,10年+大厂架构经验,资深技术专家,就职于阿里、淘宝、百度等一线互联网大厂。
关注「mikechen」公众号,获取更多技术干货!
后台回复【面试】即可获取《史上最全阿里Java面试题总结》,后台回复【架构】,即可获取《阿里架构师进阶专题全部合集》