今天我们来聊聊常见的负载均衡算法。
负载均衡将网络流量或一组任务以某种算法合理分配给各个处理节点,使得节点得到平等的使用,并及时可靠地返回结果给用户。
负载均衡广泛应用于各种硬件软件系统中,比如:
- 根据 IP 地址进行网络流量负载均衡。在服务进行维护时,可以方便将网络流量切换到临时节点或降级的服务上。
- 根据 HTTP 头信息或请求字段进行应用程序负载均衡,用户得到响应的时间更短,并且可以提供分层服务,也方便服务扩容时加入新的节点。
- CDN 根据流量的来源,将流量导入相邻地区的服务器,以获得更短的响应时间和更高的可用性。
下图显示了 6 种常见算法。
一、态算法
1.循环(Round Robin)
客户端请求按顺序发送到不同的服务实例。通常要求服务是无状态的。这种算法最简单,但是也无法处理某个节点变慢或者客户端操作有连续性的情况。
2.粘性循环(Sticky Round Robin)
这是对循环算法的一种改进。如果 Alice 的第一个请求发送到服务 A,那么接下来的请求也会发送到服务 A。这种负载均衡可以确保一个用户的请求都发往同一个服务节点,适合客户端操作有连续性的情况。有时候该服务节点上会保存该用户的一些状态,避免去后端数据库查询。
3.加权循环(Weighted Round Robin)
管理员可以指定每个服务的权重。权重高的服务会比其他服务处理更多请求。
4.散列(IP/URL Hash)
该算法对传入请求的 IP 或 URL 应用哈希函数。根据哈希函数的结果将请求路由到相关服务。
二、动态算法
5.最少连接(Least Connections)
新请求会发送到并发连接最少的服务节点。
6.响应时间最少(Least Time)
新请求会发送到响应时间最快的服务节点。这样,某个服务节点变慢就不会阻塞后续请求处理了。