Skip to content

Commit

Permalink
负载均衡系统
Browse files Browse the repository at this point in the history
  • Loading branch information
isno committed Oct 31, 2023
1 parent 9a3802b commit c227887
Show file tree
Hide file tree
Showing 2 changed files with 12 additions and 5 deletions.
1 change: 1 addition & 0 deletions assets/balancer-ha-2.svg
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.
16 changes: 11 additions & 5 deletions balance/balance4-ha.md
Original file line number Diff line number Diff line change
Expand Up @@ -11,12 +11,18 @@

主备方式的方案在现今的分布式系统中仍然有大量应用,但这种方式存在明显的缺陷。主备方式平稳状态下 50% 的容量是空闲的,备用服务器一直空转,**资源利用率不足**。其次,现代分布式系统设计**一直追求更高的容错性**。例如,理想情况下一个系统有多个实例同时挂掉仍能继续运行,而主备实例同时挂掉时,服务就彻底挂了。

接下来我们再看**基于集群的一致性哈希容错和可扩展设计方案**
接下来我们再看**基于集群的一致性哈希容错和可扩展设计方案**它的工作原理如图所示。

我们可以看到以上的设计如何避免 HA pair 的不足:
<div align="center">
<img src="../assets/balancer-ha-2.svg" width = "650" align=center />
<p>图4-4 负载均衡高可用设计</p>
</div>

- 边缘路由器和负载均衡器实例可以按需添加。每一层都用到了 ECMP,当新实例加入的时候,ECMP 能最大程度地减少受影响的 flow 数量
- 在预留足够的突发量(burst margin)和容错的前提下,系统的资源利用率想达到多高就可以到多高
- 多个边缘路由器以相同的 BGP 权重通告所有 Anycast VIP,通过 ECMP(Equal-cost, Multi-path routing)保证每个 flow 的所有包都会到达同一个边缘路由器。
- 多个四层负载均起以相同的 BGP 权重向所有的边缘路由器通告所有的 VIP 继续使用 ECMP 的方式为相同 flow 的包选择相同的四层负载均衡器。
- 每个四层负载均衡器实例会做部分连接跟踪(connection tracking)工作,然后使用一致性哈希为每个 flow 选择 一个后端。通过 GRE 封装将包从负载均衡器发送到后端。
- 然后使用 DSR 将应答包从后端直接发送到边缘路由器,最后到客户端。

所有现代四层负载均衡系统都在朝着这种设计演进,其中最有名的两个分别是来自 Google 的 Maglev 和来自 Amazon 的 Network Load Balancer 。我们可以看到以上的设计如何避免主备方式的不足:边缘路由器和负载均衡器实例可以按需添加。因为每一层都用到了 ECMP,当新实例加入的时候,能最大程度地减少受影响的 flow 数量;在预留足够的突发量和容错的前提下,系统的资源利用率想达到多高就可以到多高。

所有现代 L4 负载均衡系统都在朝着这种设计(或其变种)演进。其中最有名的两个分别是来自 Google 的 Maglev 和来自 Amazon 的 Network Load Balancer 。

0 comments on commit c227887

Please sign in to comment.