15
平滑加权轮询负载均衡 - 鸡尾酒的笔记
source link: https://blog.cocktail1024.top/archives/143.html?
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
1. 简单实现
一般能想到的实现应该是记录一个 current index, 再取mod， 存在的问题是请求不够平滑。
例如， 要对3台机器进行 加权轮询负载均衡， 权重分别是 1,2,3
| 机器 | 权重 |
|---|---|
| 001 | 1 |
| 002 | 2 |
| 003 | 3 |
那么结果是
| 次数 | index | mod结果 | 命中机器 |
|---|---|---|---|
| 1 | 0 | 0 | 001 |
| 2 | 1 | 1 | 002 |
| 3 | 2 | 2 | 002 |
| 4 | 3 | 3 | 003 |
| 5 | 4 | 4 | 003 |
| 6 | 5 | 5 | 003 |
| 7 | 5 | 0 | 001 |
存在的问题，请求会不平滑， 同一台机器的请求会比较集中，比如上面的结果，后面3次集中在 003 的机器。
2. 更好的算法
每个后端peer都有三个权重变量，先解释下它们的含义。
(1) weight
配置文件中指定的该后端的权重，这个值是固定不变的。
(2) current_weight
后端目前的权重，一开始为0，之后会动态调整。那么是怎么个动态调整呢？
每次选取后端时，会遍历集群中所有后端，对于每个后端，让它的current_weight增加它的effective_weight，
同时累加所有后端的weight，保存为total。
如果该后端的current_weight是最大的，就选定这个后端，然后把它的current_weight减去total。
如果该后端没有被选定，那么current_weight不用减小。
弄清了三个weight字段的含义后，加权轮询算法可描述为：
1 对于每个请求，遍历集群中的所有可用后端，对于每个后端peer执行：
peer->current_weight += peer->effecitve_weight。
同时累加所有peer的effective_weight，保存为total。2 从集群中选出current_weight最大的peer，作为本次选定的后端。
3 对于本次选定的后端，执行：peer->current_weight -= total。
还是上面 3台机器 ， 权重分别是 1,2,3
| 机器 | 权重 |
|---|---|
| 001 | 1 |
| 002 | 2 |
| 003 | 3 |
那么结果是
请求就稍微平滑些了
参考：
Dubbo加权轮询负载均衡的源码和Bug，了解一下？
Nginx的负载均衡 - 加权轮询 (Weighted Round Robin) 上篇
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK