分享 | eBay流量管理之负载均衡及应用交付

供稿 | Yuting Cao

审稿 |  Victor Yang

编辑 | Yang Liu

本文5159字，预计阅读时间13分钟

更多干货请关注“eBay技术荟”公众号

1. HLB基本介绍

在网络安装中，硬件负载均衡器（HLB）一般安装在服务器前面，作为客户端和服务器之间的透明代理，在请求转发到服务器前进行流量管理。

一 般而言， 在基于TCP代理的负载均衡技术实现中， 客户端与服务器的请求通信过程如下：

1）客户端向负载均衡器提供的虚拟IP地址VIP发送请求（CIP → VIP）；
2）负载均衡器从提前配置的多个子网IP地址中选择一个，替代客户端请求的源IP，并依据负载均衡算法，选择一个服务器IP作为目的IP，发送请求 (SNIP → SIP)；
3）服务器处理后将响应结果发回负载均衡器（SIP → SNIP）；
4）负载均衡器将最终结果返回给客户端（VIP → CIP）。

2.  流量管理

2.1

 NetScaler负载均衡器

NetScaler是Citrix公司提供的应用交付的硬件负载均衡器，其基本配置元素包括：虚拟服务器（Virtual Server）、服务（Service）、监控程序（Monitor）等。

• 虚拟服务器由名称、VIP、端口、协议等表示， 其端口和协议决定代表的具体服务器；

• 一般而言，虚拟服务器和服务协同工作，服务作为LB上的逻辑抽象，绑定到虚拟服务器上，可以是服务器的IP:Port，也可以是下一层LB的虚拟服务器；

• LB对服务对象进行定时（比如每 5 秒）的健康探测，若探测失败，则将服务标记为DOWN，否则为UP。LB分发请求时，DOWN的服务将被排除在外， 流量只分发给UP的服务 。

NetScaler作为业内领先的硬件负载均衡器，具有极其强大的、多元化的负载均衡算法， 用于决定将客户端请求转发到哪一服务器 。最新版本的NetScaler支持 十 余种负载均衡算法，能够适应众多应用场景。常用的算法如：

• 最少连接算法 （Least Connection），优先选择连接数最少的后端节点，是默认的负载均衡算法，在大多数情况下提供了最佳性能；

• 轮询算法 （Round Robin），将用户请求依次轮流分配给内部服务器；

• 最少响应时间算法 （Least Response Time）， 优先选择具有最少活跃连接和最低平均响应时间的服务器，可扩展为基于监控程序的最小响应时间算法（LRTM）；

• 最小带宽算法 （Least Bandwidth），优先选择当前流量吞吐最小的服务器；

还有令牌算法（Token）、基于URL的Hash算法、域名Hash算法等，不作详述。

如果考虑不同服务器的处理能力不同，还可以给每个服务器分配不同权值，通过设置比率调整调度机率。

NetScaler是以软件为中心的应用程序交付解决方案，可以通过特定的负载均衡算法将应用中的流量分发到不同机器上，那 如果应用要求分发到指定Pool， 又该怎么做呢？

这就涉及到 七 层规则 啦。NetScaler常用的 七 层规则包括：

• Content Switching Policy ，将请求路由到指定的下游Pool；

• Responder Policy ，针对特定的HTTP请求实现重定向（HTTP Redirect）、丢弃（TCP DROP）、重置（TCP RESET）等；

• Rewrite Policy ，改写请求后转发给后端服务，“改写”包括：改写URL、添加/修改/删除Header。

一个VIP可以根据应用要求同时支持多种规则。

若用户要求将流量分发到指定Pool，则 添加Content Switching Policy ，将符合要求的请求路由到相应Pool，并绑定到VIP对应的虚拟服务器上。

一般而言，将来自相同数据中心的客户端访问的大部分流量（如： 99% ）分发到本数据中心，少部分流量（如： 1% ）转到其他数据中心，实现跨数据中心访问。若一个数据中心出现问题，流量会自动转发到其他数据中心。

6.1

   安装Docker

6.2

   启动NetScaler CPX和主机端口

则在S1执行for i in {1..100}; do curl -v 127.0.0.1:30000 2>/dev/null | grep Server; done访问服务A，流量会 交替分发 到S1和S2上，如下图所示，即： 将流量转发到不同的机器，实现了负载均衡的流量管理。

图6.7 （ 点击 可查看大 图 ）

实验2：七层规则

假设S1和S2属于 不同Pool ，S1安装应用程序A1，S2安装应用程序A2，分别表示为绑定到LBV-A1的服务svc-A1和绑定到LBV-A2的服务svc-A2，CPX对外暴露30000端口，默认情况下访问S1上的应用程序A1。添加Content Switching Policy，当请求token为/check时，将请求路由到S2上的A2， 负载均衡拓扑、CLI命令及CPX中的配置分别如下图所示。

图6.8 （ 点击 可查看大 图 ）

图6.9 （ 点击 可查看大 图 ）

图6.10 （ 点击 可查看大 图 ）

则在S1上分别访问127.0.0.1:30000和127.0.0.1:30000/check，结果如下， 实际上分别访问了服务器S1和S2， 验证了可通过添加七层规则将流量分发到不同Pool的服务器。

图6.11 （ 点击 可查看大 图 ）

另外， NetScaler CPX还可以用于管理微服务和负载均衡东西向流量。 这里附上NetScaler官网和API，有兴趣的同学可以扫码了解详情，进一步实验喔 。

☟☟☟

总 结