「微服务设计之禅」隔离模式

前言

微服务本质上分布式架构，当我们使用分布式系统时任何不可预知的问题都会发生（例如网络可用性问题、服务可用性问题、中间件可用性问题）。一个系统的问题可能会直接影响另外一个系统的使用或性能。所以在系统设计过程既要保证自身运行的弹性需求，也要避免对下游服务级联故障。

隔离模式

如上图，如果我们仔细观察船的结构时会发现，使用了多个隔板将船分为了多个小的隔间。隔板用于密封船体的各个部分，避免由于某个部位泄漏导致整个船淹没。当我们进行软件设计时，应该将整个应用拆分为多个组件，并且一个组件的故障不会影响到全局，这就所谓的隔离模式。

例如：假设有两个服务 A 和 B，服务 A 只能同时处理 5 个并发请求。服务 A 里面有两个接口

/a/b 依赖于服务 B （耗时比较多）
/a 本地服务

当有 10 个并发请求 A 服务接口，其中 5 个请求 /a/b 接口 ,5 个请求 /a 由于 /a/b 需要调用服务 B 耗时比较多，可能会造成 5 个线程阻塞应用无法处理 /a 虽然只是本地处理。由于一个接口耗时占用了整个应用的资源导致其他接口无法使用，导致用户体验很差。

通过隔离模式分配特定接口的资源限制，避免资源瓶颈。如上图，将 a/b 接口最大处理线程设置为 2,这样应用始终会有剩余线程处理其他接口请求。

示例程序

架构图

如上图所示，简单模拟电商下单逻辑

用户登录浏览商品（商品库存模块）
扣减商品库存（商品库存模块）
创建商品订单（订单模块）

product-service 提供两个接口

/products 查询全部商品展示

/order 调用 order 服务下单

代码实现

├── bulkhead-demo
   ├── order-service        #订单服务  （8070）
   └── product-service      #商品库存服务  （8050）

依赖说明。由于 hystrix 年久失修,这里使用 resilience4j 断路保护器做演示

<dependency>
<groupId>io.github.resilience4j</groupId>
<artifactId>resilience4j-spring-boot2</artifactId>
<version>1.6.1</version>
</dependency>

消费方定义隔离策略

server:
tomcat:
threads:
max: 5 #限制应用只能处理5 个并发，方便测试

resilience4j.bulkhead:
instances:
createOrder:  # 限制此接口只能使用两个
maxConcurrentCalls: 2

消费方接口。product-service 8050

  /**
   * 用户点击购买
   */
@SneakyThrows
@GetMapping("/order")
public String buy() {
// 模拟调用 订单服务下单
      orderService.createOrder().get();
return "success";
  }

/***
   * 获取全部商品接口
   */
@SneakyThrows
@GetMapping("/products")
public String products() {
// 模拟查询DB 耗时
      Thread.sleep(100);
return "products";
  }

定义远程调用类使用 Bulkhead 包装

/**
 * 创建订单
 * name: 指定接口隔离配置名称
 * fallbackMethod: 超出隔离限制降级方法
 */
@Bulkhead(name = "createOrder", fallbackMethod = "getError")
public CompletableFuture<String> createOrder() {
return CompletableFuture.supplyAsync(() -> restTemplate.getForEntity("http://localhost:8070/createOrder"
            , String.class).getBody());
}

public CompletableFuture<String> getError(Throwable error) {
    log.warn("创建订单失败了 {}", error.getMessage());
return CompletableFuture.completedFuture("");
}

服务提供方。order-service 8070

@RestController
public class PayController {
@SneakyThrows
@GetMapping("/pay")
public String pay(){
// 模拟调用支付渠道耗时 10s
        Thread.sleep(10000);
return "支付成功";
    }
}