今日目标
- 安装Sentinel
- 项目整合Sentinel
1.流量控制
雪崩问题虽然有四种方案(流量控制、熔断降级、线程隔离、超时处理),流量控制是避免服务因突发的流量而发生故障,是对微服务雪崩问题的预防,所以我们先学习Sentinel的流量控制或者说是限流。
Sentinel如何做到流量控制?
Sentinel监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。请求进入微服务时,访问DispatcherServlet,然后进入Controller、Service、Mapper,这样的一个调用链就叫做簇点链路。簇点链路中被监控的每一个接口就是一个资源。
例如,我们刚才访问的order-service中的OrderController中的端点:/order/{Id}
图片
后续我们的流控、熔断都将针对簇点链路中的资源进行发起,因此我们可以点击对应资源后面的按钮来设置规则:
- 流控:流量控制
- 降级:降级熔断
- 热点:热点参数限流,是限流的一种
- 授权:请求的权限控制
2.快速上手
点击编辑资源 /order/{id} 的流控按钮
图片
表单中可以填写限流规则,如下:
图片
填写单机阈值:2,其含义是:限制资源/order/{id} 的QPS为2,表示每秒只允许2次请求,超过的请求会被拦截并报错。
2.1.测试
快速刷新浏览器时,会发现出现下述错误信息
图片
但一般来说生产的流量要更多,此处我们将借助于一个压测工具:Jmeter做更为全面的压力测试
2.2. 利用Jmeter测试
下载
可以Apache Jmeter官网下载,地址:https://jmeter.apache.org/
图片
解压
Jmeter下载下来之后,解压缩即可使用,目录结构如下:
图片
其中的bin目录就是执行的脚本,其中包含启动脚本:
图片
运行
双击jmeter.bat即可运行:
图片
Jmeter测试
使用Jmeter测试QPS < 2
图片
此规则如下:10个请求在1s内执行完成,此时生效的限流规则上面我们配置的为2(每秒最多2个请求通过)
图片
启动
图片
运行启动后会发现每秒能通过的请求最多2个(如下展示可能会乱序,以请求时间为准):
图片
此时,我们就完成了流量控制的入门效果,这一效果也是流控模式之一的直接模式。
如果您觉得本文不错,欢迎关注,点赞,收藏支持,您的关注是我坚持的动力!
3. Sentinel流控模式
Sentinel添加限流规则时,点击高级选项,可以选择三种流控模式:
- 直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
- 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
- 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流
图片
快速入门就是直接模式,也是默认方式
3.1 Sentinel流控-直接模式
什么是Sentinel流控直接模式
直接模式:针对当前资源的请求,触发阈值时就对当前资源直接限流,也是默认的模式。
直接模式适用场景
对于没有明显差异、特殊化场景的都可以采用直接模式,它更简单易用
3.2 Sentinel流控-关联模式
什么是关联模式
关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
关联模式适用场景
在一个商城系统中,用户支付时需要修改订单状态,同时用户需要查询订单。查询和修改操作会争抢数据库锁(读速过高影响写、写速过高影响读速度),争抢本身带来的开销会降低整体吞吐量。此时我们需要优先保证修改订单的功能,对查询对单业务限流。即当A触发条件时,被关联的资源B产生限流。
图片
关联模式实现关联规则建立如下:
图片
规则解释
当访问/write接口次数超过阈值(我们对/write写有自己的流控规则),就会对/read接口进行限流,从而避免对:/write资源的影响
关联规则实战
需求
- 在OrderController中新建两个端点(http接口):/order/query 和 /order/update
- 配置关联流控规则:当/update接口访问超过QPS>3时,对/query进行限流
【步骤一】:定义/order/query接口
@GetMapping("/query")
public String queryOrder() {
return "查询order成功";
}
【步骤二】:定义/order/update接口
@GetMapping("/update")
public String updateOrder() {
return "更新order成功";
}
【步骤三】 重启服务,查看sentinel控制台的簇点链路
重启SentinelOrderApplication服务后,浏览器访问端点:http://localhost:9092/order/query、http://localhost:9092/order/update,访问Sentinel控制台,查看到新的端点信息:
图片
【步骤四】 配置关联流控规则
例子是对/order/query接口进行限流,那么就点击其后面对应按钮。
图片
配置流控规则如下:
注意:我们是针对谁做限流,就点击对应资源的流控按钮,此处我们针对:/order/query
图片
【步骤五】 Jemter测试配置关联流控
Jmeter压测验证,持续时长10s,qps=10,目的是持续造成超过配置阈值的窗口期,给用户访问验证的时间
可以看到100个用户,10秒,因此QPS为10,超过了我们设定的阈值:3
查看HTTP请求
图片
请求的目标是/order/update,这样端点/order/update就会触发阈值。
注意:限流的目标是/order/query,我们在浏览器访问,可以发现:
图片
3.3. Sentinel流控-链路模式
什么是链路模式
链路模式:针对从指定链路访问到本资源的请求做统计,判断是否超过阈值
链路模式适用场景
作为业务开发人员,我们有一个订单查询业务,同时输出做页面展现,访问链路:自身系统Controller-->查询订单接口。此时数据团队需要依赖我们的接口做驾驶舱信息,因为我们将查询订单接口暴露给别的团队,即新增一条访问链路:数据团队Controller-->查询订单接口。自身系统的QPS我们根据压测做过合理评估,但是数据团队的请求我们并未考虑,假设有上万的请求过来,我们自身的系统性能也将收到明显影响。此时我们就需要将来自数据团队的调用加上限流。如下
图片
链路模式实现例如有两条请求链路:
- /user --> /userinfo
- /login --> /userinfo
如果只希望统计从/login进入到/userinfo请求,则可以这样配置:
图片
链路规则实战
需求
有查询订单(/query)和创建订单(/createOrder)业务,两者都需要查询商品(service层方法queryGoods)。针对从查询订单进入到查询商品的请求统计,并设置限流。
【步骤一】:定义/order/query接口
@GetMapping("/query")
public String queryOrder() {
orderService.queryGoods();;
return "查询order成功";
}
【步骤二】:定义/order/create接口
@GetMapping("/create")
public String createOrder() {
// 查询商品
orderService.queryGoods();
// 查询订单
System.out.println("新增订单");
return "新增order成功";
}
【步骤三】:order-service服务中,给OrderService接口添加一个queryGoods方法:
public interface OrderService {
/**
* 创建订单
*/
Long create(Order order);
void queryGoods();
}
【步骤四】:order-service服务中,给OrderService接口实现了OrderServiceImpl添加一个queryGoods方法:
@Override
@SentinelResource("goods")
public void queryGoods(){
System.out.println("查询商品");
}
注意:
默认情况下,OrderService中的方法是不被Sentinel监控的,需要我们自己通过注解来标记要监控的方法。
给OrderServiceImpl的queryGoods方法添加@SentinelResource注解
【步骤五】:修改application.ym
链路模式中,是对不同来源的两个链路做监控。但是sentinel默认会给进入SpringMVC的所有请求设置同一个root资源,会导致链路模式失效。
我们需要关闭这种对SpringMVC的资源聚合,修改order-service服务的application.yml文件
spring:
cloud:
sentinel:
web-context-unify: false # 关闭context整合
【步骤六】:给queryGoods设置限流规则,从/order/query进入queryGoods的方法限制QPS必须小于2
注意:设置规则之前同样需要访问才会产生簇点链路,才可以针对性设置规则,因此需要重启服务+访问新接口
图片
图片
只统计从/order/query进入/goods的资源,QPS阈值为2,超出则被限流。
【步骤七】 Jemter测试配置链路流控
启动Jmeter压测,预期/order/create不受影响,而/order/query最多允许放行流量=2
/order/create
图片
图片
/order/query
图片
图片
总结
流控模式有哪些?
- 直接:对当前资源限流
- 关联:高优先级资源触发阈值,对低优先级资源限流。
- 链路:阈值统计时,只统计从指定资源进入当前资源的请求,是对请求来源的限流