图片
服务降级的常见场景
- 系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。
- 依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保系统核心功能的正常运作。
- 网络问题：在网络延迟或不稳定的情况下，降低某些服务的请求频率或数据量，以减轻系统负担。
- 资源不足：当系统资源（如 CPU、内存）不足时，通过服务降级减少资源消耗。
服务降级的策略
- 功能降级：暂时关闭或简化某些非关键功能。例如，关闭推荐系统、日志记录等不影响核心功能的服务。
- 数据降级：降低数据返回的粒度或数量。例如，从详细数据切换为概要数据。
- 延迟处理：将非紧急的任务延迟处理或批量处理。例如，将某些后台任务延迟执行，减轻当前系统负担。
- 限流：限制部分用户的访问，优先保证核心用户或付费用户的服务质量。
实施服务降级的技术手段
- 熔断器模式（Circuit Breaker Pattern）：当检测到某个服务不可用时，主动切断对该服务的调用，避免影响其他服务。
- 限流器（Rate Limiter）：限制单位时间内的请求数量，防止系统过载。
- 降级开关：通过配置中心动态调整服务降级策略，灵活应对不同场景。
- 缓存：使用缓存减轻数据库或其他后端服务的压力，提供快速响应。
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
工作流程
请求通过熔断器：
- 每个请求通过熔断器进行计数，监控其成功或失败状态。
- 如果请求成功，计数器重置。
- 如果请求失败，计数器记录失败。
监控和评估：
Hystrix 会监控一段时间内（例如 10 秒）的请求数量和失败率。
如果在这段时间内请求数量超过设定的最小请求数，并且失败率超过设定的阈值，熔断器将跳到打开状态。
短路请求：
在打开状态下，所有请求都会被短路，不会真正调用下游服务，而是立即返回一个预设的降级响应。
这样可以防止下游服务的故障影响到整个系统，并减轻下游服务的负载。
尝试恢复：
在打开状态持续一段时间后，熔断器进入半开状态，允许少量请求通过。
如果这些请求成功，熔断器将关闭，恢复正常请求。
如果这些请求失败，熔断器将重新打开，并继续短路请求。
服务灰度发布设计与实践
图片
优点：
- 降低风险：通过逐步发布新版本，团队可以在小范围内验证新功能的有效性，降低全量发布带来的风险。
- 快速反馈：在发布过程中，可以迅速收集用户反馈和监控数据，及时发现和解决问题。
- 持续交付：灰度发布与持续交付和持续部署实践相结合，可以实现快速、频繁和稳定的发布。
- 平滑过渡：避免了大规模发布带来的潜在问题，确保系统平稳运行。
服务灰度发布的工具
- 服务网关：如 NGINX、Kong 等，可以配置流量路由规则，实现灰度发布。
- 容器编排：如 Kubernetes，可以通过配置滚动更新和分阶段发布策略实现灰度发布。
- 服务网格：如 Istio、Linkerd，可以细粒度地控制服务间的流量，实现灰度发布。
图片
图片
图片
图片
图片
图片
图片
服务全链路压测设计
图片
图片
图片
图片
图片
图片
图片
图片
