通过结合 Linkerd 和 Flagger 来根据服务指标自动金丝雀(canary)发布,从而降低部署风险。
Linkerd 2.10 中文手册持续修正更新中:
https://linkerd.hacker-linner.com/
Linkerd 2.10 系列
- 快速上手 Linkerd v2 Service Mesh(服务网格)
- 腾讯云 K8S 集群实战 Service Mesh—Linkerd2 & Traefik2 部署 emojivoto 应用
- 详细了解 Linkerd 2.10 基础功能,一起步入 Service Mesh 微服务架构时代
- Linkerd 2.10(Step by Step)—1. 将您的服务添加到 Linkerd
Linkerd 的流量拆分(traffic split)功能允许您在服务之间动态转移流量。这可用于实施低风险部署策略,如蓝绿(blue-green)部署和金丝雀(canaries)。
但简单地将流量从一个服务版本转移到下一个版本只是一个开始。我们可以将流量拆分与 Linkerd 的自动黄金指标(golden metrics)遥测相结合, 并根据观察到的指标推动流量决策。例如,我们可以逐渐将流量从旧部署转移到新部署, 同时持续监控其成功率。如果在任何时候成功率下降, 我们可以将流量转移回原始部署并退出发布。理想情况下,我们的用户始终保持快乐(remain happy),没有注意到任何事情!
在本教程中,我们将引导您了解如何将 Linkerd 与 Flagger 结合使用, 后者是一种渐进式交付工具, 可将 Linkerd 的指标和流量拆分绑定在一个控制循环中, 从而实现全自动、指标感知的金丝雀部署。
先决条件
- 要使用本指南,您需要在集群上安装 Linkerd 及其 Viz 扩展。
如果您还没有这样做,请按照安装Linkerd 指南进行操作。
- Flagger 的安装依赖于 kubectl 1.14 或更新版本。
安装 Flagger
Linkerd 将管理实际的流量路由, 而 Flagger 会自动执行创建新 Kubernetes 资源(resources)、 观察指标(watching metrics)和逐步将用户发送到新版本的过程。要将 Flagger 添加到您的集群并将其配置为与 Linkerd 一起使用,请运行:
- kubectl apply -k github.com/fluxcd/flagger/kustomize/linkerd
- # customresourcedefinition.apiextensions.k8s.io/alertproviders.flagger.app created
- # customresourcedefinition.apiextensions.k8s.io/canaries.flagger.app created
- # customresourcedefinition.apiextensions.k8s.io/metrictemplates.flagger.app created
- # serviceaccount/flagger created
- # clusterrole.rbac.authorization.k8s.io/flagger created
- # clusterrolebinding.rbac.authorization.k8s.io/flagger created
- # deployment.apps/flagger created
此命令添加:
- Canary
CRD 可以配置发布的方式。
- RBAC 授予 Flagger 修改它需要的所有资源的权限,例如部署(deployments)和服务(services)。
- 配置为与 Linkerd 控制平面交互的控制器。
要观察直到一切正常运行,您可以使用 kubectl:
- kubectl -n linkerd rollout status deploy/flagger
- # Waiting for deployment "flagger" rollout to finish: 0 of 1 updated replicas are available...
- # deployment "flagger" successfully rolled out
设置 demo
该 demo 由三个组件组成:负载生成器(load generator)、部署(deployment)和前端(frontend)。部署会创建一个 pod,该 pod 会返回一些信息,例如名称。您可以使用响应(responses)来观察随着 Flagger 编排的增量部署。由于需要某种活动流量才能完成操作,因此负载生成器可以更轻松地执行部署。这些组件的拓扑结构如下所示:
要将这些组件添加到您的集群并将它们包含在 Linkerd 数据平面中,请运行:
- kubectl create ns test && \
- kubectl apply -f https://run.linkerd.io/flagger.yml
- # namespace/test created
- # deployment.apps/load created
- # configmap/frontend created
- # deployment.apps/frontend created
- # service/frontend created
- # deployment.apps/podinfo created
- # service/podinfo created
通过运行以下命令验证一切是否已成功启动:
- kubectl -n test rollout status deploy podinfo
- # Waiting for deployment "podinfo" rollout to finish: 0 of 1 updated replicas are available...
- # deployment "podinfo" successfully rolled out
通过在本地转发前端服务并通过运行在本地的 http://localhost:8080 来打开检查它:
- kubectl -n test port-forward svc/frontend 8080
我这里,为方便看到真实的一个 demo,直接加个 IngressRoute。
ingress-route.yaml
- apiVersion: traefik.containo.us/v1alpha1
- kind: IngressRoute
- metadata:
- name: podinfo-dashboard-route
- namespace: test
- spec:
- entryPoints:
- - websecure
- tls:
- secretName: hacker-linner-cert-tls
- routes:
- - match: Host(`podinfo.hacker-linner.com`)
- kind: Rule
- services:
- - name: frontend
- port: 8080
你可以直接访问 https://podinfo.hacker-linner.com。
流量转移发生在连接的客户端而不是服务器端。来自网格外部的任何请求都不会被转移,并且将始终被定向到主后端。 LoadBalancer 类型的服务将表现出这种行为,因为源不是网格的一部分。要转移外部流量,请将入口控制器添加到网格中。
配置发布
在更改任何内容之前,您需要配置发布应如何在集群上推出(rolled out)。该配置包含在 Canary 定义中。要应用于您的集群,请运行:
- cat <<EOF | kubectl apply -f -
- apiVersion: flagger.app/v1beta1
- kind: Canary
- metadata:
- name: podinfo
- namespace: test
- spec:
- targetRef:
- apiVersion: apps/v1
- kind: Deployment
- name: podinfo
- service:
- port: 9898
- analysis:
- interval: 10s
- threshold: 5
- stepWeight: 10
- maxWeight: 100
- metrics:
- - name: request-success-rate
- thresholdRange:
- min: 99
- interval: 1m
- - name: request-duration
- thresholdRange:
- max: 500
- interval: 1m
- EOF
Flagger 控制器正在监视这些定义(definitions),并将在集群上创建一些新的资源。要观察这个过程,运行:
- kubectl -n test get ev --watch
将创建一个名为 podinfo-primary 的新部署, 其副本数量与 podinfo 具有的副本数量相同 一旦新 Pod 准备就绪,原始部署将缩减为零。这提供了由 Flagger 作为实现细节管理的部署,并维护您的原始配置文件和工作流。看到以下行后,一切都已设置:
- 0s Normal Synced canary/podinfo Initialization done! podinfo.test
除了托管部署之外,还创建了一些服务来协调应用程序的新旧版本之间的路由流量。这些可以使用 kubectl -n test get svc 查看,应该如下所示:
- NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
- frontend ClusterIP 10.7.251.33 <none> 8080/TCP 96m
- podinfo ClusterIP 10.7.252.86 <none> 9898/TCP 96m
- podinfo-canary ClusterIP 10.7.245.17 <none> 9898/TCP 23m
- podinfo-primary ClusterIP 10.7.249.63 <none> 9898/TCP 23m
此时,拓扑看起来有点像:
本指南没有涉及 Flagger 提供的所有功能。如果您有兴趣将 Canary 版本与 HPA 相结合、 处理自定义指标或进行其他类型的版本发布 (例如 A/B 测试),请务必阅读文档。
开始推出(rollout)
作为一个系统,Kubernetes resources 有两个主要部分:spec 和 status。当控制器看到 spec 时,它会尽其所能使当前系统的 status 与 spec 相匹配。通过部署,如果任何 pod 规范配置发生更改,控制器将启动 rollout。默认情况下,部署控制器(deployment controller)将协调滚动更新(rolling update)。
在这个例子中,Flagger 会注意到部署的规范(spec)发生了变化, 并开始编排金丝雀部署(canary rollout)。要启动此过程,您可以通过运行以下命令将镜像更新为新版本:
- kubectl -n test set image deployment/podinfo \
- podinfod=quay.io/stefanprodan/podinfo:1.7.1
对 pod 规范的任何修改(例如更新环境变量或annotation)都会导致与更新 image 相同的行为。
更新时,金丝雀部署 (podinfo) 将扩大(scaled up)。准备就绪后,Flagger 将开始逐步更新 TrafficSplit CRD。配置 stepWeight 为 10,每增加一次,podinfo 的权重就会增加 10。对于每个周期,都会观察成功率,只要超过 99% 的阈值,Flagger 就会继续推出(rollout)。要查看整个过程,请运行:
- kubectl -n test get ev --watch
在发生更新时,资源和流量在较高级别将如下所示:
更新完成后,这张图会变回上一节的图。
您可以在 1.7.1 和 1.7.0 之间切换 image 标签以再次开始发布(rollout)。
Resource
canary resource 会更新当前状态和进度,你可以通过运行以下命令来查看:
- watch kubectl -n test get canary
在幕后,Flagger 正在通过更新流量拆分 resource 来拆分主后端和金丝雀后端之间的流量。要查看此配置在推出期间如何更改,请运行:
- kubectl -n test get trafficsplit podinfo -o yaml
每次增加都会增加 podinfo-canary 的权重并减少 podinfo-primary 的权重。一旦部署成功,podinfo-primary 的权重将重新设置为 100, 并且底层金丝雀部署(podinfo)将被缩减。
指标
随着流量从主要部署转移到金丝雀部署,Linkerd 提供了对请求目的地发生的事情的可见性。这些指标显示后端实时接收流量并衡量成功率(success rate)、延迟(latencies)和吞吐量(throughput)。在 CLI 中,您可以通过运行以下命令来观看:
- watch linkerd viz -n test stat deploy --from deploy/load
对于更直观的东西,您可以使用仪表板。通过运行 linkerd viz dashboard 启动它, 然后查看 podinfo 流量拆分的详细信息页面。
浏览器
再次访问 http://localhost:8080。刷新页面将显示新版本和不同标题颜色之间的切换。或者,运行 curl http://localhost:8080 将返回一个 类似于以下内容的 JSON 响应:
- {
- "hostname": "podinfo-primary-74459c7db8-lbtxf",
- "version": "1.7.0",
- "revision": "4fc593f42c7cd2e7319c83f6bfd3743c05523883",
- "color": "blue",
- "message": "greetings from podinfo v1.7.0",
- "goos": "linux",
- "goarch": "amd64",
- "runtime": "go1.11.2",
- "num_goroutine": "6",
- "num_cpu": "8"
- }
随着推出的继续,这种 response 会慢慢改变。
清理
要进行清理,请从集群中删除 Flagger 控制器并通过运行以下命令删除 test 命名空间:
- kubectl delete -k github.com/fluxcd/flagger/kustomize/linkerd && \
- kubectl delete ns test
【编辑推荐】