2023 年 11 月 12 日 18 时许,阿里云发布公告称,阿里云云产品控制台服务异常,阿里云立即发布公告,公告显示,北京时间2023年11月12日17:44起,阿里云监控发现云产品控制台访问及API调用出现异常,阿里云工程师正在紧急介入排查。工程师通过分批重启组件服务,绝大部分地域控制台服务已恢复访问。
业务影响
数据排查
图片
排查
图片
结果
最终结果是三分之一的直播录制视频完全丢失,其它的录制视频都是不完整,也就是说只录制了前半部分,后半部分是没有的。
赔付
PS:由于业务影响较大,所以除了代金券赔付,还有额外的现金赔付,现金数额㊙️㊙️
赔偿短信
【阿里云】尊敬的xxx:您好,非常抱歉阿里云11月12日发生的产品故障对您产生的影响。根据阿里云向您承诺的《服务等级协议》,本次您的SLA赔偿金总额应为227.24元,我们将为您实际发放总额227.24元。您可前往控制台-“SLA赔偿”查看并领取。如您有任何疑问,欢迎联系您的商务经理、拨打400-80-13260转9、或提交工单联系我们。我们再次诚挚地为此次故障道歉。
补偿发放通知
图片
SLA赔付
图片
故障报告
影响范围
- OSS、OTS、SLS、MNS 等产品的部分服务受到影响,大部分产品如 ECS、RDS、网络等运行不受影响。
- 云产品控制台、管控 API 等功能受到影响
时间
北京时间 2023 年 11 月 12 日 17:39-19:20
问题概况
北京时间 2023 年 11 月 12 日 17:39 起,阿里云云产品控制台访问及管控 API调用出现异常、部分云产品服务访问异常,工程师排查故障原因与访问密钥服务(AK)异常有关。工程师修订白名单版本后,采取分批重启 AK 服务的措施,于 18:35 开始陆续恢复,19:20 绝大部分 Region 产品控制台和管控API 恢复。
处理过程
2023 年 11 月 12 日
17:39 阿里云云产品控制台访问及管控 API 调用出现异常。
17:50 工程师确认故障是 AK 服务异常导致,影响云产品控制台、管控 API 调 用异常,以及依赖 AK 服务的云产品服务运行异常。
18:01 工程师定位到根因。
18:07 开始执行恢复措施,包括修订白名单版本、重启 AK 服务。
18:35 杭州等 Region 开始恢复正常。
19:20 绝大部分 Region 的云产品控制台和管控 API 调用恢复正常。
原因
访问密钥服务(AK)在读取白名单数据时出现读取异常,因处理读取异常的代码存在逻辑缺陷,生成了一份不完整白名单,导致不在此白名单中的有效请求失败,影响云产品控制台及管控 API 服务出现异常,同时部分依赖 AK 服务的产品因不完整的白名单出现部分服务运行异常。
改进措施
1、增加 AK 服务白名单生成结果的校验及告警拦截能力。
2、增加 AK 服务白名单更新的灰度验证逻辑,提前发现异常。
3、增加 AK 服务白名单的快速恢复能力。
4、加强云产品侧的联动恢复能力。
总结
尽管阿里云在此次事故后进行了赔偿,但仍然引起了一些质疑。有些人认为这是阿里云裁员的结果,说了这么多,好像我们自己搭建机房不出问题似的,如同360老总说的一样死海效应,做实事的往往会最先离职,都蒸发了,最后留下的都是混日子的老油条,包括管理层也一样。
对于企业而言,多平台灾备是非常必要的。尽管阿里云在此次事故中表现出了较强的处理能力和平台安全能力,但仍然需要考虑到其他云服务提供商的可用性。企业需要制定灾备计划并保持与多个云服务提供商的合作,以确保在出现类似问题时能够快速响应并减少损失。
总之,这件事情给我们提醒,任何服务都有可能出现问题。关键在于企业如何管理和应对这些问题。通过制定灾备计划并与多个云服务提供商合作,企业可以更好地应对类似的问题并确保业务的连续性。