用严苛标准确保服务稳定,游密通讯云余俊澎告诉你如何处理高并发!

原创
开发 架构
2018年5月18-19日,由51CTO主办的全球软件与运维技术峰会在北京召开。此次峰会围绕人工智能、大数据、物联网、区块链等12大核心热点,汇聚海内外60位一线专家,这是一场高端的技术盛宴。

【51CTO.com原创稿件】2018年5月18-19日,由51CTO主办的全球软件与运维技术峰会在北京召开。此次峰会围绕人工智能、大数据、物联网、区块链等12大核心热点,汇聚海内外60位一线专家,这是一场高端的技术盛宴,也是***IT技术人才学习和人脉拓展不容错过的平台。

在5月19日下午“高并发与实时处理”C会场论坛中,游密通讯云技术副总裁余俊澎带来了《实时音视频海量并发之道》的主题演讲。他从实践的角度分享了游密通讯云如何确保服务稳定,以及如何处理高并发场景的一些心得。

[[231800]]

直面音视频领域的四个挑战

余俊澎在开场首先介绍到,游密的核心团队拥有15年的音视频研发经验,针对企业市场用户提供IM即时通讯、Talk实时语音、视频通话、互动直播四类主体业务,用户场景也非常广泛如游戏实时语音通话、二次元游戏语音主播等。据了解,截至目前,游密通讯云公司服务通讯用户数量累计达5亿人,音视频通话累计时长达到500亿分钟。

当谈到实时音视频领域目前的主要挑战时,余俊澎认为有四点挑战:

一是网络全球化的挑战。由于很多企业业务、应用包括游戏,出海和全球发行都是一个大趋势,而全球网络状况差异非常明显,像网络波动、丢包、延迟、地区等网络环境各不相同,网络优化非常复杂。

二是来自移动平台的挑战。目前移动平台在音视频方面的需求非常大,但是机型的适配特别复杂,尤其是安卓系统的机型,从硬件到系统版本都比较复杂。此外,由于移动端使用环境多变,网络切换很容易造成延迟和断网。

三是来自运维部署方面的挑战。为了提供更好的服务,需要对全球服务质量监控、服务的数据化、高可用保障以及后期服务质量进行分析和改进,也要在运维上持续投入。同时因为客户购买服务,对成本都非常敏感,还要对成本进行优化。

四是来自客户端的挑战。在音视频采集过程中,需要做好端的兼容;在编码环节,尽可能采用硬件编码,还要有一个错误检测机制,当硬件编码出现问题的时候能够自动降级,降到软编,保证机型适配。在传输方案上,***从DNS到选择Access的节点,以及最终到通过UDP来确保传输过程的可控。“实时音视频跟直播其实还是有区别,我们的策略是要优先保障实时。”

余俊澎还分享了音视频处理流程中比较核心的关键点。

稳定压倒一切

在演讲中,余俊澎表示产品的稳定性往往是客户非常看重的一个需求。那么游密通讯云在产品稳定性方面做了哪些工作呢?余俊澎分享了他和技术团队在这方面的实践经验。

首先是公司对crash率有近乎苛刻的指标要求,不得高于万分之0.2。

其次虽然0 warning只是一个传说,但是余俊澎和技术团队对音视频代码的静态分析、编译过程的日志始终保持严格的监控。“我们通过持续集成系统每日进行日志分析,例如我们发现当天有10个warning,但是目前版本经过验证,仍然是非常稳定的,那么我们就会把阈值设在这个范围内。之后如果多出现了一个warning,那就必须认真地分析这个warning会带来什么新的影响,尽可能把这个warning消除掉。” 余俊澎认真地说。

再次是决不允许内存泄漏。据了解,游密通讯云在这个方面非常严谨,任何措施都会经过反复验证,确保内存数据的安全。

另一点举措是每日构建+自动化测试+测试报告。余俊澎告诉记者,在公司当前版本的控制平台上,整个CI系统都在自动化正常运营,每天提交相关测试报告,确保系统稳定运行。

***一点是严格的测试与发布流程。这一点其实对于客户、用户感受非常重要,没有节奏的迭代发布会让用户产生很差的体验,而严格的测试在很大程度上可以确保发布系统的稳定,从而赢得好口碑。

除了去中心化之外,高并发还有很多需要优化点

余俊澎在现场除了解读音视频在客户端的实践之外,对于内部服务器端也做了介绍,这也非常契合本次论坛“高并发与实时处理”的主题。

当发现音视频海量并发时,大家往往***想到的是去中心化,做高并发支撑。除此之外,余俊澎认为还可以通过智能路由化解高并发压力,同时如果企业需要开展全球业务,例如需要欧美、印尼这些地方的线路与国内互通,就并不是直接连接效果就一定***,反而可以通过智能路由,去选择更好的线路。“我们对于智能路由的设计方法是——我们先将基于各个网络节点之间以及客户端上报、探测到的和我们接入服务之间的延迟、丢包、线路拥塞这些情况进行汇总,最终传送到一个数据模块给Redirect服务提供数据。对于上报的数据,经过迪杰斯特拉算法,计算出任意两点间的***路径。”

“游密通讯云通过实践发现,还有一些举措对于处理高并发现象也有非常好的效果,如关键模块严禁O(n)、过载保护、自主可控DNS解析。”余俊澎表示。

演讲***,余俊澎分享了游密通讯云关于音视频领域未来发展的一些思考,其中有的方向非常超前,为现场听众提供了参考方向。例如RNNoise是一个开源的项目,游密通讯云希望能够利用RNNoise做基于深度学习的噪声消除;ObEN在海外也是一个有未来感的项目,它可以模拟一个用户,完全复制用户的神态、讲话的声音、讲话语调、音色。例如有一位主播,她可以选择用哪位明星的声音来做播报,这样的功能非常受欢迎。

以上内容是51CTO记者根据游密通讯云技术副总裁余俊澎在WOT2018全球软件与运维技术峰会的演讲内容整理,更多关于WOT的内容请关注51cto.com。

【51CTO原创稿件,合作站点转载请注明原文作者和出处为51CTO.com】

责任编辑:张燕妮 来源: 51CTO
相关推荐

2018-05-30 17:27:43

音视频

2023-01-11 17:29:12

数据库分库分表

2019-12-30 14:30:50

云计算公有云私有云

2010-09-02 10:01:38

2016-06-06 14:44:24

通讯华为

2019-12-27 11:13:24

高并发服务器逻辑

2018-06-21 08:23:35

云存储高可用应用

2018-11-28 10:23:01

Python旅游景点数据

2018-09-27 14:13:27

云服务可靠故障

2019-07-29 12:35:15

云计算复杂性云计算平台

2010-09-01 15:40:10

DHCP服务器

2010-08-31 19:48:25

DHCP服务器IP

2019-08-15 10:20:19

云计算技术安全

2018-10-23 10:28:01

服务器流量高并发

2011-09-02 11:06:28

Oracle服务器进程为事务建立回滚段放入dirty lis

2016-04-22 11:20:52

2019-03-14 15:59:44

前端开发编程

2015-10-21 16:31:40

云智慧

2015-11-05 18:38:55

腾讯云

2018-10-18 10:17:40

服务器并发多线程
点赞
收藏

51CTO技术栈公众号