【51CTO.com原创稿件】2018年5月18-19日,由51CTO主办的全球软件与运维技术峰会在北京召开。此次峰会围绕人工智能、大数据、物联网、区块链等12大核心热点,汇聚海内外60位一线专家,这是一场高端的技术盛宴,也是***IT技术人才学习和人脉拓展不容错过的平台。
在5月19日下午“高并发与实时处理”C会场论坛中,游密通讯云技术副总裁余俊澎带来了《实时音视频海量并发之道》的主题演讲。他从实践的角度分享了游密通讯云如何确保服务稳定,以及如何处理高并发场景的一些心得。
直面音视频领域的四个挑战
余俊澎在开场首先介绍到,游密的核心团队拥有15年的音视频研发经验,针对企业市场用户提供IM即时通讯、Talk实时语音、视频通话、互动直播四类主体业务,用户场景也非常广泛如游戏实时语音通话、二次元游戏语音主播等。据了解,截至目前,游密通讯云公司服务通讯用户数量累计达5亿人,音视频通话累计时长达到500亿分钟。
当谈到实时音视频领域目前的主要挑战时,余俊澎认为有四点挑战:
一是网络全球化的挑战。由于很多企业业务、应用包括游戏,出海和全球发行都是一个大趋势,而全球网络状况差异非常明显,像网络波动、丢包、延迟、地区等网络环境各不相同,网络优化非常复杂。
二是来自移动平台的挑战。目前移动平台在音视频方面的需求非常大,但是机型的适配特别复杂,尤其是安卓系统的机型,从硬件到系统版本都比较复杂。此外,由于移动端使用环境多变,网络切换很容易造成延迟和断网。
三是来自运维部署方面的挑战。为了提供更好的服务,需要对全球服务质量监控、服务的数据化、高可用保障以及后期服务质量进行分析和改进,也要在运维上持续投入。同时因为客户购买服务,对成本都非常敏感,还要对成本进行优化。
四是来自客户端的挑战。在音视频采集过程中,需要做好端的兼容;在编码环节,尽可能采用硬件编码,还要有一个错误检测机制,当硬件编码出现问题的时候能够自动降级,降到软编,保证机型适配。在传输方案上,***从DNS到选择Access的节点,以及最终到通过UDP来确保传输过程的可控。“实时音视频跟直播其实还是有区别,我们的策略是要优先保障实时。”
余俊澎还分享了音视频处理流程中比较核心的关键点。
稳定压倒一切
在演讲中,余俊澎表示产品的稳定性往往是客户非常看重的一个需求。那么游密通讯云在产品稳定性方面做了哪些工作呢?余俊澎分享了他和技术团队在这方面的实践经验。
首先是公司对crash率有近乎苛刻的指标要求,不得高于万分之0.2。
其次虽然0 warning只是一个传说,但是余俊澎和技术团队对音视频代码的静态分析、编译过程的日志始终保持严格的监控。“我们通过持续集成系统每日进行日志分析,例如我们发现当天有10个warning,但是目前版本经过验证,仍然是非常稳定的,那么我们就会把阈值设在这个范围内。之后如果多出现了一个warning,那就必须认真地分析这个warning会带来什么新的影响,尽可能把这个warning消除掉。” 余俊澎认真地说。
再次是决不允许内存泄漏。据了解,游密通讯云在这个方面非常严谨,任何措施都会经过反复验证,确保内存数据的安全。
另一点举措是每日构建+自动化测试+测试报告。余俊澎告诉记者,在公司当前版本的控制平台上,整个CI系统都在自动化正常运营,每天提交相关测试报告,确保系统稳定运行。
***一点是严格的测试与发布流程。这一点其实对于客户、用户感受非常重要,没有节奏的迭代发布会让用户产生很差的体验,而严格的测试在很大程度上可以确保发布系统的稳定,从而赢得好口碑。
除了去中心化之外,高并发还有很多需要优化点
余俊澎在现场除了解读音视频在客户端的实践之外,对于内部服务器端也做了介绍,这也非常契合本次论坛“高并发与实时处理”的主题。
当发现音视频海量并发时,大家往往***想到的是去中心化,做高并发支撑。除此之外,余俊澎认为还可以通过智能路由化解高并发压力,同时如果企业需要开展全球业务,例如需要欧美、印尼这些地方的线路与国内互通,就并不是直接连接效果就一定***,反而可以通过智能路由,去选择更好的线路。“我们对于智能路由的设计方法是——我们先将基于各个网络节点之间以及客户端上报、探测到的和我们接入服务之间的延迟、丢包、线路拥塞这些情况进行汇总,最终传送到一个数据模块给Redirect服务提供数据。对于上报的数据,经过迪杰斯特拉算法,计算出任意两点间的***路径。”
“游密通讯云通过实践发现,还有一些举措对于处理高并发现象也有非常好的效果,如关键模块严禁O(n)、过载保护、自主可控DNS解析。”余俊澎表示。
演讲***,余俊澎分享了游密通讯云关于音视频领域未来发展的一些思考,其中有的方向非常超前,为现场听众提供了参考方向。例如RNNoise是一个开源的项目,游密通讯云希望能够利用RNNoise做基于深度学习的噪声消除;ObEN在海外也是一个有未来感的项目,它可以模拟一个用户,完全复制用户的神态、讲话的声音、讲话语调、音色。例如有一位主播,她可以选择用哪位明星的声音来做播报,这样的功能非常受欢迎。
以上内容是51CTO记者根据游密通讯云技术副总裁余俊澎在WOT2018全球软件与运维技术峰会的演讲内容整理,更多关于WOT的内容请关注51cto.com。
【51CTO原创稿件,合作站点转载请注明原文作者和出处为51CTO.com】