2016年8月26-27日,由51CTO.com主办的【WOT2016移动互联网技术峰会】在北京粤财JW万豪酒店隆重召开。自2012年以来,WOT品牌大会秉承专注技术、服务技术人员的理念已经成功举办十一届,不仅积累了大量的专家资源,更获得广大IT从业者和技术爱好者的认可和好评,并成为业界重要的技术分享及人脉拓展。来自新浪微博系统开发工程师于炳哲,为我们带来了主题为《日志漫谈-不同规模下的日志运维与优化》的演讲。演讲结束,51CTO记者在***时间采访了他。
新浪微博系统开发工程师 于炳哲
企业的日志运维会遇到很多不同的问题,最主要的是日志量的问题,当企业日志量过于庞大时,首先我们要考虑日志是否有一些可以进行日志合并对日志格式进行一定的规范,其次是考虑成本问题,日志越大企业实际的成本也就越大,所以要选择有效的数据做一些有真正意义的事情。
不同的企业规模对日志的要求也不是相同的,这是一个渐进的过程,小企业的规模较小但发展特别快速,所以小企业日志通过一些企业的迭代进行架构迭代。大企业在日志方面显得比较成熟,在成熟的环境下迭代就不再明显,更加被强调出来的是各部门之间的解耦问题,保证好相应的解耦问题,是大企业在日志运维方面面临的问题。
企业优化日志运维应该更好的与大数据相结合,相对于普通的日志监控,数据驱动是一种很好的优化选择。
从庞大的日志中有效的挖掘有价值的数据不仅仅是后期操作就可以的,对日志的前期规划也十分重要,为了方便信息的分类收集,就要把同类的信息收集到同一个通道当中,作为数据采样,更不需要全量的庞大数据,量的减少可以更快的分析出整体的效果,企业也可以通过技术的组件做出相应的版块监控。
日志分析首先考虑的就是企业的规模,根据企业结构来选择适合企业的日志架构,其次是同步与异步架构设计需要提前整理好,再者企业日志分析往往需要根据业务方面和技术方面进行优化。***,企业日志的分析可以通过一些开源组件得到很好的解决,针对企业当中的业务的具体情况,相对应的开源组件可以进行符合业务的一些修改。