在线客服
扫描二维码
下载博学谷APP扫描二维码
关注博学谷微信公众号
Logstash开发采集上亿级别数据,需求属于日志采集的范畴,Logstash本身不支持反序列化功能,需要自定义开发ruby插件来支持,使用MLSQL结合UDF的方式进行流式处理。MLSQL写入hdfs会产生大量的小文件,需要单独开发合并文件的功能,写入es的数据是需要数仓结合其他业务数据进行建模,用离线处理的方式。
开发背景:公司业务系统做优化改造,同时为了能够实现全链路监控需收集所有业务系统之间的调用日志;数据情况:每天20亿以上;机器成本:3台kafka集群;2台logstash采集机器;技术:Java,MQ,MLSQL,Logstash。
采集流程:
MLSQL 消费MQ:原始日志产生侧通过protobuf进行序列化推送至mq,然后通过MLSQL进行反序列化并进行简单的etl处理后,再推送至MQ;
通过Logstash进行消费MQ:通过logstash消费经过MLSQL处理后的数据,并在这里通过ruby进行再次的加工处理,最后写入es和hdfs(一部分流程推送到es是业务侧使用,而另一部分写入hdfs是提供给数仓使用)
数仓建模:通过数仓建模,将最后的指标结果推送至es提供给业务侧使用,主要是借鉴这个需求讲解Logstash在实际场景中的使用以及优化。
Logstash开发流程:
1、确定日志格式
一个日志文件里肯定是不止一种日志格式,也有可能是标准化的格式,这里需要跟日志产生侧进行确认格式。
2、调试grok
确定好日志格式后,编写grok语法,然后进行调试,本人是通过kibana6自带的grok debug进行调试。结合该需求背景,最后经过logstash采集的时候,其实已经通过MLSQL进行了处理,最后Logstash消费的是格式就是一个json字符串,所以不需要grok语法。
3、调试ruby
结合该需求,使用ruby进行一些清洗逻辑
4、优化
优化工作在整个需求开发周期的比例较大,数据量较大资源较少,具体优化思路如下:
(1)MLSQL优化
这部分的优化工作主要是在反序化这块,剔除一部分无用字段,以及提前过滤一部分数据量,一部分注册UDF的代码:
(2)Kafka端优化
因kafka集群是集团共用,所以kafka端的优化其实只涉及到消费端的优化。这里只调节数据压缩、消费者线程数这两个参数。
(3)hdfs优化
logstash写入hdfs的部分不用使用自带的webhdfs插件,而是自定义的插件。
因自定义插件中涉及到文件锁的问题,会通过比对前后两次文件是否一致来进行文件最后的刷写,所以这里只能通过减少文件的更新频率来减少上下文的切换以及刷写操作
(4)ES优化
es部分的优化也只是涉及到写优化,比如批量写入、调大线程数、增加refresh间隔、禁止swapping交换内存、禁止refresh和replica操作,调大index buffer等操作。
— 申请免费试学名额 —
在职想转行提升,担心学不会?根据个人情况规划学习路线,闯关式自适应学习模式保证学习效果
讲师一对一辅导,在线答疑解惑,指导就业!
相关推荐 更多
分布式版本控制Git学习教程
Git可以理解为一种完全分布式的版本控制工具,它最大优势就是快速简单,强力支持非线性开发模式。因此,Git凭借着自身的魅力,得到了许多程序员和公司的喜爱。无论你是不是程序员,做不做程序开发,学习分布式版本控制系统Git都是有百利而无一害的。
5252
2020-01-08 19:44:10
JSP基础语法学习笔记总结
JSP作为一种动态网页开发技术,是以 Java 语言作为脚本语言,并且在服务端运行。因此,对于Java程序员来讲,掌握JSP基础语法是十分重要的。本文为大家总结了JSP基础语法学习笔记,内容包括了指令、注释和内置对象。下面让我们开始JSP基础语法的学习吧!
4457
2020-04-03 11:37:01
Java在线学习的效果怎么样?好不好?
Java作为目前市场最火的编程语言,它以较为高效的运行效率、跨平台能力、丰富的IDE成为软件公司的首选,在受到很多互联网公司的青睐的同时,也是许多人编程初学者的首选编程语言。而非科班的编程学习者想要掌握Java语言,除了参加线下的面授课程,现在还有了更多的一种选择——Java在线学习。那么Java在线学习的效果怎么样?好不好呢?下面我们就以博学谷的课程为例,来为大家详细的分析一下。
4809
2020-05-22 16:32:49
什么是Docker?Docker是如何工作的?
Docker作为一个开放源代码软件项目,其优势是体积小,运行速度快,因此掌握Docker技术是十分有必要的。想要搞清楚Docker的概念和工作原理,其实并不难,下面我们一起来简单聊聊Docker吧!
5002
2020-06-30 17:27:26
参加Java培训能学到哪些实训项目?
为了快速达到Java开发工程师的技术水平,大部分同学选择通过参加Java培训的方式进行学习,通过Java培训大家可以学习到系统的Java技术,同时还能通过大量的实训项目弥补自身实战能力较弱的缺陷。现在参加Java培训能学到哪些实训项目?对自己未来的就业有帮助吗?
5082
2020-07-29 09:22:24