15|组件监控:Kafka的关键指标及采集方法有哪些?
Kafka 架构
- 深入了解
- 翻译
- 解释
- 总结
本文深入介绍了Kafka监控的重要性以及相关的关键指标和采集方法。首先,文章详细介绍了Kafka的架构和监控重点,包括Producer、Consumer、Broker和ZooKeeper。其次,文章介绍了JMX的概念和Kafka如何开启JMX端口,以及如何为Kafka引入Jolokia支持。文章还提供了Kafka开启Jolokia的具体步骤,并验证了Jolokia是否正常工作。此外,文章还介绍了JVM和Kafka的相关指标的采集规则和重点关注的指标,包括GC情况、内存情况、活跃控制器数量、非同步分区数量等。最后,文章强调了监控系统的重要性,并提供了Categraf的使用方法和相关指标的监控建议。 文章还详细介绍了Lag监控的重要性以及如何监控消费者滞后情况。通过对Lag数据的监控,读者可以及时发现消费者可能遇到的问题,保证监控数据的即时性。此外,文章还介绍了Categraf中如何配置Kafka的Lag监控,以及如何预估队列里的消费时长,从而及时发现问题。 总的来说,本文通过介绍Kafka的监控原理和具体操作,为读者提供了丰富的数据采集工具箱,有助于读者更好地了解和监控Kafka系统。文章内容丰富,涵盖了Kafka监控的各个方面,对于需要深入了解Kafka监控的读者来说,是一份非常有价值的资料。
《运维监控系统实战笔记》,新⼈⾸单¥59
全部留言(5)
- 最新
- 精选
- 龙渊秦五置顶关于 jmx_exporter 的描述有误,特做勘误,具体测试过程如下:https://mp.weixin.qq.com/s/_RLYGuGdz-gvuqZfg1_rFg 供各位小伙伴参考2023-02-10归属地:北京
- peter请教老师几个问题: Q1:流程理解是否对? A categraf部署在kafka上,采集指标数据,然后发送给jolokia,jolokia将数据转换为HTTP协议后发送到监控系统。B categraf和jolokia都位于kafka端,监控系统类似于server端。 这样理解对吗? Q2:怎么知道消费流量? BytesOutPerSec除了包含普通消费者的消费流量,也包含了副本同步流量,那么怎么知道普通消费者的消费流量? Q3:关键指标的仪表盘是Prometheus的吗?
作者回复: 1,jolokia或者jmx_exporter都是javaagent,注入到kafka的jvm里运行的,jolokia暴露http接口,categraf从这个http接口抓数据,然后上报给监控服务端 2,理论上,进来多少流量,就得同步多少流量给副本,如果只有一个副本,BytesOutPerSec - BytesInPerSec*1 就是业务消费流量,如果有两个副本,BytesOutPerSec - BytesInPerSec*2 就是业务消费流量 3,是夜莺的,不过也是基于PromQL的,可以手工转成Grafana的大盘。Prometheus自身是没有大盘的
2023-02-10归属地:北京1 - Geek_f31e99请问老师! kafka_consumer_lag_millis这个报警值,设置多大比较合适!
作者回复: 可以先设置为5min,然后慢慢调整为更合理的值
2023-02-14归属地:上海 - 冷如冰为什么全是语音。。。没视频?
编辑回复: 因为这不是视频课呀宝子,这是专栏课,是图文+音频形式的哦~
2023-02-12归属地:广东 - StackOverflow如果是k8s集群部署的 kafka,是不是使能 metrics,然后监控相应指标?2023-02-16归属地:上海