首页 > 代码库 > kafka监控

kafka监控

做kafka相关项目,需要用到监控的东东,找到了两个方法

第一个:

http://quantifind.com/KafkaOffsetMonitor/

非常容易上手,效果也直观,可以显示各个topic consumer的offset broker存储log的长度

不过发现一个bug就是当 consumer没有commit offset的时候 这个topic就不会显示它的消费情况

使用方法就是直接启动一个jar包 配好zookeeper就好了

Topic List

第二个比较直接:就是kafka直接提供jmx接口进行监控

首先需要把jmx打开 方法参照了:

http://blogs.impetus.com/big_data/big_data_technologies/kafka-monitoring-using-jmx-jmxtrans.do

Step-I: Setup JMXTrans on all the machines of the Kafka cluster as done on the Storm cluster in the previous post.
Step-II: In the kafka setup, edit “kafka-run-class.sh” script file by adding the following line to it:
KAFKA_JMX_OPTS="-Dcom.sun.management.jmxremote=true -Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.jmxremote.ssl=false "
Step-III: Also, edit the “kafka-server-start.sh” script file present in the kafka setup to set the JMX port to 9999 by adding the following line:
export JMX_PORT=${JMX_PORT:-9999}                                    
apache的wiki推荐了四种jmx reporter
https://cwiki.apache.org/confluence/display/KAFKA/JMX+Reporters
本人实践中采用了jmxtrans 就是将jmx的信息以json格式汇报出来 比较好方便集成到现有的监控系统当中
https://github.com/jmxtrans/jmxtrans

 

kafka监控