作者回复: 根据社区的报告,Kafka 1.1.0之后可以支持单集群20万个分区。和集群规模不能说没有关系,但其实和集群总的物理硬件资源有很大关系。
作者回复: 无论是Broker端还是Clients端启动前要先设置JMX_PORT,然后使用任何能够连接JMX MBean Server的工具或框架连接(如JConsole)就能看到了
作者回复: 这里都是IINFO日志看不出有什么问题,有其他日志吗?
作者回复: 我觉得Kafka Manager就挺不错的
作者回复: 这个取决于你对消费延时的定义。从Kafka的角度,当poll方法返回后,消息已经算是被消费了,但通常我们获取到消息后还要对消息进行处理,如果你认为处理完成后才算是消费就要加上这部分的时间,但处理逻辑、工具、方法都不尽相同,因此你需要自己来监控消息处理的总时间。
作者回复: 如果性能okay而仅仅是你觉得不太好,那么我认为先不用拆分。单个topic最多能有多少partition没有定数,主要还是看底层物理资源。当然分区数过多,使得broker上平均分区数增加的确会降低Kafka的TPS。
作者回复: 能详细解释下”删掉broker”的含义吗?
作者回复: 大数据Kafka技术分享
作者回复: 那就单台多broker吧,不过网卡最好万兆
作者回复: 不太清楚kafka manager API是怎么实现的。你可以用下jmxtool工具去实时监控下Kafka提供的JMX,看看是否有延迟呢?
作者回复: 3个值的排序是过去1分钟,5分钟和15分钟,因此表明load越来越大
作者回复: 如果group不使用了,它的状态就是nonactive了,一段时间之后Kafka会自动删除的它数据。如果判断状态的话,新一点版本的Kafka可以使用kafka-consumer-groups --describe --group *** 来查看group状态。
作者回复: 不确定您指的支持是什么意思。Kafka有开源的Connect组件接收SNMP traps,但如果是指Kafka的请求协议的话,那么Kafka是自己设计的一套二进制协议,底层用TCP。没有用到SNMP