写点什么

LinkedIn 详细介绍了由他们开源的 Kafka Monitor

  • 2016-06-14
  • 本文字数:1200 字

    阅读完需:约 4 分钟

在 2016 年 4 月份举行的 Kafka 峰会上,LinkedIn 在 Apache 2.0 许可协议开源 Kafka Monitor,并于近日详细介绍了该监控工具的架构以及他们最初的构建动机。在年初的时候,LinkedIn 曾在一篇有关Kafka 整体应用的文章中简单地提及过Kafka Monitor,但并没有详细介绍该项目的语义组成或者背后的动机。

Kafka Monitor 项目的动机有三个:

  1. 需要监控和测试 Kafka 部署并跟踪主干稳定性,以便他们能够尽早捕获正在开发的变更集中的问题;
  2. 需要不间断地在生产集群上监控 SLA,并不断地在测试集群上运行回归测试;
  3. 现有的监控框架无法满足其用例的扩展性、模块化需求,他们需要一个自定义的客户端库。

网站可靠性工程部门过去已经监控了输入速率、离线分区数和正在复制的分区数等指标,以确定 Kafka 集群的可用性和系统整体的健康状况。然而,问题在于,这类原始的值本身无法表明集群在终端用户体验方面是否真的可用。

在 LinkedIn 的公开出版物 Keystone Pipeline 里,他们提到了两个潜在的 Kafka 候选监控方案,微软的一个项目和Netflix Kafka 监控,但最终确定它们不适合自己的应用场景。

Kafka Monitor 允许开发人员组合模拟各种故障场景的模块,如 GC 中断、broker 硬杀及“滚动弹出(rolling bounces)”、磁盘故障,并随着场景进行收集有关服务运行时行为的指标。每次当生产者创建消息时抛出的异常被捕获,衡量生产者服务错误率的指标就会增加。消费者服务会跟踪一个由 Kafka 分区分割的增量索引计数器以及消息净荷的时间戳,以便度量消息丢失率、重复率以及端到端延迟。

Kafka Monitor 实例运行在一个单独的 Java 进程中,运行多个测试,介于用户或消费者服务与 Kafka 集群之间。Kafka Monitor 收集的运行时指标包括生产者服务的生产效率、消费者服务的消费效率、消息丢失、消息重复和端到端延迟。多个 Kafka Monitor 跨多个 Kafka 集群运行大量的测试场景,这可以由一个复制服务通过镜像方式捕获跨集群的总体延迟指标。

Kafka Monitor 原生支持 Java,但也为非 JVM 语言提供了一个 REST 接口。这对开源社区有着特殊的意义,LinkedIn 的 Dong Lin 表示:

我们一般会脱离 Apache Kafka 主干,并每季度生成一个新的内部版本,或者吸收 Apache Kafka 的新特性。脱离主干的一个显著的好处是,部署在 LinkedIn 生产集群中的 Kafka 经常有已经在 Apache Kafka 主干中检测到的问题,他们可以在 Apache Kafka 正式版本发布之前进行修复。

Kafka 项目本身包含一些系统测试,每次代码捡入时都会运行,鉴于和 Kafka 主干的紧密关系,LinkedIn 计划实现类似的系统测试。他们希望将 Kafka Monitor 和类似 Simoorg 这样的错误注入框架以及 Graphite 或类似的框架集成,以便能够通过一个单独的 Web 服务查看 Kafka Monitor 集群生成的所有指标。

LinkedIn 还简单地提到了如何设置基本的监控,生成并可视化核心指标。他们的 GitHub 页面提供了详细的信息。

查看英文原文 LinkedIn Details Open-Sourced Kafka Monitor

2016-06-14 19:005786
用户头像

发布了 1008 篇内容, 共 408.0 次阅读, 收获喜欢 346 次。

关注

评论

发布
暂无评论
发现更多内容

架构师训练营第0期-第1周-作业一

极客大学架构师训练营

【第一周】学习总结——架构方法、软件建模与设计文档

三尾鱼

极客大学架构师训练营

架构师训练营-学习总结

~就这样~

关于架构师这个角色的感悟

祝好

聊聊架构师

Jerry Tse

随笔杂谈 极客大学架构师训练营 作业

第一课 架构师的自我修养

Geek_bobo

架构师训练营-食堂就餐卡系统设计

彭灵俊

极客大学架构师训练营

架构师训练营第01周——UML练习

李伟

极客大学架构师训练营

Lesson 1 架构师如何做架构 心得笔记

edd

编程好习惯 极客大学架构师训练营 架构总结

什么叫架构师

平淡人生

极客大学架构师训练营

编译运行Zookeeper源码

CoderLi

Java zookeeper 程序员 源码分析 后端

架构师训练营 Week 01 学习总结

Kun

极客大学架构师训练营

架构师训练营第0期-第1周-作业二

极客大学架构师训练营

我不想做一个架构师

彭灵俊

极客大学架构师训练营

食堂就餐卡系统架构视图

梅子黄时雨

极客大学架构师训练营

实例学习绘画UML图

张瑞浩

第一节课的总结

王锟

食堂就餐卡系统设计

Acker飏

极客大学架构师训练营

食堂就餐卡系统架构设计

~就这样~

作业1:食堂就餐卡系统设计(UML)

蒜泥精英

第 1 周食堂就餐卡系统设计

陆不得

就餐卡设计文档

chengjing

就餐卡系统(时间太紧张,阅读了很多,我转载的这篇)

王锟

第一次课作业

lai

食堂就餐卡系统设计(第一周)

就餐卡系统设计

平淡人生

极客大学架构师训练营

就餐卡系统架构设计

祝好

食堂就餐卡系统设计

八两

作业2-学习心得

蒜泥精英

作业一:食堂就餐卡系统设计

独孤魂

极客大学架构师训练营

架构文档编写

清风明月

LinkedIn详细介绍了由他们开源的Kafka Monitor_开源_Dylan Raithel_InfoQ精选文章