写点什么

微软正式发布 Azure Event Hubs for Kafka

  • 2018-11-16
  • 本文字数:1261 字

    阅读完需:约 4 分钟

微软正式发布Azure Event Hubs for Kafka

最近,微软正式发布Azure Event Hubs for Kafka。用户将获得两方面的好处——Kafka 的生态系统和工具,以及 Azure 的安全性和全球规模。此外,通过将两个功能强大的分布式流媒体平台集成在一起,用户无需管理服务器或网络即可访问 Kafka 生态系统应用程序。


6 月初,InfoQ报道了 Kafka 与 Azure Event Hubs 集成预览版,当时负责 Azure Event Hubs 的工程团队为他们的用户提供了一个 Kafka 端点,用于将事件数据通过流式的方式导入其中。现在,集成已经具备了一般可用性,并且该团队还添加了新功能,让用户能够从使用 Kafka 协议的应用程序将数据以流式的方式传输到 Event Hubs,而且只需要修改连接字符串。此外,用户可以继续使用现有的 Kafka 应用程序、框架和工具与 Event Hub 进行通信。


有了 Event Hubs for Kafka,用户可以使用 Kafka 协议直接将事件从应用程序流式传输到 Event Hubs。微软负责管理这项服务,用户不需要运行 Zookeeper,也不需要控制或配置任何群集。此外,Azure Service Bus 项目经理 Shubha Vijayasarathy 在最近的 Azure Friday 节目中说:


使用 Azure Event Hubs for Kafka 的最大好处是你不需要修改客户端,也不需要更改代码、生产者、应用程序、工具或框架。


用户也可以使用 Kafka Connect 或 MirrorMaker 与 Event Hubs 通信,也无需更改任何代码。


根据公告博客,Kafka 与 Azure Event Hub 集成的其他好处是:


利用 Event Hubs 将数据发送到 Blob 存储或 Data Lake 存储,以便进行长期保留或使用Event Hubs Capture微批次处理。


从兆字节数据级别扩展到太字节数据级别,同时通过Auto-Inflate控制何时以及可以扩展多少。


支持 Event Hubs for Geo Disaster-Recovery


Event Hubs 与 Azure Databricks、Azure Stream Analytics 和 Azure Functions 等其他 Azure 服务深度集成。因此,用户可以进行进一步的分析和处理。


Event Hubs for Kafka 支持 Apache Kafka 1.0 及更高版本——该工程团队已经将Apache Kafka协议映射到原生 AMQP 1.0 协议。此外,这种协议转换允许其他基于 AMQP 1.0 的应用程序与 Kafka 应用程序通信。基于 JMS 的应用程序可以使用Apache Qpid向基于 Kafka 的消费者发送数据。


Azure Event Hubs 和 Kafka 都旨在处理大规模的实时流摄取,而且是分布式、分区的复制提交日志服务。此外,两者都使用了具有客户端游标概念的分区消费者模型,为工作负载提供了水平可伸缩性。通过为 Kafka 添加端点,Event Hub 可以模拟 Kafka。在 Azure Friday 节目中,Shubha Vijayasarathy 解释了两者的概念架构:


在 Event Hubs 的概念架构中,你有一个 Event Hub 或 Kafka 主题,两者非常相似。Event Hubs 或 Kafka 获取数据的方式都是通过分区,数据就分布在这些分区中。你有一群事件生产者,以及一群对这些数据感兴趣的事件接收者,数据以统一的模式分布在 Event Hubs 或 Kafka 主题中。



有关 Azure Event Hubs for Apache Kafka 的更多详细信息,请参见网站文档定价页面提供了定价详情


查看英文原文:Microsoft Announces the General Availability of Azure Event Hubs for Apache Kafka


2018-11-16 07:081352
用户头像

发布了 731 篇内容, 共 459.6 次阅读, 收获喜欢 2004 次。

关注

评论

发布
暂无评论
发现更多内容

业务全面重塑,“人”要如何重塑?

用友BIP

人才管理

软件测试/测试开发丨Bug生命周期

测试人

软件测试 测试开发

半岛铁盒推出22.5W超级快充充电宝:双线快充,超能补量

科技热闻

杭州悦数成立「悦数图技术陆家嘴数据智能研究院」入驻上海「双城辉映」平台

悦数图数据库

图数据库

TiDB在银行业核心系统POC测试应用压测参考手册

TiDB 社区干货传送门

性能调优 性能测评 数据库架构设计 应用适配 OLTP 场景实践

SecGPT:全球首个网络安全开源大模型

云起无垠

软件测试/测试开发丨常用测试策略与测试手段

测试人

软件测试 测试开发

软件测试/测试开发|如何使用因果图法设计测试用例?

霍格沃兹测试开发学社

记三次升级 TiDB 集群到 v6.1.5 遇到的案例分析过程&升级收益

TiDB 社区干货传送门

版本升级 管理与运维 6.x 实践

什么是3D模型LOD:细节级别

3D建模设计

3D渲染 材质纹理贴图 3D材质编辑

可视化技术:数据可视化17个常用图表

2D3D前端可视化开发

大数据 数据分析 数据可视化 数据可视化工具 可视化大屏

文心一言专业版年卡来啦!

飞桨PaddlePaddle

人工智能 文心一言

PON网络应用场景

小齐写代码

如何使用不同的纹理贴图制作逼真的 3D 图形?

3D建模设计

3D渲染 材质纹理贴图 3D材质编辑

我们不可能永远都在救火 ——Scrum中技术债务“偿还”指南

敏捷开发

项目管理 Scrum 敏捷开发 自动化测试 技术债务

软件测试/测试开发|如何使用场景法设计测试用例?

霍格沃兹测试开发学社

Flink CDC 3.0 正式发布,详细解读新一代实时数据集成框架

Apache Flink

大数据 flink 实时计算

基于Flink SQL 和 Paimon 构建流式湖仓新方案

Apache Flink

大数据 flink 实时计算

【新手升级必看】从 TiDB v6.5升级到 v7.5 的实践步骤

TiDB 社区干货传送门

版本升级

什么是多边形网格以及如何编辑它?

3D建模设计

3D渲染 材质纹理贴图 3D材质编辑

大模型热的冷思考

用友BIP

企业服务大模型

软件测试/测试开发|如何解决pip下载速度慢的问题

霍格沃兹测试开发学社

数字时代B2B订货平台,助力渠道业绩持续增长

赛博威科技

赛博威 经销商管理 订货平台

【资源汇总】TiDB-TiCDC 源码解读系列最全资源!!!

TiDB 社区干货传送门

软件测试/测试开发丨测试用例的概念、组成、优先级、设计工具

测试人

软件测试 测试开发

六步走向无忧,华为云数据库高可用的秘密武器

华为云开发者联盟

数据库 后端 华为云 华为云开发者联盟

“Ladies In Tech 闪闪发光的她”分论坛圆满举办

开放原子开源基金会

开源

软件测试/测试开发丨Bug概念,定义,判定标准,严重程度,优先级

测试人

软件测试 测试开发

微软正式发布Azure Event Hubs for Kafka_大数据_Steef-Jan Wiggers_InfoQ精选文章