写点什么

微软正式发布 Azure Event Hubs for Kafka

  • 2018-11-16
  • 本文字数:1261 字

    阅读完需:约 4 分钟

微软正式发布Azure Event Hubs for Kafka

最近,微软正式发布Azure Event Hubs for Kafka。用户将获得两方面的好处——Kafka 的生态系统和工具,以及 Azure 的安全性和全球规模。此外,通过将两个功能强大的分布式流媒体平台集成在一起,用户无需管理服务器或网络即可访问 Kafka 生态系统应用程序。


6 月初,InfoQ报道了 Kafka 与 Azure Event Hubs 集成预览版,当时负责 Azure Event Hubs 的工程团队为他们的用户提供了一个 Kafka 端点,用于将事件数据通过流式的方式导入其中。现在,集成已经具备了一般可用性,并且该团队还添加了新功能,让用户能够从使用 Kafka 协议的应用程序将数据以流式的方式传输到 Event Hubs,而且只需要修改连接字符串。此外,用户可以继续使用现有的 Kafka 应用程序、框架和工具与 Event Hub 进行通信。


有了 Event Hubs for Kafka,用户可以使用 Kafka 协议直接将事件从应用程序流式传输到 Event Hubs。微软负责管理这项服务,用户不需要运行 Zookeeper,也不需要控制或配置任何群集。此外,Azure Service Bus 项目经理 Shubha Vijayasarathy 在最近的 Azure Friday 节目中说:


使用 Azure Event Hubs for Kafka 的最大好处是你不需要修改客户端,也不需要更改代码、生产者、应用程序、工具或框架。


用户也可以使用 Kafka Connect 或 MirrorMaker 与 Event Hubs 通信,也无需更改任何代码。


根据公告博客,Kafka 与 Azure Event Hub 集成的其他好处是:


利用 Event Hubs 将数据发送到 Blob 存储或 Data Lake 存储,以便进行长期保留或使用Event Hubs Capture微批次处理。


从兆字节数据级别扩展到太字节数据级别,同时通过Auto-Inflate控制何时以及可以扩展多少。


支持 Event Hubs for Geo Disaster-Recovery


Event Hubs 与 Azure Databricks、Azure Stream Analytics 和 Azure Functions 等其他 Azure 服务深度集成。因此,用户可以进行进一步的分析和处理。


Event Hubs for Kafka 支持 Apache Kafka 1.0 及更高版本——该工程团队已经将Apache Kafka协议映射到原生 AMQP 1.0 协议。此外,这种协议转换允许其他基于 AMQP 1.0 的应用程序与 Kafka 应用程序通信。基于 JMS 的应用程序可以使用Apache Qpid向基于 Kafka 的消费者发送数据。


Azure Event Hubs 和 Kafka 都旨在处理大规模的实时流摄取,而且是分布式、分区的复制提交日志服务。此外,两者都使用了具有客户端游标概念的分区消费者模型,为工作负载提供了水平可伸缩性。通过为 Kafka 添加端点,Event Hub 可以模拟 Kafka。在 Azure Friday 节目中,Shubha Vijayasarathy 解释了两者的概念架构:


在 Event Hubs 的概念架构中,你有一个 Event Hub 或 Kafka 主题,两者非常相似。Event Hubs 或 Kafka 获取数据的方式都是通过分区,数据就分布在这些分区中。你有一群事件生产者,以及一群对这些数据感兴趣的事件接收者,数据以统一的模式分布在 Event Hubs 或 Kafka 主题中。



有关 Azure Event Hubs for Apache Kafka 的更多详细信息,请参见网站文档定价页面提供了定价详情


查看英文原文:Microsoft Announces the General Availability of Azure Event Hubs for Apache Kafka


2018-11-16 07:081359
用户头像

发布了 731 篇内容, 共 461.3 次阅读, 收获喜欢 2004 次。

关注

评论

发布
暂无评论
发现更多内容

TDengine JDBC整合Druid

山石道人

涛思数据 tdengine Druid Spring MVC taos-jdbc

阿里P8手抄本惨遭泄露,并出现病毒式传播,致28人斩获大厂offer

Java架构师迁哥

“用友 • 华为云杯”第三届企业云服务开发者大赛

ToB行业头条

开发者 低代码 用友

构筑智能制造时代“四重护城河”,联想中国开创产业新格局

科技大数据

我是如何从设计师转到软件行业的? | 可怜巴巴的程序猿

Python研究所

随笔 话题讨论

香帅:2021年财富格局新变化

石云升

读书笔记 7月日更

相约山城重庆!HarmonyOS Connect伙伴峰会将于7月16日举办

科技汇

每天学习10个实用Javascript代码片段(三)

devpoint

JavaScript JSON格式化 7月日更

网络攻防学习笔记 Day68

穿过生命散发芬芳

网络攻防 7月日更

聊聊事务与分布式系统-从零讲到通透

刘绍

sql 分布式 事务 2PC XA

再获权威认可!DataPipeline实时数据融合平台通过信通院大数据产品能力评测

DataPipeline数见科技

大数据 数据融合 数据管理

技术干货 | 录屏采集实现教程 —— Android端

ZEGO即构

大前端 音视频 录屏采集 Android端

5分钟学会本地Pypi源搭建

Python研究所

Python

百度搜索稳定性问题分析的故事(上)

百度开发者中心

百度搜索

CDH 的安装(四)

大数据技术指南

CDH 7月日更

云南智慧公安研判分析系统搭建,重点人员研判分析平台

【架构实战营】第 7 模块作业

swordman

架构实战营

正式发布!中国首个LF Edge捐赠项目Baetyl 2.2发布

百度开发者中心

物联网 开源技术

用好“实时数据管理”助推器,旭辉集团加快数字化转型步伐

DataPipeline数见科技

大数据 数据融合 数据管理

爆款阿里P5到P7晋升之路,九大源码文档助我超神果然努力幸运并存

Java BAT

“京东商城”亿级高并发秒杀系统到底是怎么设计的?自己做该如何下手?

Java架构师迁哥

MindSpore教程免费学,还有入门奖品

Geek_6cdeb6

人工智能 机器学习 深度学习 自我提升 羊毛

一图读懂DataPipeline实时数据融合平台V3.0

DataPipeline数见科技

大数据 数据融合 数据管理

半年摸爬滚打,我是如何从小白进阶渗透测试工程师

网络安全学海

黑客 网络安全 信息安全 渗透测试 漏洞分析

图的应用——拓扑排序

若尘

数据结构 拓扑排序

北鲲云助力生命科学,高性能计算突破屏障

北鲲云

2021百度云智峰会|DataPipeline携手百度赋能实时数据资产构建与应用

DataPipeline数见科技

大数据 数据融合 数据管理

Redis学习之Redis概述及原理、基本操作及持久化

Linux服务器开发

redis 分布式 后端 中间件 Linux服务器开发

接任务时一定要锁定需求啊!(转自小明同学)

BinTools图尔兹

数据库 dba 国产数据库 运维开发

Flink进入大厂面试准备,收藏这一篇就够了

五分钟学大数据

flink 7月日更

Mobileye智慧出行再加码,中国市场生态建设取得新进展

E科讯

微软正式发布Azure Event Hubs for Kafka_大数据_Steef-Jan Wiggers_InfoQ精选文章