写点什么

如何离线分析 Kafka 海量业务消息?

  • 2019-10-23
  • 本文字数:1014 字

    阅读完需:约 3 分钟

如何离线分析Kafka海量业务消息?

场景介绍

说起 Kafka,许多使用者对它是又爱又恨。Kafka 是一种分布式的、基于发布/订阅的消息系统,其极致体验让人欲罢不能,但操心的运维、复杂的安全策略、可靠性易用性的缺失等,仍需要使用者付出诸多的背后工作。即使你是 Kafka 老手,也难免会有上述同样的烦恼。


与其整日操心 Kafka 的部署,不如试试云上 Kafka 带给你的惊喜?目前国内主流的云服务厂商均提供了云上的 Kafka 服务,为应用系统提供异步的消息队列服务。通过高可用的消息缓冲队列,实现应用解耦、突发流量处理及与第三方的互通和集成,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点。比如华为云分布式消息服务 DMS,帮助云端的应用程序组件去耦合,具有很高的成本效益。DMS 拥抱开源,提供支持兼容开源 Kafka 接口,用户可无缝迁移,按需使用。


分布式消息服务(Data Message Service,简称 DMS)Kafka 专享版支持采集增量的交易消息数据并上传到华为云对象存储服务(Object Storage Service,简称 OBS),通过实时流计算框架(例如 Flick)或者华为云实时流计算服务(Cloud Stream Service, 简称 CS)分析上传的交易数据,能够分析出最近交易指标等信息,以支持用户交易做决策。

申请环境与资源

1.开启转储


在更多列中点击开启转储即可开启消息转储功能

2.创建转储任务

等待开启转储任务完成后,即可以添加转储任务进行转储,点击实例链接进入实例管理里有转储管理页签,通过点击创建转储任务即可创建消息转储任务进行消息的转储,如下:



点击后,会弹出创建转储任务的详情:



需要填入打星号的必填参数。这里主要关注要填入的参数 Topics,即需要转储的 Topic 名称,支持多个 Topic 的输入或者正则表示的方式去订阅 Topic 消息,并把消息内容上传到 OBS 桶中。点击转储地址行中的选择按钮,弹出选择数据转储地址,会列出那些 OBS 桶可以被转储。



需要一提的是,如果没有 OBS 桶,则需要创建一个 OBS 桶用来存放 DIS 转储的数据。

3.查看转储任务

创建转储任务后,可以在转储管理页中看到这个任务信息,点击查看转储信息,可以实时查看转储 Topic 的消息转储进度。


查看 OBS 信息与分析数据

登录华为云 OBS 可以查看到转储地址桶的中存在分区的文件,已经按照转储时设定的时间格式上传到 dms-obs 桶中。



可以使用 Flink 等实时数据对上传目录的文件内容进行分析,得到分析后汇总结果展示即可。


本文转载自公众号中间件小哥(ID:huawei_kevin)。


原文链接:


https://mp.weixin.qq.com/s/nf_TAA6wTCUAuIQmZdow2w


2019-10-23 18:04985

评论

发布
暂无评论
发现更多内容

38 | 分治算法:谈一谈大规模计算框架MapReduce中的分治思想

鲁米

数据中台即服务——数据中台的四大支柱

用友BIP

京东哥伦布即时设计平台ChatGPT落地实践 | 京东云技术团队

京东科技开发者

前端 ChatGPT 即时设计

光纤的连接

小齐写代码

分布式基础概念-消息中间件[Kafka]

派大星

大数据 Java 面试题

云桌面的应用场景及利弊

青椒云云电脑

云桌面 云电脑 云桌面系统

39 | 回溯算法:从电影《蝴蝶效应》中学习回溯算法的核心思想

鲁米

数据驱动国有企业数智化转型,平台底座将发挥重要作用

用友BIP

数据驱动

11种编程语言中,返回多个不同类型的方法样例

华为云开发者联盟

编程语言 开发 华为云 华为云开发者联盟

JAVA基于物联网技术的智慧校园电子班牌原生微信小程序源码

源码星辰

智慧校园管理系统

阿里云人工智能平台PAI多篇论文入选EMNLP 2023

阿里云大数据AI技术

AI

如何删除/替换3D模型的材质贴图

3D建模设计

材质合批 材质修改 材质贴图 材质纹理

模型放置到3D场景中后模型位置与鼠标选中的位置不一致怎么办?

3D建模设计

材质合批 材质修改 材质贴图 材质纹理

从技术角度分析如何选择灰度测试方式

Onegun

功能测试 灰度测试

GLB/GLTF 模型压缩轻量化

3D建模设计

材质合批 材质修改 材质贴图 材质纹理

一招MAX降低10倍,现在它是我的了 | 京东云技术团队

京东科技开发者

缓存 性能优化 缓存优化 OHC

HarmonyOS:使用MindSpore Lite引擎进行模型推理

HarmonyOS开发者

HarmonyOS

最佳实践 | 第七在线助力绫致时装集团配补调提升运营能力

第七在线

摆脱Excel 寻求现代零售智能化管理的出路

第七在线

最佳实践 | 第七在线智能采购计划助力全渠道销售决策

第七在线

云桌面技术的革新

青椒云云电脑

桌面云 云桌面

如何创建逼真的3D模型

3D建模设计

材质修改 材质贴图 材质纹理

中国如何才能出世界级零售企业?

第七在线

云教室服务器配置详解

青椒云云电脑

云教室 云教室解决方案

桌面云的发展前景与机遇

青椒云云电脑

桌面云 云桌面 云桌面厂家

第七在线(7thonline):助力零售业解决发展难题,驱动智能化转型

第七在线

CNCF首个云原生多云容器编排项目Karmada正式晋级孵化

华为云开发者联盟

云原生 后端 华为云 华为云开发者联盟

如何离线分析Kafka海量业务消息?_文化 & 方法_中间件小伟_InfoQ精选文章