写点什么

如何离线分析 Kafka 海量业务消息?

  • 2019-10-23
  • 本文字数:1014 字

    阅读完需:约 3 分钟

如何离线分析Kafka海量业务消息?

场景介绍

说起 Kafka,许多使用者对它是又爱又恨。Kafka 是一种分布式的、基于发布/订阅的消息系统,其极致体验让人欲罢不能,但操心的运维、复杂的安全策略、可靠性易用性的缺失等,仍需要使用者付出诸多的背后工作。即使你是 Kafka 老手,也难免会有上述同样的烦恼。


与其整日操心 Kafka 的部署,不如试试云上 Kafka 带给你的惊喜?目前国内主流的云服务厂商均提供了云上的 Kafka 服务,为应用系统提供异步的消息队列服务。通过高可用的消息缓冲队列,实现应用解耦、突发流量处理及与第三方的互通和集成,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点。比如华为云分布式消息服务 DMS,帮助云端的应用程序组件去耦合,具有很高的成本效益。DMS 拥抱开源,提供支持兼容开源 Kafka 接口,用户可无缝迁移,按需使用。


分布式消息服务(Data Message Service,简称 DMS)Kafka 专享版支持采集增量的交易消息数据并上传到华为云对象存储服务(Object Storage Service,简称 OBS),通过实时流计算框架(例如 Flick)或者华为云实时流计算服务(Cloud Stream Service, 简称 CS)分析上传的交易数据,能够分析出最近交易指标等信息,以支持用户交易做决策。

申请环境与资源

1.开启转储


在更多列中点击开启转储即可开启消息转储功能

2.创建转储任务

等待开启转储任务完成后,即可以添加转储任务进行转储,点击实例链接进入实例管理里有转储管理页签,通过点击创建转储任务即可创建消息转储任务进行消息的转储,如下:



点击后,会弹出创建转储任务的详情:



需要填入打星号的必填参数。这里主要关注要填入的参数 Topics,即需要转储的 Topic 名称,支持多个 Topic 的输入或者正则表示的方式去订阅 Topic 消息,并把消息内容上传到 OBS 桶中。点击转储地址行中的选择按钮,弹出选择数据转储地址,会列出那些 OBS 桶可以被转储。



需要一提的是,如果没有 OBS 桶,则需要创建一个 OBS 桶用来存放 DIS 转储的数据。

3.查看转储任务

创建转储任务后,可以在转储管理页中看到这个任务信息,点击查看转储信息,可以实时查看转储 Topic 的消息转储进度。


查看 OBS 信息与分析数据

登录华为云 OBS 可以查看到转储地址桶的中存在分区的文件,已经按照转储时设定的时间格式上传到 dms-obs 桶中。



可以使用 Flink 等实时数据对上传目录的文件内容进行分析,得到分析后汇总结果展示即可。


本文转载自公众号中间件小哥(ID:huawei_kevin)。


原文链接:


https://mp.weixin.qq.com/s/nf_TAA6wTCUAuIQmZdow2w


2019-10-23 18:04954

评论

发布
暂无评论
发现更多内容

Hive UDF/UDAF 总结

windism

多种方式实现 LazyMan

局外人

大前端 队列 Promise

是的,你没看错,自己的APP也能运行微信小程序了

FinClip

小程序flutter, 跨平台 小程序生态 移动开发

C++函数模板的偏特化

Qing Wang

c++

anyRTC直播带货解决方案

anyRTC开发者

音视频 WebRTC 直播 RTC

干掉PPT!现场编码的职级晋升答辩你参加过么?

华为云开发者联盟

软件 开发者 API

动态代理玩不明白?别紧张,你只是缺少这个demo

小Q

Java 编程 程序员 开发 动态代理

【高并发】面试官:讲讲高并发场景下如何优化加锁方式?

冰河

性能优化 高并发 线程安全 同步 加锁

血亏!阿里P8轻易把总结了近一年的java高级特性笔记送人了

996小迁

Java 学习 架构 笔记 Java高级特性

一文带你了解文字识别

华为云开发者联盟

技术 识别 文字

spring-boot-route(十六)使用logback生产日志文件

Java旅途

Java Spring Boot logback

基于Flink+ClickHouse打造轻量级点击流实时数仓

Apache Flink

flink

风雨边城

满天星

美食 旅行

比MySQL快839倍!揭开分析型数据库JCHDB的神秘面纱

京东科技开发者

数据库 JCHDB

高难度对话读书笔记——表达自我

wo是一棵草

工作流引擎,企业运作加速器

Marilyn

敏捷开发 工作流 快速开发

软件测试人员的职业发展之路

BY林子

软件测试 QA 职业发展

区块链来了 职业教育这么干

CECBC

区块链 职业教育

通过MapReduce降低服务响应时间

万俊峰Kevin

mapreduce Go 语言

媒介狂想曲

善宝橘

媒介 想象

技术解读丨GaussDB数仓高可用容灾利器之逻辑备份

华为云开发者联盟

数据 容灾 备份

如何获得工作成就感

滴滴普惠出行

Java-技术专题-Pattern类与Matcher类详解

洛神灬殇

路径依赖:穷人很难逆袭突破的科学道理

陆通

程序人生 穷人 逆袭 突破

SpringBoot-技术专题-Caffeine用法

洛神灬殇

蚂蚁金服架构师分享一套内部Java并发编程进阶笔记,白嫖太香了

Java架构追梦

Java 学习 架构 面试 并发编程

十年Java开发经验,走了五年弯路,整理了一份Java架构师进阶路线及进阶资料!

Java架构之路

Java 程序员 面试 程序人生 编程语言

区块链应用众多难题“卡脖子”

CECBC

区块链 金融 供应链融资

区块链的浪潮开始涌动了

CECBC

区块链 期货

重新学习面向对象设计之开放-封闭原则

IT老兵重开始

面向对象设计 OCP 开闭原则

CloudQuery,数据库管理用它就够了!

BinTools图尔兹

数据库 sql 安全 工具软件

如何离线分析Kafka海量业务消息?_文化 & 方法_中间件小伟_InfoQ精选文章