写点什么

下一代大数据实时监控系统

  • 2019-08-27
  • 本文字数:719 字

    阅读完需:约 2 分钟

下一代大数据实时监控系统

QCon上海2018大会上,李双江讲师做了《下一代大数据实时监控系统》主题演讲,主要内容如下。


演讲简介


在大规模网络下,随着 gRPC 协议方式的采集的普及, 响应速度快,实时性高,采集数据更全面。如何将这些 gRPC 采集方式带来的众多优点不打折扣的提供给网络运维人员,给下一代的大数据实时监控系统带来了一定的挑战。


为此,我们引入了一套基于流式计算(Blink 基于开源的 Apache Flink)和内存数据存储(Apache Ignite)方式的实时告警系统。借助 Kafka 和 HBase 实现数据缓存,Blink 进行流式计算,Ignite 进行实时的业务告警。并 Blink 的 SQL 方式进行实时计算和规则生成,通过 Ignite 开放 SQL 开发实现了数据的低延迟实时查询服务。本次分享主要介绍我们在以上方面的一些经验。

听众受益

  1. 了解如何设计一套更实时、满足多业务场景需求的大数据监控系统;

  2. 了解 Blink 和 Ignite 在大数据监控系统中的应用;

  3. 了解传统的 SQL 如何在整个系统中发挥作用,带来更大的灵活性和业务扩展性。


讲师介绍


李双江


阿里巴巴 Senior Engineer


李双江,阿里巴巴技术专家,美国田纳西大学计算机工程博士,研究方向为机器学习优化算法,应用于图像、视频、计算机网络等领域。在 Java 语言,网络协议、网络安全、大数据处理和分布式系统领域有多年经验。现担任多个 SCI 期刊及 IEEE/ACM 会议的编辑、委员及技术委员会主席。


自 2017 年起加入阿里巴巴,目前负责开发阿里巴巴基础设施事业群(Alibaba Infrastructure Service)网络研发事业部下一代监控系统的研发,大规模数据挖掘、故障异常检测、网络运维可视化项目等。闲暇之余,爱好跑步,游泳和骑车。曾完成多次马拉松和铁人三项比赛。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/shanghai/schedule


2019-08-27 15:583111

评论

发布
暂无评论
发现更多内容

垃圾分类与AI的反碎片之旅

百度大脑

人工智能 EasyDL

【SpringCloud技术专题】「Eureka源码分析」从源码层面让你认识Eureka工作流程和运作机制(上)

码界西柚

源码分析 Eureka spring-cloud 9月日更

什么是可中断锁?有什么用?怎么实现?

王磊

9月日更

Vue进阶(幺零四):elementUI 应用 $notify 提示信息中换行问题

No Silver Bullet

Vue 9月日更

编程基础:硬件同步原语

正向成长

CAS 硬件同步原语 FAA

maven-dependency中作用域scope含义

一个大红包

9月日更

全网最新最全面Java程序员面试清单(12专题5000解析)

Java 架构 面试 程序人生 程序

网络攻防学习笔记 Day131

穿过生命散发芬芳

网络安全 9月日更

数字技术重构产业链供应链比较优势

CECBC

为什么 Golang 正在接管软件行业

云原生

云计算 Kubernetes 云原生 编程语言 Go 语言

解决网卡“Device eth0 does not seem to be present, delaying initialization”

耳东@Erdong

9月日更 网卡

总结下ThinkPHP的代码审计方法

网络安全学海

php 网络安全 信息安全 WEB安全 代码审计

ServiceWorker工作原理、生命周期和使用场景

devpoint

Service Worker 9月日更

Rust 从 0 到 1

rust

聊聊Java运算符的那些事

Bob

Java 9月日更

Python顺序结构选择结构

在即

9月日更

新鲜出炉!腾讯3轮面试,拿53k*15offer全仰仗这份Java面试神技

Java 编程 架构 面试 程序人生

MimeType文件格式速查表

入门小站

工具

15. 弱人工智能、强人工智能、超人工智能

Databri_AI

人工智能

我怀疑,你对996的力量一无所知!

艾小仙

程序员 996

HTML进阶

Augus

html 9月日更

统一区块链应用接口,加速新场景落地

CECBC

Java中对千万级数据量的表进行插入操作(MYSQL)

张音乐

Java MySQL JDBC 9月日更

云南推进“区块链+数据中心”融合发展

CECBC

linux之type命令

入门小站

Linux

Golang 中的整洁架构

baiyutang

架构 DDD Go 语言 9月日更

让Chrome爽到飞起的5款小众插件!

Jackpop

性能测试中异步展示测试进度

FunTester

性能测试 接口测试 测试框架 进度条 FunTester

每个人都在谈数据治理,每个人都治理不好

奔向架构师

数据仓库 数据治理 9月日更

低代码开发:实现传统系统信息化的3种方案!

优秀

低代码 低代码开发

深入理解rtmp(一)之开发环境搭建

轻口味

android 音视频 直播 9月日更

下一代大数据实时监控系统_QCon_李双江_InfoQ精选文章