写点什么

下一代大数据实时监控系统

  • 2019-08-27
  • 本文字数:719 字

    阅读完需:约 2 分钟

下一代大数据实时监控系统

QCon上海2018大会上,李双江讲师做了《下一代大数据实时监控系统》主题演讲,主要内容如下。


演讲简介


在大规模网络下,随着 gRPC 协议方式的采集的普及, 响应速度快,实时性高,采集数据更全面。如何将这些 gRPC 采集方式带来的众多优点不打折扣的提供给网络运维人员,给下一代的大数据实时监控系统带来了一定的挑战。


为此,我们引入了一套基于流式计算(Blink 基于开源的 Apache Flink)和内存数据存储(Apache Ignite)方式的实时告警系统。借助 Kafka 和 HBase 实现数据缓存,Blink 进行流式计算,Ignite 进行实时的业务告警。并 Blink 的 SQL 方式进行实时计算和规则生成,通过 Ignite 开放 SQL 开发实现了数据的低延迟实时查询服务。本次分享主要介绍我们在以上方面的一些经验。

听众受益

  1. 了解如何设计一套更实时、满足多业务场景需求的大数据监控系统;

  2. 了解 Blink 和 Ignite 在大数据监控系统中的应用;

  3. 了解传统的 SQL 如何在整个系统中发挥作用,带来更大的灵活性和业务扩展性。


讲师介绍


李双江


阿里巴巴 Senior Engineer


李双江,阿里巴巴技术专家,美国田纳西大学计算机工程博士,研究方向为机器学习优化算法,应用于图像、视频、计算机网络等领域。在 Java 语言,网络协议、网络安全、大数据处理和分布式系统领域有多年经验。现担任多个 SCI 期刊及 IEEE/ACM 会议的编辑、委员及技术委员会主席。


自 2017 年起加入阿里巴巴,目前负责开发阿里巴巴基础设施事业群(Alibaba Infrastructure Service)网络研发事业部下一代监控系统的研发,大规模数据挖掘、故障异常检测、网络运维可视化项目等。闲暇之余,爱好跑步,游泳和骑车。曾完成多次马拉松和铁人三项比赛。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/shanghai/schedule


2019-08-27 15:583058

评论

发布
暂无评论
发现更多内容

“程”风破浪的开发者|学习力是这个时代的终极竞争力

石云升

学习方法 知行合一 10月月更 “程”风破浪的开发者

熬夜整理前端高频面试题(已拿offer)

loveX001

JavaScript

【一Go到底】第二十七天---数组注意事项及细节

指剑

Go 10月月更 goalgn

架构实战营 - 学生管理系统架构设计

π

#架构实战营

使用NeuVector开展云原生安全测试

QE_LAB

云原生 安全测试

线性表数据结构和使用数组实现顺序表

石柒

10月月更

JavaScript数组常用方法大全

CoderBin

JavaScript 面试 前端 数组 10月月更

架构实战训练营模块 3 作业

atcgnu

一文带你了解 Python 中的继承知识点

宇宙之一粟

Python 面向对象 继承 10月月更

ARM架构下的Docker环境,OpenJDK官方没有8版本镜像,如何完美解决?

程序员欣宸

Java Docker 10月月更

前端安全性问题以及防御措施

甜点cc

前端 安全 学习笔记 10月月更

第九期-模块三

wuli洋

offset新探索:双管齐下,加速大数据量查询

华为云开发者联盟

数据库 后端 华为云 企业号十月 PK 榜

面试官:聊聊长连接下的负载均衡

小小怪下士

Java 负载均衡 程序员 TCP

技术同学如何面对裁员浪潮?

老张

职场发展 求职面试

Kafka生产者客户端几种异常Case详解

石臻臻的杂货铺

kafka Kafka实战 10月月更

vue项目启动失败,内存不足处理

甜点cc

JavaScript Vue V8 10月月更

3分钟快速了解什么是千兆以太网?

wljslmz

网络技术 以太网 10月月更 千兆以太网

Laravel-EloquentORM高级部分解析

乌龟哥哥

10月月更

阶段三作业

Johnny

#架构实战营

如何快速解决恶意进程导致CPU飙升问题 | Linux | 运维

Appleex

Linux centos 运维 cpu 服务器

String源码分析(一)

知识浅谈

10月月更

“程”风破浪的开发者|OpenHarmony 开发环境搭建

鸿蒙之旅

OpenHarmony 10月月更 “程”风破浪的开发者

node版本管理器:nvm 和 n区别

乌龟哥哥

10月月更

高效IO之零拷贝技术

乌龟哥哥

10月月更

模块三作业-外包学生管理系统架构设计

Diana S

架构训练营

“程”风破浪的开发者|数据包分析思路方法分享

穿过生命散发芬芳

学习方法 数据包分析 10月月更 “程”风破浪的开发者

数据湖(十二):Spark3.1.2与Iceberg0.12.1整合

Lansonli

数据湖 10月月更

项目开发全流程梳理

甜点cc

团队管理 技术管理 敏捷研发 10月月更

假如面试官问你Babel的原理该怎么回答

loveX001

JavaScript

【web 开发基础】PHP 的流程控制之嵌套(巢状)条件分支结构 -PHP 快速入门 (15)

迷彩

嵌套条件表达式 10月月更 web开发基础 PHP基础

下一代大数据实时监控系统_QCon_李双江_InfoQ精选文章