写点什么

腾讯实时流计算平台演进之路

  • 2019-08-06
  • 本文字数:696 字

    阅读完需:约 2 分钟

腾讯实时流计算平台演进之路

QCon北京2019大会上,杨华讲师做了《腾讯实时流计算平台演进之路》主题演讲,主要内容如下。


演讲简介


腾讯实时计算团队为业务部门提供高效、稳定和易用的实时数据服务。其每秒接入的数据峰值达到了 2.1 亿条,每天接入的数据量达到了 17 万亿条,每天的数据增长量达到了 3PB,每天需要进行的实时计算量达到了 20 万亿次。


随着业务规模不断扩大,业务需求不断增多,原先基于 Storm 构建的实时计算平台遇到了很多问题。在此背景下,我们选择用 Flink 替换 Storm 作为新一代的实时流计算引擎,我们对社区版的 Flink 进行了深度的优化,并在此之上构建了一个集开发、测试、部署和运维于一体的一站式可视化实时计算平台——Oceanus;同时,我们也基于 Oceanus 向云端客户提供了流计算服务——Stream Compute Service,应用到电商、游戏、互联网金融等泛互联网企业客户。本分享我们会介绍腾讯流计算技术的演进过程,产品化及云端对外服务进展。

听众受益

  1. 为什么要实时计算引擎从 Storm 替换成 Flink;

  2. 我们在使用社区版的 Flink 时遇到了哪些问题,做了哪些改进与增强;

  3. 腾讯实时计算平台提供了哪些功能特性来简化用户构建流计算应用复杂度;

  4. 腾讯实时计算平台后续的功能、特性预览。


讲师介绍


杨华


腾讯 大数据高级工程师


杨华(vinoyang)腾讯大数据高级工程师,参与腾讯实时流计算平台 Oceanus 底层 Flink 引擎的研发与维护,经历了 Flink 在腾讯从零开始落地到目前支撑日均近 20 万亿消息处理规模的全过程。拥有多年的分布式、大数据系统研发经验,Flink 国内较早的布道者之一,也是 Flink 及多个 Apache 项目的长期活跃贡献者。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2019/beijing/schedule


2019-08-06 08:001508

评论

发布
暂无评论
发现更多内容

Java 面试都只是背答案不

HoneyMoose

关于区块链技术的学习笔记(一)

姬翔

负载均衡的原理与设计

海明菌

负载均衡 负载均衡算法 负载均衡架构

网络攻防学习笔记 Day100

穿过生命散发芬芳

态势感知 网络攻防 8月日更

Grafana 配置 Thanos 查询历史数据

耳东@Erdong

Grafana Prometheus Thanos 8月日更

有什么理由将代码保存为 GBK 编码

HoneyMoose

碳中和将为中国带来什么? 绿色转型如何驱动经济跃升?

CECBC

全国有待形成数据资产市场 区块链、人工智能或成重要支撑技术

CECBC

php 精度问题

一个大红包

8月日更

“善于治”和“以善治”:华为云Stack在智慧城市的十年踪迹十年心

脑极体

绝绝子!腾讯大牛1909页的leetcode刷题笔记,细节满满

Java 编程 架构 面试 程序人生

奥运背后的5G赛场,竟然也这么激烈?

脑极体

极光开发者周刊【No.0806】

极光JIGUANG

你知道Kafka创建Topic这个过程做了哪些事情吗?(附视频)

石臻臻的杂货铺

大数据 kafka 源码 运维

【设计模式】外观模式

Andy阿辉

C# 后端 设计模式 8月日更

python-抽象

加里都好

不装了、摊牌了,我们要搞事情

不脱发的程序猿

程序员 技术 程序人生

到底该怎么定义 To B SaaS 产品

姜雨生

SaaS 标准化 To B业务 行业深度

关于区块链的学习笔记(二)

姬翔

【前端 · 面试 】HTTP 总结(九)—— HTTP 协商缓存

编程三昧

面试 8月日更 HTTP缓存

写作 7 堂课——【4. 联机式写作】

LeifChen

素材 写作技巧 8月日更 联机 写作网感

架构训练营模块四作业

Lemon

番外4. Python OpenCV 中鼠标事件相关处理与常见问题解决方案

梦想橡皮擦

8月日更

未来的价值互联网主要建立在NFT上

CECBC

JavaScript中的 async 和 await

devpoint

Promise Async await 8月日更

关于区块链的学习笔记(三)

姬翔

【架构实战营】毕业总结

Geek_2e7dd7

jackson解析泛型的正确写法

4ye

Java Jackson 8月日更

【LeetCode】超级丑数Java题解

Albert

算法 LeetCode 8月日更

阿里P8教你Java注解与反射

陈皮的JavaLib

Java 面试 8月日更 java注解 反射机制

趁着课余时间学点Python(八)函数的简单理解

ベ布小禅

8月日更

腾讯实时流计算平台演进之路_语言 & 开发_杨华_InfoQ精选文章