写点什么

腾讯实时流计算平台演进之路

  • 2019-08-06
  • 本文字数:696 字

    阅读完需:约 2 分钟

腾讯实时流计算平台演进之路

QCon北京2019大会上,杨华讲师做了《腾讯实时流计算平台演进之路》主题演讲,主要内容如下。


演讲简介


腾讯实时计算团队为业务部门提供高效、稳定和易用的实时数据服务。其每秒接入的数据峰值达到了 2.1 亿条,每天接入的数据量达到了 17 万亿条,每天的数据增长量达到了 3PB,每天需要进行的实时计算量达到了 20 万亿次。


随着业务规模不断扩大,业务需求不断增多,原先基于 Storm 构建的实时计算平台遇到了很多问题。在此背景下,我们选择用 Flink 替换 Storm 作为新一代的实时流计算引擎,我们对社区版的 Flink 进行了深度的优化,并在此之上构建了一个集开发、测试、部署和运维于一体的一站式可视化实时计算平台——Oceanus;同时,我们也基于 Oceanus 向云端客户提供了流计算服务——Stream Compute Service,应用到电商、游戏、互联网金融等泛互联网企业客户。本分享我们会介绍腾讯流计算技术的演进过程,产品化及云端对外服务进展。

听众受益

  1. 为什么要实时计算引擎从 Storm 替换成 Flink;

  2. 我们在使用社区版的 Flink 时遇到了哪些问题,做了哪些改进与增强;

  3. 腾讯实时计算平台提供了哪些功能特性来简化用户构建流计算应用复杂度;

  4. 腾讯实时计算平台后续的功能、特性预览。


讲师介绍


杨华


腾讯 大数据高级工程师


杨华(vinoyang)腾讯大数据高级工程师,参与腾讯实时流计算平台 Oceanus 底层 Flink 引擎的研发与维护,经历了 Flink 在腾讯从零开始落地到目前支撑日均近 20 万亿消息处理规模的全过程。拥有多年的分布式、大数据系统研发经验,Flink 国内较早的布道者之一,也是 Flink 及多个 Apache 项目的长期活跃贡献者。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2019/beijing/schedule


2019-08-06 08:001523

评论

发布
暂无评论
发现更多内容

Robot OS驱动开发

轻口味

c++ android Robot 4月月更 AOSP

嵌入式Linux下完成LCD屏文字显示(帧缓冲框架)

DS小龙哥

4月月更

被滥用的“架构师”!

博文视点Broadview

Docker Compose 部署Kibana和 Elasticsearch本地集群 8.1.3

Geek漫游指南

elasticsearch

外包学生管理系统架构设计文档

大眼喵

「架构实战营」

架构实战训练 模块三

小马

「架构实战营」

【建议收藏】吐血整理Golang面试干货21问-吊打面试官-1

利志分享

golang golang 面试

【课程汇总】Hello HarmonyOS系列课程,手把手带你零基础入门

HarmonyOS开发者

HarmonyOS ArKUI 3.0

模块三:外包学生管理系统-架构设计文档

jiaoxn

「架构实战营」

长沙好人

成周

超越 iTerm!号称下一代 Terminal 终端神器,用完爱不释手!

沉默王二

Java类应用高内存问题排查指南

中原银行

Java JVM 问题排查 中原银行 高内存

架构实战营-模块三-作业

michael

架构实战营 #架构实战营 「架构实战营」

Java 并发编程总结

Joseph295

spring-cloud-kubernetes自动同步k8s的configmap更新

程序员欣宸

Java Kubernetes 4月月更

Kafka设计的基本原理

平凡人生

云原生架构下的微服务选型和演进

阿里巴巴云原生

Ampere Computing释放观测云“芯”算力,强强联合推动可观测性发展

观测云

可观测性 可观测

java培训redis的集群策略

@零度

redis JAVA开发

观测云入驻阿里云计算巢,为用户构建稳定安全的云上连接

阿里云弹性计算

vue中使用element-resize-detector

CRMEB

云原生微服务的下一站,微服务引擎 MSE 重磅升级

阿里巴巴云原生

如何构建一个可“持续演进”的可观测体系?| QCon

阿里巴巴云原生

活动预告 | 4月23日,多场OpenMLDB精彩分享来袭,不负周末好时光!

第四范式开发者社区

机器学习 数据库 AI 特征 特征平台

从mybatis-plus-generator看如何编写代码生成器

Rubble

4月日更 4月月更

外包学生管理系统详细架构设计文档

高山觅流水

「架构实战营」

一起学习Python的Sanic框架:路由和蓝图

宇宙之一粟

Python 4月月更 sanic

在互联网+的背景下,企业如何创新客户服务?

小炮

客户服务

模块三作业

天琪实刚亮

基于 TiDB 的 Apache APISIX 高可用配置中心的最佳实践

API7.ai 技术团队

微服务网关 api 网关 APISIX TiDB

APISIX jwt-auth 插件存在错误响应中泄露信息的风险公告(CVE-2022-29266)

API7.ai 技术团队

api 网关 APISIX CVE

腾讯实时流计算平台演进之路_语言 & 开发_杨华_InfoQ精选文章