抖音技术能力大揭密!钜惠大礼、深度体验,尽在火山引擎增长沙龙,就等你来! 立即报名>> 了解详情
写点什么

快手万亿级别 Kafka 集群应用实践与技术演进之路

2019 年 8 月 11 日

快手万亿级别 Kafka 集群应用实践与技术演进之路

QCon北京2019大会上,赵健博讲师做了《快手万亿级别 Kafka 集群应用实践与技术演进之路》主题演讲,主要内容如下。


演讲简介


Kafka 系统在快手有着很广泛的应用,除作为消息队列服务于快手三大 Tab 页、上传、支付等在线核心服务之外,还作为数据交换中心支撑数据分析,模型训练等离线业务场景。随着快手业务的高速发展, Kafka 集群的规模也成指数增长,目前 Kafka 集群日消息处理总量达数万亿级别,峰值超过 1 亿/s。与此同时我们也面临了很多新问题与技术挑战。本次分享将会介绍 Kafka 系统在快手的应用实践、我们遇到的问题以及相应的技术的演进过程。例如,我们如何解决 Kafka 扩展性、性能,如何做数据 Mirror 集群管理等等。具体提纲如下:


  1. Kafka 系统在快手的应用场景以及业务规模;

  2. Kafka 系统在快手的技术演进过程;

  3. Kafka 系统在快手的未来规划。


听众受益

  1. 掌握典型的 Kafka 系统应用场景;

  2. 了解快手在应用 Kafka 系统的实践过程中,面临的问题,以及我们的技术解决方案。例如,Kafka 系统如何做平滑扩容,如何进一步改进 Kafka 系统性能等。


讲师介绍


赵健博


快手 高级架构师、大数据架构团队负责人


赵健博,大数据领域专家,快手大数据架构团队的负责人,目前负责快手公司 Hadoop 生态中存储、调度、计算、AI 架构等子系统内核与周边子系统的研发,与在公司内的应用。2009 年毕业于中国科学院计算所,曾就职于百度、奇虎 360、58 集团。主要研究领域包括分布式计算、调度与存储系统等。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2019/beijing/schedule


2019 年 8 月 11 日 00:005950

评论

发布
暂无评论
发现更多内容

左晖:凭一己之力改变了一个行业

石云升

思维模型 诚信 7月日更

弯道超车!阿里甩出Spring Security宝典我粉了

java小李

java 14 Sprin

模块三

泰戈

百度人脸离线识别SDK安卓版升级指南

百度大脑

人工智能 升级迭代

「从零开始学SpringBoot」—如何开始使用?

java小李

maven Sprint Boot

这款开源软件绝了!1分钟即可打造了一个”黑客范“终端~

编程菌

Java 编程 程序员 项目 计算机

MySQL高频面试题的灵魂拷问

java小李

MySQL

编辑器看看

strive

编辑器

21道最新Java面试题剖析(数据库+JVM+微服务+高并发)

java小李

dubbo Spirng

顶级理解!阿里这份Github星标63.7K的Redis高级笔记简直不要太细

程序员小毕

Java redis 程序员 架构 面试

“普通本科Java程序员,如何五年存够80万买房?就靠这选择!”

java小李

java 14

降低“美丽成本”,区块链助力化妆品行业数字化转型

旺链科技

区块链 数字化转型 化妆品行业

插件编排在 Apache APISIX 中的应用与实践

Apache APISIX 中国社区

lua 开源 网关 APISIX

“运愁维卧”,决胜千里 | TcaplusDB 724运维日致敬每一位运维人

tcaplus

TcaplusDB

当面试官问到:《MySQL数据库的锁机制》该如何拿分?

java小李

spring Boot Starter

云计算深度挖掘“创新潜力”,北鲲云深耕生命科学领域

北鲲云

数字化成潮流,运维为啥也热了?

ToB行业头条

科技互联网

详解TCP协议与UDP协议的区别

Linux服务器开发

网络协议 Linux服务器开发 Linux后台开发 TCP协议 UDP协议

使用Docker在无网络环境下搭建深度学习环境

Lart

ipfs矿机最新消息?星际联盟矿机怎么样?

IPFS星盟小熊

区块链 fil ipfs矿机 星际联盟

【入门必读】《TcaplusDB数据库常见问题解决及诊断技巧集锦-数据库使用类-3》

TcaplusDB

nosql 腾讯 Data TcaplusDB

百度AI师资培训兰州站启动 社会科学家的第一节人工智能课来了!

百度大脑

人工智能 启蒙 教室

降低“美丽成本”,区块链助力化妆品行业数字化转型

CECBC区块链专委会

【服务器密码】服务器密码托管就用行云管家堡垒机!

行云管家

堡垒机 密码管理 行云管家 服务器管理 服务器密码

万万没想到,阿里巴巴被挂后,还能获得内推名额,五面口碑一举拿下offer

云流

Java 编程 程序员 架构 面试

Git提交信息规范化

admin

git flow git cherry-pick Git Commit git 规范

下一个颠覆的领域:区块链如何影响审计行业?(上)

CECBC区块链专委会

区块链技术在产品溯源领域的应用

CECBC区块链专委会

从一线城市回到三四线城市的第四个月

布衣骇客

回忆 个人总结 生活随想

中国信通院发布2021年首批“可信AI成果” 百度摘取5项大奖

百度大脑

人工智能

架构实战营 - 模块 3 - 外包学生管理系统架构文档

蔸蔸

Study Go: From Zero to Hero

Study Go: From Zero to Hero

快手万亿级别 Kafka 集群应用实践与技术演进之路-InfoQ