写点什么

阿里 10PB+ 天日志系统设计和实现

  • 2019-08-13
  • 本文字数:661 字

    阅读完需:约 2 分钟

阿里10PB+天日志系统设计和实现

ArchSummit深圳2019大会上,孙廷韬(龙悟)讲师做了《阿里 10PB+/天日志系统设计和实现》主题演讲,主要内容如下。


演讲简介


阿里云日志服务作为阿里集团底层日志平台,提供完善易用的数据采集方案,PB 级数据实时索引和分析能力,在阿里集团被广泛应用,数千工程师直接使用日志服务进行日常问题排查,也有大量应用基于日志服务进行二次开发,如阿里集团所有大型 Trace 系统底层都使用日志服务。


演讲提纲


1、介绍阿里云 10PB +/天日志系统如何运转


  • 核心功能介绍

  • 支持的场景和解决的问题


2、系统解决的核心技术难点


性能和成本


  • PB 级索引系统设计思路


多租户下稳定性实现


  • 流量秒级流控、防穿透

  • 自动负载均衡

  • 资源动态分配和隔离


系统管理


  • 百万级的客户端如何管理、监控、问题自助定位

  • 应用管理


3、面向运维场景的高级功能介绍


  • 基于机器学习的时序数据智能诊断和预测

  • 超大规模日志实时智能聚类


4、应用实践


  • 阿里内部基于日志服务构建系统实践


听众受益点


  1. 了解生产环境下 10( PB +/天)日志系统的设计和实现,以及在这背后的思考

  2. 了解系统如何稳定支持上万应用

  3. 了解如何基于日志数据进行智能运维,以及阿里内部应用实践


讲师介绍


孙廷韬(龙悟)


阿里云 高级技术专家


阿里云高级技术专家,负责阿里云日志服务架构设计和实现。日志服务是针对实时数据一站式服务,提供日志数据采集、智能查询分析、消费与投递等功能,全面提升海量日志处理/分析能力。在阿里集团,覆盖百万服务器,上万应用,单日采集数据超过 10PB,为数千工程师提供简单易用的日志分析服务。












完整演讲 PPT 下载链接


https://archsummit.infoq.cn/2019/shenzhen/schedule


2019-08-13 00:006653

评论

发布
暂无评论
发现更多内容

数电票如何管理?

用友BIP

数电票

外贸独立站谷歌seo优化的8大技巧

九凌网络

合成数据对于机器学习模型至关重要

3D建模设计

人工智能 合成数据 虚幻合成数据

合成数据的被需要的5 个重要原因

3D建模设计

人工智能 合成数据 虚幻合成数据

如何在HarmonyOS对数据库进行备份,恢复与加密

HarmonyOS开发者

HarmonyOS

冯冠霖秘书长参加2023中国汽车软件大会并致辞

开放原子开源基金会

开源

未来已来!2023 云栖大会龙蜥操作系统专场精彩回顾

OpenAnolis小助手

开源 操作系统 信通院 云栖大会 龙蜥社区

DAPP 燃烧铸币质押挖矿系统开发

l8l259l3365

华为云云容器引擎CCE产品文档带来4个升级,降低使用难度

华为云开发者联盟

云原生 华为云 华为云开发者联盟 华为云CCE容器服

吴翰清《计算》重磅来袭,为了可计算的价值,写给所有人!

博文视点Broadview

Macs Fan Control Pro for mac(电脑风扇控制软件) v1.5.16永久激活版

mac

电脑风扇控制软件 苹果mac Windows软件 Macs Fan Control

赛题招募令:总投入超5000万元,诚邀您免费出题

开放原子开源基金会

如何释放React Hooks的力量

树上有只程序猿

Hooks React Hooks

昇腾迁移丨4个TensorFlow模型训练案例解读

华为云开发者联盟

人工智能 华为云 昇腾 华为云开发者联盟

11 月 11日,MatrixOne 社区邀请您来深圳办公室坐坐

MatrixOrigin

分布式数据库 云原生数据库 MatrixOrigin MatrixOne HTAP数据库

2023云栖大会龙蜥操作系统专场成功举办

开放原子开源基金会

开源 云栖大会

医共体建设进入高峰期 区域医疗平台运营管理如何破局

用友BIP

医疗平台运营

AI系列产品来袭,用友招聘云换新上线

用友BIP

AI 招聘

TikTok 与 YouTube:哪个更适合您?

九凌网络

调用API接口获取淘宝店铺所有商品:详细指南与代码实践

Noah

人才驱动:水泥建材企业如何实现智能化人才管理

用友BIP

人才发展

如何成为前1%的程序员

互联网工科生

程序员 提升自我

用友携手平安银行,加速数智化司库及财资体系建设

用友BIP

全球司库

国内首个电力物联操作系统正式发布,实现电力设备万物互联、海量数据互通共享

开放原子开源基金会

开源

阿里10PB+天日志系统设计和实现_ArchSummit_孙廷韬(龙悟)_InfoQ精选文章