QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

百度沧海·存储:新一代元数据架构体系设计与实践|QCon 北京

  • 2025-03-30
    北京
  • 本文字数:1032 字

    阅读完需:约 3 分钟

百度沧海·存储:新一代元数据架构体系设计与实践|QCon 北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。


百度智能云高级架构师曹彪已确认出席并发表题为《百度沧海·存储:新一代元数据架构体系设计与实践》的主题分享。在 AI 时代,云存储系统面临着海量数据的挑战,其中元数据管理成为扩展性和性能瓶颈的关键所在。从传统的单机元数据服务到通用分布式数据库,再到如今的专用数据库解决方案,百度沧海存储团队经历了数次元数据管理的范式转变。本次演讲将深入探讨 TafDB 的设计理念、技术架构和实践效果,分享如何通过自研专用分布式数据库解决大规模存储系统的元数据管理难题。



曹彪是百度智能云高级架构师,云存储技术底座团队技术负责人。自 2014 年加入百度以来,一直聚焦于基础架构领域,带领团队从 0 到 1 构建了百度沧海·存储的元数据新架构体系。这一新架构已在百度沧海·存储的对象存储 BOS、文件系统 CFS 以及百度内部的类 HDFS 分布式文件系统 AFS 大规模应用,显著提升了系统的扩展性和性能。他在本次会议的详细演讲内容如下:


演讲提纲

1. 元数据管理的痛点与挑战

  • 分布式存储系统中的元数据挑战

  • 通用分布式数据库在元数据管理领域的局限性


2. 设计理念与系统架构

  • 设计理念

  • 系统架构


3. 核心技术与优化策略

  • 消除单目录操作的分布式事务

  • 元数据感知的乐观并发控制

  • 生命周期感知的垃圾回收


4. 实践效果

  • 相比通用方案的性能对比

  • 生产规模

5. 经验总结

  • 跨团队协作与系统协同设计

  • 领域专用设计的必要性

6. 未来展望


演讲亮点

  • 架构创新:分享 TafDB 基于 meta-aware 的设计理念的架构创新

  • 工程实践:分享 TafDB 在百度大规模生产环境中的部署经验


听众收益

  • 了解分布式存储系统中元数据管理的挑战与解决方案

  • 获得可直接借鉴的工程实践经验


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


报名或了解详情可扫码或联系票务经理 18514549229 咨询。



为确保大会顺利举行,现诚邀志愿者加入,时长 3.5 天。可与大咖交流、获极客时间 VIP 月卡、大会演讲视频资源和证书。主办方提供午餐和交通支持。时间:4 月 9 日 13:00-4 月 12 日 18:00,地点:北京万达嘉华酒店,报名链接:https://www.infoq.cn/form/?id=2088

2025-03-30 12:261

评论

发布
暂无评论
发现更多内容

如何提升口头表达能力?

石云升

表达 11月日更

dart系列之:dart语言中的变量

程序那些事

flutter dart 程序那些事 11月日更

eBPF: 让云原生运维拥有超能力

俞凡

云原生 网络 ebpf

固定价格项目能否敏捷?

Bruce Talk

敏捷 随笔 Agile

设计模式【3.2】-- JDK动态代理源码分析有多香?

秦怀杂货店

源码分析 动态代理

【设计模式】第十二篇 - 桥接模式 - 露娜的召唤师技能

Brave

设计模式 桥接模式 11月日更

架构实战营-模块6作业

Nullrable

架构实战营

构建数据网格分布式架构的四项原则

俞凡

架构 数据

记录渗透靶场实战【网络安全】

网络安全学海

网络安全 信息安全 渗透测试 WEB安全 安全漏洞

智+人:在云端重塑一场认知革命

脑极体

绝佳的录屏编辑神器,一款走遍天下!!

淋雨

Camtasia

rabbitmq简介

小鲍侃java

11月日更

算法入门-选择排序

ES_her0

11月日更

12月面试ing-本以为学了个好找工作的Android开发,没想到又是坑---

android 程序员 移动开发

MacBook 搭建VUE3开发环境

IT蜗壳-Tango

11月日更

思科基本网络连接与IOS的基本操作 「网络工程师之路」

Regan Yue

网络工程师 11月日更 思科 网络工程

反垄断专家如何看待区块链监管的发展方向

CECBC

【死磕Java并发】—–深入分析volatile的实现原理

chenssy

11月日更 死磕 Java 死磕 Java 并发

iOS开发:报错‘Unknown class ViewController in Interface Builder file’解决方法

三掌柜

11月日更

腾讯云数据库TDSQL已助力20余家金融机构完成核心系统替换 即将进入规模化复制阶段

科技热闻

thanos-io/thanos-CONTRIBUTING.md

卓丁

Prometheus Thanos thanos.io Contributing github Contributing

06 K8S之kubectl命令介绍

穿过生命散发芬芳

k8s 11月日更

10道阿里Android岗必问题摆这儿了,你爱刷不刷!(附参考回答解析

android 程序员 移动开发

Redis 高可用篇:图解 Redis 哨兵集群原理

码哥字节

redis redis sentinel NoSQL 数据库 11月日更

架构实战营-设计消息队列存储消息数据的 MySQL 表格

Nullrable

架构实战

架构实战营-模块三

瓜子葫芦侠

「架构实战营」

前端开发工具之Mock.js

Augus

11月日更

软件测试高效学习方法

程序员阿沐

学习方法 程序员 互联网 软件测试 计算机

老友(研发岗)被裁后,想加盟小吃店,我用Python采集了一点数据,多少是个心意

梦想橡皮擦

11月日更

Vue进阶(幺陆柒):Vue 项目调试技能

No Silver Bullet

Vue 11月日更

与德勤论道企业数字化战略到落地

大咖说

云计算 数字化转型 数字化 企业上云 阿里云;

百度沧海·存储:新一代元数据架构体系设计与实践|QCon 北京_百度_QCon全球软件开发大会_InfoQ精选文章