QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

Google 发布面向 App Engine 的 High Replication Datastore

  • 2011-01-15
  • 本文字数:1162 字

    阅读完需:约 4 分钟

分布式、可伸缩及高可靠的数据存储将成为业界的下一个圣杯。在发布 Google App Engine Datastore 两年后,Google 开始直面这个问题。其 Master/Slave 复制架构的设计意图在于支持“快速、一致的读需求”,同时还支持快速的写需求。但 Google 需要重新审视这个问题

你可能注意到了,我们过去半年一直在与 App Engine Datastore 的某些可靠性问题进行着斗争。在过去的几个月中,我们取得了长足的进步。然而,解决这些问题所积累的经验使我们认识到需要重新考虑一下设计假定了。

上周,Google 发布了“High Replication Datastore”以为读和写提供更高层次的可用性。但这也是有代价的,那就是增加了写延迟,同时 API 中的一致性保证也发生了变化。

High Replication Datastore 使用 Paxos 算法来实时同步跨越多个数据中心的数据,进而增加了用于维护数据复制的数据中心数量。这么做最大的好处在于计划的维护周期内,应用的所有功能都保持完全的可用性,对于大多数意外的基础设施问题也一样。

Google 警告开发者:

由于是分布式数据库,正如 CAP(Consistency,一致性;Availability,可用性;Partition tolerance,分区容错性)所示,开发者需要非常小心地对应用进行架构,因为随着成本的增加、可靠性的增强以及复杂性的增加,性能不可避免地会降低。

为了帮助开发者将现有的应用数据迁移到 High Replication Datastore 上,Google 提供了一些迁移工具。由于复制量的增加,Google 还将价格提高了 1/3。

Todd Hoff 称之为“向完全的分布式未来迈进的一大步”

HRD 的目标是需要将数据复制到至少 3 个数据中心的、需要完整的 ACID 语义、高一致性保证的任务关键性应用。

Google 新的数据存储定义了一种介于 RDBMS 抽象元组和 NoSQL 具体的行列存储之间的一种数据模型。在 RDBMS 中,数据模型声明在 Schema 中并且是强类型的。每个 Schema 都有一个表集合,每张表包含一个实体集合,每个实体包含了一个属性集合。属性具有名称,其值具有相应的类型。

Bigtable 可以在相同的行 / 列对中存储多个值,只不过时间戳不同。该特性实现了多版本并发控制(MVCC):当使用了事务时,在写入值时需要带上其事务的时间戳。在读取时会使用上一次事务的完整时间戳以避免部分更新的情况出现。

平均的读延迟在 10 毫秒左右,具体时间取决于数据量,这表明大部分读都是本地的;平均的写延迟在 100——400 毫秒左右,具体时间取决于数据中心之间的距离、写入的数据大小以及完整复制的数量等因素。

曾经只被大公司用于构建任务关键性应用的“大基础设施”现在也充分利用了长尾理论,可以构建创新型应用了,这在几年前是无法想象的事情。你打算使用 Google App Engine 么?自己的解决方案中需要这样的数据存储么?这种基础设施给你带来的最大好处是什么呢?

查看英文原文: Google Releases the High Replication Datastore for App Engine

2011-01-15 22:163643
用户头像

发布了 88 篇内容, 共 266.0 次阅读, 收获喜欢 8 次。

关注

评论

发布
暂无评论
发现更多内容

NFTScan | 10.14~10.20 NFT 市场热点汇总

NFT Research

NFT\ NFTScan

In-Depth QCN6224 vs. QCN6024 Analysis of Qualcomm WiFi Network Card CPUs

wifi6-yiyi

wifi

数造科技荣获2024DAMA中国“数据治理创新奖”

数造万象

人工智能 大数据 数据治理 科技 数据管理

MoE++: 颜水成团队与北大袁粒团队推出新一代MoE架构,专家推理速度倍增,性能全面提升

新消费日报

一文读懂什么是数据即产品(Data as a Product,DaaP)

tapdata

数据即产品DaaP 企业数据战略 数据产品与数据服务 数据治理与合规 元数据管理与数据血缘

03.建造者模式设计思想

杨充

Adobe Premiere Pro 2025(PR2025) 直装版

你的猪会飞吗

pr2025下载 pr2025软件

租用海外云手机应注意些什么?

Ogcloud

云手机 云手机群控 云手机推荐 云手机养号 跨境电商运营

东北三省鸿蒙生态加速落地,150余款鸿蒙原生应用上架,多家政企内部办公应用启动鸿蒙化

最新动态

望繁信科技荣获2022年度创新产品与解决方案大奖

望繁信科技

数字化转型 流程挖掘 流程资产 流程智能 数字北极星

数据库运维实操优质文章文档分享(含Oracle、MySQL等) | 2024年9月刊

墨天轮

MySQL 数据库 oracle postgresql 国产数据库

谁说Linux不能玩游戏!deepin 23 通通拿下,超详细游戏教程合集!

nn-30

Linux 操作系统 游戏 deepin 黑神话悟空

免费API的探索之旅:获取、调用与创新实践

幂简集成

API 免费API

观测云AI助手上线,让观测云使用更简单高效

观测云

人工智能

揭秘阿里巴巴1688商品详情API:探索其返回值的丰富性与多样性

代码忍者

pinduoduo API API 性能测试

一文彻底弄懂MySQL的MVCC多版本控制器

不在线第一只蜗牛

MySQL

鸿蒙开发案例:围住神经猫

zhongcx

2025年中国-深圳国际碳纤维复合材料产业展会

秋硕展览

几行代码带你用TinyEngine低代码引擎开发侧边栏插件

华为云开发者联盟

开源 前端开发 低代码 TinyEngine

Google发布面向App Engine的High Replication Datastore_架构_Jean-Jacques Dubray_InfoQ精选文章