HarmonyOS开发者限时福利来啦!最高10w+现金激励等你拿~ 了解详情
写点什么

Google 发布面向 App Engine 的 High Replication Datastore

  • 2011-01-15
  • 本文字数:1162 字

    阅读完需:约 4 分钟

分布式、可伸缩及高可靠的数据存储将成为业界的下一个圣杯。在发布 Google App Engine Datastore 两年后,Google 开始直面这个问题。其 Master/Slave 复制架构的设计意图在于支持“快速、一致的读需求”,同时还支持快速的写需求。但 Google 需要重新审视这个问题

你可能注意到了,我们过去半年一直在与 App Engine Datastore 的某些可靠性问题进行着斗争。在过去的几个月中,我们取得了长足的进步。然而,解决这些问题所积累的经验使我们认识到需要重新考虑一下设计假定了。

上周,Google 发布了“High Replication Datastore”以为读和写提供更高层次的可用性。但这也是有代价的,那就是增加了写延迟,同时 API 中的一致性保证也发生了变化。

High Replication Datastore 使用 Paxos 算法来实时同步跨越多个数据中心的数据,进而增加了用于维护数据复制的数据中心数量。这么做最大的好处在于计划的维护周期内,应用的所有功能都保持完全的可用性,对于大多数意外的基础设施问题也一样。

Google 警告开发者:

由于是分布式数据库,正如 CAP(Consistency,一致性;Availability,可用性;Partition tolerance,分区容错性)所示,开发者需要非常小心地对应用进行架构,因为随着成本的增加、可靠性的增强以及复杂性的增加,性能不可避免地会降低。

为了帮助开发者将现有的应用数据迁移到 High Replication Datastore 上,Google 提供了一些迁移工具。由于复制量的增加,Google 还将价格提高了 1/3。

Todd Hoff 称之为“向完全的分布式未来迈进的一大步”

HRD 的目标是需要将数据复制到至少 3 个数据中心的、需要完整的 ACID 语义、高一致性保证的任务关键性应用。

Google 新的数据存储定义了一种介于 RDBMS 抽象元组和 NoSQL 具体的行列存储之间的一种数据模型。在 RDBMS 中,数据模型声明在 Schema 中并且是强类型的。每个 Schema 都有一个表集合,每张表包含一个实体集合,每个实体包含了一个属性集合。属性具有名称,其值具有相应的类型。

Bigtable 可以在相同的行 / 列对中存储多个值,只不过时间戳不同。该特性实现了多版本并发控制(MVCC):当使用了事务时,在写入值时需要带上其事务的时间戳。在读取时会使用上一次事务的完整时间戳以避免部分更新的情况出现。

平均的读延迟在 10 毫秒左右,具体时间取决于数据量,这表明大部分读都是本地的;平均的写延迟在 100——400 毫秒左右,具体时间取决于数据中心之间的距离、写入的数据大小以及完整复制的数量等因素。

曾经只被大公司用于构建任务关键性应用的“大基础设施”现在也充分利用了长尾理论,可以构建创新型应用了,这在几年前是无法想象的事情。你打算使用 Google App Engine 么?自己的解决方案中需要这样的数据存储么?这种基础设施给你带来的最大好处是什么呢?

查看英文原文: Google Releases the High Replication Datastore for App Engine

2011-01-15 22:163598
用户头像

发布了 88 篇内容, 共 262.4 次阅读, 收获喜欢 8 次。

关注

评论

发布
暂无评论
发现更多内容

TiDB + ES:转转业财系统亿级数据存储优化实践

PingCAP

数据库 TiDB

如何配置docker或者k8s拉取https私人镜像仓库

百度搜索:蓝易云

Docker 云计算 Linux Kubernetes 云服务器

在RHEL配置网络绑定(成组)

百度搜索:蓝易云

云计算 Linux 运维 云服务器 RHEL

腾讯、阿里、B站最新面经汇总,有的妥妥的凉经。

王中阳Go

Go golang 面试 面试题 大厂面经

流动性生态协议MTMT正式登陆MEXC,将在5月13日开启交易

股市老人

从Penpad 到 Pencils Protocol,加密品牌全面升级

股市老人

Docker启动容器报错:cannot allocate memory: unknown

百度搜索:蓝易云

Docker 云计算 Linux 运维 云服务器

如何在Linux中映射LUN、磁盘、LVM和文件系统

百度搜索:蓝易云

云计算 Linux 运维 云服务器 lvm

香港云服务器有什么用

百度搜索:蓝易云

云计算 Linux 运维 云服务器 香港云服务器

LLM-结合三元组SPO和提示工程来试用Baichuan2-7B-Chat-4bits模型

alexgaoyh

ubuntu LLM 提示工程 SPO Baichuan2-7B-Chat-4bits

ChatGPT助您打造个性化简历:个人品牌升级攻略

霍格沃兹测试开发学社

活动预告|“AI+Security”系列第1期:大模型&网络空间安全前沿探索活动火热报名中

云起无垠

玩转数据之使用ElasticSearch搭建RAG

数由科技

人工智能 elasticsearch LLM rag reranker

PingCAP 戴涛:构建面向未来的金融核心系统

PingCAP

数据库 TiDB

从 Oracle 到 TiDB,国有大行打造本地生活 APP 新体验

PingCAP

数据库 数据管理 TiDB 本地生活

编程技巧:什么是JavaScript递归

高端章鱼哥

从Penpad 到 Pencils Protocol,加密品牌全面升级

石头财经

Docker 直接运行一个 Alpine 镜像

HoneyMoose

Penpad 品牌升级为Pencils Protocol,提供用户“一鱼多吃”

BlockChain先知

输出4种波形的函数信号发生器

梦笔生花

51单片机

亿级流量下通用的高并发架构设计

博文视点Broadview

从Penpad 到 Pencils Protocol,加密品牌全面升级

大瞿科技

从Penpad 到 Pencils Protocol,加密品牌全面升级

加密眼界

Google发布面向App Engine的High Replication Datastore_架构_Jean-Jacques Dubray_InfoQ精选文章