写点什么

Wordnik 的 MongoDB 使用经验

  • 2010-11-12
  • 本文字数:1875 字

    阅读完需:约 6 分钟

Wordnik 是一项在线字典及百科全书服务,在大约一年前,它们逐渐开始从 MySQL 迁移至文档型数据库 MongoDB,后者是著名的 NoSQL 产品之一。最近 Wordnik 的技术团队通过官方博客分享了这 12 个月来使用 MongoDB 经验及现状

据 Wordnik 技术团队描述,它们起初决定使用 MongoDB ,是看中了它的弱一致性(最终一致)及文档结构的存储方式。

在传统的关系型数据库中,一个 COUNT 类型的操作会锁定数据集,这样可以保证得到“当前”情况下的精确值。这在某些情况下,例如通过 ATM 查看账户信息的时候很重要,但对于 Wordnik 来说,数据是不断更新和增长的,这种“精确”的保证几乎没有任何意义,反而会产生很大的延迟。他们需要的是一个“大约”的数字以及更快的处理速度。

此外,Worknik 的数据结构是“层级”式的,如果要将这样的数据使用扁平式的,表状的结构来保存数据,这无论是在查询还是获取数据时都十分困难:

就拿一个“字典项”来说,虽然并不十分复杂,但还是会关系到“定义”、“词性”、“发音”或是“引用”等内容。大部分工程师会将这种模型使用关系型数据库中的主键和外键表现出来,但把它看作一个“文档”而不是“一系列有关系的表”岂不更好?使用“dictionary.definition.partOfSpeech=‘noun’”来查询也比表之间一系列复杂(往往代价也很高)的连接查询方便且快速。

经过了一年的使用,Worknik 描述了他们从 MySQL 全面迁移至 MongoDB 后的感受。

首先是性能上的提高,这也是使用 MongoDB 的主要原因。MongoDB 解决了 Worknik 在使用 MySQL 的时候,在存储和数据查询时都遇到的一些问题。下面是一些统计数据:

  • MongoDB 承受了平均 50 万每小时的请求(包括周末和夜间),高峰期大约是 4 倍的量。
  • MongoDB 中有超过 120 亿个文档。
  • 每个节点大约 3TB 数据。
  • 一般情况下文档插入速度为每秒 8 千条,峰值为每秒 5 万条。
  • 单个 Java 客户端在千兆带宽下,对单个 MongoDB 节点的可持续的传输速度为每秒 10MB。同一个客户端的四个读取器可以保持每秒 40MB 的读取速度。
  • 各种形式的查询都比 MySQL 的实现要快许多:
    • 示例的获取速度,从 400ms 减少为 60ms。
    • 字典项获取速度,从 20ms 减少为 1ms。
    • 文档元数据的获取速度,从 30ms 减少为 0.1ms。
    • 拼写提示的获取速度,从 10ms 减少为 1.2ms。

Worknik 表示,在压力较高的情况下,MongoDB 的内置缓存机制,让系统对 memcached 层的每次调用节省了 1-2ms,同时还剩下了许多 GB 的内存。此外,所有的数据不可能都在内存中,因此获取示例的 60ms 还包括磁盘访问时间。

其次,使用 MongoDB 还带来了许多灵活性,除了之前提到的文档型存储让查询变得十分迅速之外,MongoDB 还带来了其他一些好处。例如以前 Worknik 使用集群文件系统保存音频文件,如今这些文件保存在 MongoDB 的 GridFS 中。这给 IT 维护带来了许多方便,例如可以使用相同的方式来维护数据和文件内容,数据库和文件也是保持同步的。

Worknik 对 MongoDB 的可靠性也很满意,从四月起,MongoDB 只重启了两次,一次是从 1.4.2 版升级到 1.4.4 版,还有一次是由于数据中心断电。

唯一可能的抱怨是对于维护性上的。MongoDB 没有如 MySQL 那样成熟的维护工具,这对于开发和 IT 运营都是个值得注意的地方。不过幸运的是,MongoDB 提供了许多“接入点”,因此 Worknit 创建了一些辅助工具,并打算开源,他们表示将在十二月份的 MongoSV 上提供更多信息。

在运营过程中,数据中心断电造成了很大的问题。由于断电发生在写密集的情况下,因此对主从节点都造成了损害。当时主节点正忙于将数据写回磁盘,而从节点正在通过日志获取数据。在电力回复之后,他们花费了超过 24 小时了来修复主节点上的数据,在这段时间内,他们将从节点提升为主节点使系统得以正常工作。

最后,Worknik 还分享了一些经验:

数据尺寸:在四月份的 MongoSF 会议上,我们曾抱怨 MongoDB 耗费了 4 倍的数据空间。之后 10gen 指出了 MongoDB 的集合填充机制,以及 Worknik 某些使用场景上造成的浪费。我们将一些对象作为子文档存储,并去除一些索引之后,则大约使用了 MySQL 的 1.5 至 2 倍的存储空间。

锁:某些情况下 MongoDB 会锁住数据库。如果此时正有数百个请求,则它们会堆积起来,造成许多问题。我们使用了下面的优化方式来避免锁定:

  • 每次更新前,我们会先查询记录。查询操作会将对象放入内存,于是更新则会尽可能的迅速。在主 / 从部署方案中,从节点可以使用“-pretouch”参数运行,这也可以得到相同的效果。
  • 使用多个 mongod 进程。我们根据访问模式将数据库拆分成多个进程。

MongoDB 是一个可扩展、高性能的下一代数据库。最新版本为 1.6.3,并由 10gen 提供商业支持

2010-11-12 00:075827
用户头像

发布了 157 篇内容, 共 54.3 次阅读, 收获喜欢 6 次。

关注

评论

发布
暂无评论
发现更多内容

电机制造业mes,mes生产管理系统,免费电机mes

万界星空科技

电机 mes 制造业生产管理系统 直流电机 云mes

强大的Kubernetes工具的完整指南

互联网工科生

Kubernetes

软件定义汽车时代,代码质量先行!

安势信息

车联网 代码质量 汽车软件安全 代码质量检测工具

回归算法全解析!一文读懂机器学习中的回归模型

不在线第一只蜗牛

机器学习 算法 回归算法

JavaScript 的发展史你真的了解吗?

伤感汤姆布利柏

JavaScript 低代码 js

🚀Flutter应用程序加固的问题及解决方案

雪奈椰子

C/C++ Zlib库封装MyZip压缩类

不在线第一只蜗牛

c c++ 开源 编程语言

NFTScan 正式上线 Starknet NFTScan 浏览器和 NFT API 数据服务

NFT Research

NFT\ NFTScan nft工具

监守自盗,如何防范员工窃密?

尚思卓越

网络安全 信息安全

Ableton Live 12 for Mac(音乐制作工具)v12.0b20中文激活版

iMac小白

4天肝出一个数据应用,可能吗?| StartDT Hackathon

奇点云

操作系统 数据应用 奇点云

打开浏览器,线上玩转C++

庄岩

c++ 在线编程 onlinegdb

让人恶心的多线程代码,真心建议你别用!

伤感汤姆布利柏

Java 低代码 多线程代码

增加外贸订单的实用外贸工具

九凌网络

两台电脑如何快速传输几百G文件,这款文件传输软件真快

镭速

大文件传输 传输大文件 文件传输工具

事项法会计:业财融合落地的基石

用友BIP

业财融合

用友助力中核集团新华发电斩获“IDC未来企业大奖”

用友BIP

企业数智化

iZotope RX 10 for mac(音频修复和增强软件) 10.4.2完美激活版

mac

苹果mac Windows软件 iZotope RX 10 音频修复和增强软件

外贸人必须知道的20个WhatsApp实用技巧

九凌网络

白鸦11周年分享:把有赞做成智能化系统运营商

ToB行业头条

ICP通识导读:了解未来区块链

TinTinLand

#区块链# Dfinity

为什么要在项目中使用TypeScript?

树上有只程序猿

typescript

3D模型渲染太耗电脑性能怎么办?

3D建模设计

3D渲染 GPU渲染 渲染调优 CPU渲染

浩鲸科技:为什么要用雪花ID替代数据库自增ID?

王磊

Java 面试

分享一套生产管理MES系统的源代码,可以直接拿来搞钱的好项目

万界星空科技

开源 开源代码 MES系统 生产管理系统 开源mes

用友助力浙江省国贸供应链企业数智化管理水平提升!

用友BIP

企业数智化

[开源]MIT开源协议,前后端分离、后台通配权限管理系统

小狗围观科幻

CodeiumAI单元测试生成和覆盖率统计实践

lklmyy

单元测试 pytest AIGC CodiumAI

数据库安全运维系统厂家在深圳的有哪些?咨询电话多少?

行云管家

数据库 大数据 数据安全 数据库安全 数据安全运维

DAPP公排互助项目系统开发丨智能合约技术开发

l8l259l3365

Wordnik的MongoDB使用经验_架构_赵劼_InfoQ精选文章