腾讯亿级用户规模自研业务的上云实践解读,立即报名 了解详情
写点什么

2012.03.02 微博热报:Linux 异步 I/O 与 Google vitess 项目

  • 2012-03-01
  • 本文字数:1321 字

    阅读完需:约 4 分钟

深入的“linux 异步 IO 浅析”

淘宝褚霸昨天推荐了一条博文:

这个同学写的 linux 异步 IO 浅析,是目前我见到的最准确和专业的: http://t.cn/zOqYBeR

这篇文章来自阿里系的向宇,褚霸认为:

如果能讲讲 eventfd, io_submit 批次对设备队列 unplug 以及 aio 对资源使用的限制等等就更完美了。

淘宝核心系统部内核组专家马涛( @淘伯瑜)在评论中说:

我们有计划修改内核代码,让 aio 变成真正的异步,目前还是有一些阻塞点让 aio 不是那么完美。

比如文件系统的元数据分配,再比如底层 I/O 系统的 request 分配,再比如发起 I/O 时的等待。

褚霸的回复是:

这应该属于 vfs 异步接口实现的问题, 和 aio 框架应该关系不大。

马涛的回应:

那倒也是,但是由于 aio 最终到底层是 direct io, 所以还是会被阻塞呀,不了解这个是否会对应用产生多大的影响。

褚霸进一步说明:

我个人感觉还好,我们用 aio 其实是想利用批次提交,提高 io 电梯的合并率,同时减少没有同步系统调用等待的时间,做 io 这些操作反正在内核背景线程,堵下也没关系,反正应用也有心理准备。

马涛:

你是说 EIOCBRETRY?这个其实真心没有几个人返回的,至少我说的那几个点都是没有返回 EIOCBRETRY 的,所以这只是一个美丽的神话。

褚霸:

EIOCBRETRY 我翻了代码了,没几个地方实现,在实践中也没看到这个操作,确实是神话。 aio 中的重试部分都白做的。

马涛:

恩,我们和社区讨论过这个 EIOCBRETRY 的事情,AIO 的作者 zach brown 给出了一大堆理由,反正他认为返回 EIOCBRETRY 就是灾难,他以前在 Oracle 做了一套新方案,可惜离开后就没有继续了

褚霸:

内核开发也是各种力量角力呀。

@fengyuncrawl 对这篇文章的评论是:

文章写得很详细,美中不足得是未对数据预取算法进行展开描述,数据预取的前提是对磁盘页进行顺序扫描(磁盘页邻近上下页提取),随机扫描没有预取功能。

@淘宝正明在评论中提到:

我们内核团队实现了使用 page cache 的内核 aio,正在测试和完善中。

Google 的开源 vitess 项目

丁香园 CTO 冯大辉( @Fenng )发布关于 vitess 项目的微博

Google 今天开源的 vitess 项目的愿景很令人激动:「provide servers and tools to facilitate scaling of MySQL databases for the web」,特性中的绑定变量,连接池… http://t.cn/zOG1sfM

网易汪源在评论中说:

项目目标里提到 Row cache,跟我们在自研存储引擎 NTSE 中的选择一致。NTSE 的经验是,Row cache 的效果好得出奇,关键是更新不会导致 Cache 失效且要处理好 Checkpoint。

褚霸也有回复:

比我们目前在做的事情 feature 还多了点,我们也在跟进中。。。

何 _ 登成有些疑问:

看了网页中的介绍,是否可以将 vitess 理解为 MySQL 的代理中间件,类似于 Ameoba,或者网易的 DDB。因为从其 InstallHowto 介绍 中,只需要用户有可运行的 MySQL server 即可,没提到修改 MySQL 内部代码。如果真是如此,那么 vitess 绑定变量,连接池,甚至是 row cache,难道都是在中间件层面实现的吗?How?

新浪云计算平台的 DBA邱春武提到:

Fail-safes 中的查询合并、返回结果集限制、慢事物 / 查询处理、空闲连接回收等特性还是非常不错。

今日微博推荐

Laruence

推荐理由:百度 PHP 高级顾问,PHP 语言开发组成员。PHP 框架 Yaf 的作者,博客地址:风雪之隅

2012-03-01 20:102794
用户头像

发布了 479 篇内容, 共 141.3 次阅读, 收获喜欢 42 次。

关注

评论

发布
暂无评论
发现更多内容

Spring 源码学习 06:AnnotatedBeanDefinitionReader

程序员小航

Java spring 源码 源码阅读

第二周 框架设计 作业一 「架构师训练营 3 期」

胡云飞

极客大学架构师训练营 框架设计

搞懂这篇文章,关于IO复用的问题就信手拈来了

程序员小灰

Linux 后台开发 io epoll Linux服务器开发

喝完可乐桶后程序员回归本源,开源Spring基础内容

小Q

Java spring 学习 源码 面试

框架设计作业

cc

架构师训练营第二周学习心得

cc

吴桐:2021年中国区块链产业发展的六大趋势

CECBC

区块链 新基建

区块链如何解决互联网为基础的广告困境?

CECBC

区块链 互联网广告

Defi挖矿软件系统开发|Defi挖矿APP开发

系统开发

几个大厂的研发类面试题你知道多少?(C/C++工程师方向)

linux大本营

c++ Linux 后台开发 架构师

DeFi交易所系统APP开发|DeFi交易所软件开发

系统开发

架构师训练营第二周作业

J

极客大学架构师训练营

极客时间架构师培训 1 期 - 第 11 周作业

Kaven

LeetCode题解:874. 模拟行走机器人,模拟情境,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

阿里开源十亿级并发设计手册:数据库+缓存+消息队列+分布式+维护

Java架构追梦

Java 阿里巴巴 编程 架构 亿级流量

ShardingSphere Raw JDBC 主从示例

Java JDBC ShardingSphere

深入了解Linux共享内存及函数详解(含编程示例)

ShenDu_Linux

Linux 程序员 内存 进程

整天都在讨论使用SpringBoot,可你居然连缓存都不清楚

小Q

Java 缓存 学习 面试 springboot

架构师养成第二课

万有引力

系统安全与高可用

天天向上

架构师训练营第 11 周学习总结

netspecial

极客大学架构师训练营

Spring视图解析流程

无用且垂死的星辰

Mysql Docker 主从配置

MySQL Docker 主从读写

极客时间架构师训练营 1 期 - 第 11 周总结

Kaven

ShardingSphere Proxy 主从读写 入门使用

Java 主从读写 ShardingSphere

保障系统稳定高可用的方案

天天向上

极客大学架构师训练营

架构师系列之8:python网站压测工具

桃花原记

第二周 框架设计 学习总结

胡云飞

极客大学架构师训练营 框架设计

那些年,支撑尾款人们熬夜的AI

脑极体

离开

成周

我膨胀了,测试必要商城小程序,用了3种方式!:)

清菡软件测试

App

2012.03.02 微博热报:Linux异步I/O与Google vitess项目_Linux_郑柯_InfoQ精选文章