快手、孩子王、华为等专家分享大模型在电商运营、母婴消费、翻译等行业场景的实际应用 了解详情
写点什么

亚马逊将自有服务数据的压缩从 Gzip 切换为 Zstd

作者:Renato Losio

  • 2022-10-09
    北京
  • 本文字数:1149 字

    阅读完需:约 4 分钟

亚马逊将自有服务数据的压缩从Gzip切换为Zstd

最近,亚马逊前副总裁Adrian Cockcroft在推文中特别指出了从 gzip 切换到 Zstandard 压缩所带来的好处,这在社区中引发了关于压缩算法的讨论。其他大公司,包括 Twitter 和 Honeycomb,也分享了使用 zstd 获得的收益。

 

最近,Dan Luu分析了推特存储节省的情况,并在推特上发起了一场对话:

我想知道 Yann Collect 创建 zstd 到底消除了多少浪费。我估算了下 Twitter 的数值(与大型科技公司相比微不足道),从 HDFS 切换到 zstd 每年节省的数量大约为 8 位数的中值。在世界范围内(非年化),这个数值应该不低于 9 位数?

 

Cockcroft 回复说:

亚马逊从 gzip 切换到 zstd,压缩 S3 存储量减少了大约 30%,达艾字节的规模。

 

Zstandard(其 C 语言实现 zstd 更为知名)是由 Facebook 公司的Yann Collet开发的无损数据压缩算法,在多种数据集上提供了很高的压缩比和非常好的性能。该参考实现库是一个遵循 BSD 许可的开源软件,它提供了一个速度极快的解码器,允许我们在速度和压缩比之间做大范围权衡。

 

起初,Cockcroft 的表述在社区中引发了质疑,一些开发人员询问亚马逊如何在 S3 上压缩客户数据。亚马逊一名内部员工澄清道

Adrian 说错了,或许是所有人都误解了他的意思。他的意思并不是说 S3 改变了存储压缩客户数据的方式。他的意思是亚马逊改变了在 S3 中存储自有服务数据(主要是日志)的方式——从 gzip 日志切换到 ztsd 日志,我们(作为 S3 的一个客户)能够将 S3 存储成本降低 30%。

 

Honeycomb 首席开发者大使Liz Fong-Jones赞同切换到 zstd:

我们不把它用于列文件,因为那太慢了,但我们把它用于 Kafka(…),在生产环境中从 snappy 切换到 zstd 后,Honeycomb 节省了 25%的带宽。(…)不仅仅是存储和计算,对我们来说,是网络。亚马逊跨 AZ 的数据传输非常昂贵。

 

Reddit一个热门的帖子中,noirknight 是众多提供正反馈的用户之一:

我的公司几年前也做过类似的事情,也看到了类似的好处。只要可能,我们都使用 zstandard,不仅仅是存储,还有其他东西,比如内部 HTTP 通信。

 

以下是用户treffer在Hacker News上的评论

速度特别快的压缩算法(zstd、lz4、snappy、lzo……)是值得我们付出 CPU 成本的,而且几乎没有什么缺点。问题在于找到最佳契合点,在不产生 CPU 瓶颈的情况下减少当前的瓶颈,不过在这方面,zstd 也提供了最大的灵活性。

 

亚马逊在一些托管服务的 API 中公开了 Zstandard 和对其他压缩算法的支持。例如,在Amazon Redshift中引入Zstandard支持后,这家云提供商针对云数据仓库开发了自己的算法AZ64。按照他们的说法,其专有压缩算法比 zstd 编码节省 5-10%的存储空间,并且速度快 70%。

 

亚马逊官方没有就其内部数据使用的压缩技术或相关的 S3 存储节省发表任何评论。

 

原文链接:

https://www.infoq.com/news/2022/09/amazon-gzip-zstd/


相关阅读:

Node.js|使用 zlib 内置模块进行 gzip 压缩

一种优于 gzip 的压缩方式 Brotli

2022-10-09 15:338209

评论

发布
暂无评论
发现更多内容

通过 Footprint 的钱包地址属性解密身份和意图

Footprint Analytics

区块链 加密钱包

软件测试学习笔记丨Selenium环境安装与使用

测试人

软件测试

数据访问效率百倍提升 HashData助力中国石油乘“数”而行

酷克数据HashData

听GPT 讲Rust Cargo源代码(1)

fliter

每日一题:LeetCode-498. 对角线遍历

Geek_4z9ami

Go 面试 算法 LeetCode 遍历

FunPlus宣布与华为游戏中心达成鸿蒙生态合作

最新动态

Gas Hero Pets NFT 概览与数据分析

Footprint Analytics

区块链 NFT

Golang并发控制方式有几种?

EquatorCoco

Go 大数据 开发语言

【快递鸟】智能化之路:即时零售的崛起与线下商超的转型

快递鸟

同城配送

云安全中的常见云漏洞和威胁,有哪些防范措施

德迅云安全杨德俊

云安全 云监控 漏洞检测

如何理解低代码?将会带来哪些价值?

互联网工科生

软件开发 低代码开发 JNPF

NFTScan | 01.22~01.28 NFT 市场热点汇总

NFT Research

NFT NFT\ NFTScan

点击查看 Milvus 社区十大关键词(上)

Zilliz

开源社区 Milvus 向量数据库 云原生向量数据库

2024年前端开发趋势的 6 个框架

伤感汤姆布利柏

百度智能云千帆AppBuilder-应用API调用说明

AI大咚咚

人工智能 百度 AI #大模型 AI原生应用

低代码怎么火起来的?

高端章鱼哥

低代码 JNPF

Dynamic Wallpaper for Mac(精美的动态壁纸)v17.1免激活版

iMac小白

探索拼多多API:打造个性化购物体验与互动营销工具

Noah

2024年了,是谁还在学C++11?(没错,是我)

博文视点Broadview

独享资源与极速体验:韩国独立服务器带给您的优势!

一只扑棱蛾子

独立服务器

Vue中虚拟Dom技术,你学会了吗?

伤感汤姆布利柏

跨境远程控制软件分享,为何放弃向日葵?

小喵子

远程 远程软件 远程桌面办公

软件测试学习笔记丨http/https/tcp握手和回收/mock相关解释

测试人

软件测试

听GPT 讲Rust Cargo源代码(2)

fliter

软件测试学习笔记丨Linux命令 sort排序

测试人

软件测试

ProVideoPlayer for mac(pvp3多屏播放软件)v3.3.1激活版

iMac小白

DBeaverUE for Mac v23.3.1旗舰激活版下载

iMac小白

软件测试学习笔记丨Linux安装下载

测试人

软件测试

TDengine 签约海博思创,助力储能运维平台数据管理

TDengine

tdengine 时序数据库

探索图像检索:从理论到实战的应用

快乐非自愿限量之名

人工智能 机器学习 深度学习 大数据 图像

亚马逊将自有服务数据的压缩从Gzip切换为Zstd_架构_InfoQ精选文章