写点什么

Terracotta 的 BigMemory 力图消除针对 Java 缓存的垃圾回收

  • 2010-09-27
  • 本文字数:1416 字

    阅读完需:约 5 分钟

Terracotta 在解决 Java 应用的垃圾回收引起的暂停问题方面做出了最新的尝试。GC 暂停问题在严重依赖缓存的应用中表现的比较突出。许多垃圾回收器将新、旧对象分代隔离,并发处理较年轻的对象,但是在处理老对象时却不得不采取全局暂停操作(stop-the-world)。通过将长期存在的对象放入内存,缓存在处理这些对象时会激化全局暂停的问题。Terracotta 的解决方案名为 BigMemory™ for Enterprise Ehcache,特意采用了独有的内存管理系统。

“如今,开发人员使用消耗时间的技术来处理大数据集合——例如,使用大量的 VM(分配小堆)”,Terracotta 的 CTO Ari Zilka 说:

BigMemory for Enterprise Ehcache 使 GC 调优的神秘色彩一去不复返。企业可以充分利用现代服务器的能力实现因内存数据带来的性能提高,同时把数据中心的服务器合并。

BigMemory 被视为 Azul 的 Zing 的竞争者,Zing 为基于 Intel 和 AMD 的服务器提供无暂停的垃圾回收。但是,这两种产品采取了不同的方法。Azul 的解决方案使用软件技术提供了一种垃圾回收算法,能够与应用并发运行,因此,需要 Azul 的 Java 虚拟机。BigMemory 则是通过管理在堆外存放在缓存中的数据来减少垃圾回收的压力,类似于采用 C 语言编写的应用。因此,目前没有使用缓存代码的应用需要改变代码,但是对于已经使用缓存(如 Hibernate Cache)的应用来说,JVM 不需要变化。

InfoQ 采访了 Terracotta 的首席执行官 Amit Pandey。Pandey 表示,虽然 Terracotta 的 Ehcache 支持单节点和多节点,但是 Terracotta 的用户中 80-85% 都在使用单节点缓存。这些用户可能还没有准备好采用完全分布式的架构,但是他们在扩展性和性能方面存在一些问题。对于这些客户,BigMemory 提供了一种办法:

“当他们尝试扩展已经放入内存或者堆里的数据集大小时,就会遇到垃圾回收问题和性能问题。因此,他们只能发挥很小的潜力。”

Pandey 告诉我们,最初 Terracotta 是解决自己的 Java 服务器的垃圾回收问题,今年早些时候才决定开发自己的内存管理器,采用 Java 编写。做完之后,他们决定将其集成到 Ehcache 产品中并投放市场。Pandey 表示,大部分客户在堆达到 4GB 左右的时候就会面临困境。

在 Java 世界,我们的产品提供了将大量数据放入 Encache 的能力。我们已经测试了超过 100GB 数据,性能表现平稳,包括响应时间、SLA、最大垃圾回收暂停时间,这是因为我们基本上不做 GC 暂停。因此,如果你的应用在 1GB 的堆里 GC 时间为 1 秒,那么引入 Ehcache,将数据脱离堆,仍然在内存中,你可以达到 100GB 而且 GC 时间几乎保持不变。

下图(感谢 Terracotta 提供)是针对真实应用抽象和模块化得出的数据。

我们还谈到了内存管理器的工作原理,Pandey 说:

… 我们没有做垃圾回收。我们的内存管理方式和其他语言非常类似。现在,我们把数据都存放在线性数据结构中。因此,不会存在分代问题等等,我们的应用负责处理这些问题。你在堆上有些数据并按照正常的方式处理,但是你也可以把堆设的很小,然后把所有其他数据都放到我们的数据结构中,我们来处理。我们引入了一些非常精妙的算法,能够处理碎片等,因为我们是在离线模式下操作,所以不会降低应用运行速度。

虽然 BigMemory 的目标市场是那些不想构建完全分布式架构的人,但是该产品在分布式缓存中同样有效。

该产品目前处在 beta 阶段,预计十月份发布 GA 版。具体价格将在这之前公布。

查看英文原文: Terracotta’s BigMemory Aiming to Eliminate Garbage Collection for Java Caches

2010-09-27 04:242908
用户头像

发布了 501 篇内容, 共 254.7 次阅读, 收获喜欢 59 次。

关注

评论

发布
暂无评论
发现更多内容

Mac电脑屏幕调节亮度软件 Lunar pro 激活最新版

胖墩儿不胖y

Mac软件 屏幕亮度调整

TDengine 3.0 数据订阅功能的“独家”使用经验,只此一份!

TDengine

tdengine 时序数据库

一个干净的前端架构是什么样的?

秃头小帅oi

选择美国站群服务器的五大理由:安全、稳定、高效

一只扑棱蛾子

美国站群服务器

KeyShot 2023 Pro 动画渲染制作工具 附 安装教程 支持M1

加油,小妞!

3D动画渲染软件 KeyShot Pro 2023下载

Permute 3 for mac(媒体文件格式转换器) 3.11.2中文版

展初云

Mac 格式转换 视频转换

怎么理解 React Server Component 和 Next.js 的关系

伤感汤姆布利柏

对话在行人|索通发展:从ERP到BIP,携手用友共创数智索通

用友BIP

企业数智化

王文京:行业化经营创造更大的客户价值

用友BIP

解锁数据库运维秘籍:掌握AntDB-T动态共享内存,提升进程间通信效率

亚信AntDB数据库

亚信科技 数据库· AntDB数据库

LangChain:引领人工智能应用系统的语言模型革新

测吧(北京)科技有限公司

测试

Downie 4 for Mac(好用的视频下载软件) 4.6.34直装版

展初云

Mac 视频下载 Downie

软件测试/人工智能丨​Python运算符解析,小白也能轻松get

测试人

人工智能 软件测试

大数据平台红蓝对抗 - 磨利刃,淬精兵! | 京东云技术团队

京东科技开发者

测试 混沌演练 红蓝对抗 企业号11月PK榜

API测试:了解API接口测试与API接口测试指南

Noah

Milvus 2.3.功能全面升级,核心组件再升级,超低延迟、高准确度、MMap一触开启数据处理量翻倍、支持GPU使用!

汀丶人工智能

向量检索 Milvus 向量数据库

人工智能 |企业私有版大语言模型引领人工智能创新

测吧(北京)科技有限公司

测试

数仓实时算子难以观测,快来试试算子级监控吧

华为云开发者联盟

数据库 后端 华为云 华为云GaussDB 华为云开发者联盟

激发创新,助力研究:CogVLM,强大且开源的视觉语言模型亮相

汀丶人工智能

人工智能 计算机视觉 大语言模型 视觉语言模型

第七期 |《实时洞察 智能运营一用友企业绩效管理白皮书》解读

用友BIP

企业绩效

ios数据清除工具 FoneLab FoneEraser for iOS中文最新版

mac大玩家j

Mac软件 数据清除工具 iOS数据管理

全国见!飞桨星河社区五周年,邀你共赴大模型盛宴!

飞桨PaddlePaddle

人工智能 开发者 大模型 星河社区

FoneLab Location Changer for mac虚拟定位软件

展初云

Mac 虚拟定位软件

制造业工厂万界星空科技云MES系统中的设备管理模块

万界星空科技

生产管理系统 mes 设备资产管理系统 制造业数字化

OpenHarmony知识共享与论坛共建:更深层次的社区共建与繁荣

新消费日报

Terracotta的BigMemory力图消除针对Java缓存的垃圾回收_Java_Charles Humble_InfoQ精选文章