写点什么

Comet: 上万的并发用户、亚秒级的响应时间

  • 2008-02-01
  • 本文字数:1823 字

    阅读完需:约 6 分钟

以反向 Ajax 著称的 Comet,主要目标在于通过借助 HTTP1.1 中持久连接的特性,使得客户端可以即时获知服务器端所发生的状态变化。正如 Infoq.com 之前提到过的那样,和 Comet 类似的,还有很多其他所谓的“推送技术(push technologies)”也在试图实现同样的目标。

Greg Wilkins 和他在 Webtide 的团队瞄准了测量 Comet 的延展性的目标进行了一系列的测试(Webtide 是由开源项目 Jetty web 服务器的主要技术开发员组成的一家公司)。根据测试结果,他们发表了在测试中的一些发现。更具体地说,这些测试涉及到在Jetty 上运行实现了 Bayeux 协议的 Dojo Cometd 应用。除了在服务器上运行 Cometd 以外,他们在客户端机器(1-3 台之间)同样也运行 Cometd,从而服务器和客户端共同生成相当于两万个用户的负载。同时,服务器和客户端机器都采用 Amazon EC2 虚拟服务器的大实例(Large Instances)。测试结果的以图表的形式总结如下:

以下是从这些测试中得到的值得强调的几个要点:

  • 即使在同时面对两万个用户时,该技术都能达到亚秒级响应时间 (sub-second latency)。但是,在响应时间和吞吐量两者间仍然存在着权衡取舍的需要。对于 5000 个用户,如果响应时间达到 100 毫秒,吞吐量是每秒 2000 条信息。如果将响应时间延长到 250 毫秒,吞吐量则提高到每秒 3000 条信息。
  • 在测试中使用的应用程序仅是一个能够支持每个房间 200 个用户的聊天室程序。“在每个测试中,负载是定时间隔地向 10 个随机选取的聊天室突发 50 字节的载荷。发送的时间间隔是选定的,这样一来可以保证服务器 CPU 的状态基本稳定在 10%到 50%的空闲”。
  • Greg 指出“一台机器无法生成或者处理和 20000 个各自拥有计算机和网络设施的用户同样的负载”。为了尽可能的弥补这个不足之处,一部分测试 (见上图中绿色圆圈) 通过 3 台不同的机器模拟用户来完成。
  • 对于使用 3 台客户端机器来完成的测试,关于响应时间的测量是从模拟了 1000 个用户的机器上获得。尽管测量不是完全精确,但是 Greg 指出,他们从处理剩下的 20000 个用户的其他两个客户端所观察到的响应时间的上限值相当于在一台客户端机器上运行测试时所观察到的响应时间。
  • 捆绑了 Jetty6.1.7 的 Cometd demo 仍然需要一些修改。其中一些修改和减轻服务器端线程池的 lock starvation 相关,另外一些则牵涉到启动步骤的修改。

正如在评论以及 Greg 之前的一篇文章中提到的那样,Jetty 能够异步将消息推向客户端,因而面对同样数目的客户所需资源要少的多。在这些测试中所应用到的对线程池的修改代码现在可以下载,并且Greg 告诉Infoq 说这些修改代码将囊括在Jetty 下一个发布版本中。他也补充提到Webtide 正在通过负载均衡调度器来运行类似的测试,不久将会发布更多的测试结果。

另外一个能够突出Comet 延展性的很有意思的方法是 Lightstreamer所采用的方法。它的实现是基于一个不依赖于底层应用或 web 服务器的独立服务器。一些 web/ 应用程序服务器,扩展以后像流引擎(streaming engine)那样工作,这些服务器基于的是"一线程一连接模式(one-thread-per-connection model)"。相对来说,Lightstreamer 将服务器可以维持的连接数与服务器所能使用的连接数进行解耦,因而可以扩展面向非常大数量的用户。

在和 Infoq 的对话中,Alessandro Alinone —— Lightstreamer 的 CTO 表示,他们在金融领域已经有客户了,在产品中实现了“平均有 10000 个并发用户以及平均每个用户每秒钟 3-5 个更新的频率。”他补充说“Lightstreamer 通过一个 OEM 协定在 TIBCO Ajax 消息服务中作为核心引擎使用。因此,TIBCO 前端的一些很有意思的产品方案正在急剧增长中。”

除了服务器之外, Lightstreamer 的后端构架包括:

  • 一个数据适配器——插件模型,连接 Lightstreamer 需要集成的数据资源。它能够使用任何技术来集成数据,但是一个异步数据种子(例如 JMS,TIB/RV,MQ)要避免通向客户端的异步数据链断掉。
  • 一个元数据适配器——插件模型,为 Lightstreamer 服务器提供元数据的推送(push)方案。

客户端,浏览器像通常一样从web 服务器得到静态网页,但是它可以收到从Lightstreamer 服务器推向它的即时更新。这些更些的消费者可能是一套和大多数浏览器兼容并且和大部分第三方AJAX 框架和工具箱共存或集成的Lightstreamer JavaScript 库。即时更新也可以通过Lightstreamer 推向Flash/Flex 应用程序,也可以推向使用Java 或.NET 开发的桌面应用程序。

查看原文: Comet: Sub-Second Latency with 10K+ Concurrent Users

2008-02-01 03:055610
用户头像

发布了 71 篇内容, 共 21.4 次阅读, 收获喜欢 3 次。

关注

评论

发布
暂无评论
发现更多内容

Kubernetes 中的应用参数配置案例详析

Zilliz

数据库 Kuber k8s Helm

从简历被拒到收割8个大厂offer,我用了3个月成功破茧成蝶

收到请回复

Java 程序员 面试

【LeetCode】Fizz Buzz Java题解

Albert

算法 LeetCode 10月月更

云栖大会|感受万物数字化,体验千行视频化

阿里云CloudImagine

云计算 阿里云 AI 音视频 视频云

为什么要进行代码评审?

爱数技术范儿

代码评审

【ShardingSphere技术专题】「ShardingJDBC」(1)带你一同认识一下ShardingJDBC是什么?(高手勿入)

码界西柚

ShardingJDBC ShardingSphere 算法学习笔记指南 10月月更

快速配置浏览器 https 访问 Kibana(qbit)

qbit

elasticsearch TLS Kibana ssl

OceanBase 存储层代码解读(二)微块存储格式

OceanBase 数据库

深入思考软件工程,开启 DevOps 之旅

BoCloud博云

DevOps cicd 云原生 CI/CD 敏捷交付

教育机构这一大堆问题都是由教育管理系统解决的

低代码小观

公司管理 教育 企业管理 CRM 管理工具

青岛敏捷之旅,来了!

禅道项目管理

敏捷 敏捷教练 青岛

和12岁小同志搞创客开发:如何驱动LED点阵模块?

不脱发的程序猿

少儿编程 创客开发 LED点阵模块

python 数据库编程,这篇是针对 mysql 的,滚雪球学Python第4季第13篇

梦想橡皮擦

10月月更

《沸腾新十年》背后的N重空间

博文视点Broadview

Vue进阶(幺叁肆):npm查看包版本信息

No Silver Bullet

Vue 表单校验 10月月更

小知识系列:查询数据库数据的元信息

程序那些事

Java 数据库 元数据 程序那些事

喜大普奔!焱融科技正式推出 SaaS 数据服务平台

焱融科技

云计算 高性能 公有云 文件存储 分布式,

汇纳科技数据科学团队研究商场活动效果并优化的论文被ISR期刊接收

015云原生之大数据技术

穿过生命散发芬芳

云原生 10月月更

技术分享| RTC通讯中常用的图像格式

anyRTC开发者

音视频 RTC 图像格式 rgb yuv

直播分发选低延迟 RTC 还是 CDN?

融云 RongCloud

CDN 直播 RTC

第 16 章 -《Linux 一学就会》- Linux计划任务与日志的管理

学神来啦

Linux linux运维 linux学习 linux一学就会

火山引擎MARS-APM Plus x 飞书 |降低线上OOM,提高App性能稳定性

字节跳动终端技术

ios android 大前端 MARS-APMPlus

雾霾模糊?图像增强教你如何去雾

华为云开发者联盟

计算机视觉 图像处理 图像增强 预处理 图像去雾算法

律所管理系统能解决律师事务所存在的这些问题

低代码小观

公司管理 企业 企业管理 管理工具 律所

”微博评论“的高性能高可用计算架构

缘分呐

架构设计实战

keytool生成keystore、truststore、证书

黄敏

智能运维之日志语义异常检测

云智慧AIOps社区

日志 数据处理 异常检测 智能运维 算法实践

高性能、免运维,博云开源云原生本地存储方案:Carina

BoCloud博云

数据库 云原生 中间件 本地存储

面试巨作!13万字!腾讯高工手写JDK源码笔记 带你飙向实战

收到请回复

Java jdk 面试 后端

【Flutter 专题】30 图解自定义底部状态栏 ACEBottomNavigationBar (二)

阿策小和尚

Flutter 小菜 0 基础学习 Flutter Android 小菜鸟 10月月更

Comet: 上万的并发用户、亚秒级的响应时间_Java_Alexander Olaru_InfoQ精选文章