HarmonyOS开发者限时福利来啦!最高10w+现金激励等你拿~ 了解详情
写点什么

首次揭秘!看大麦如何掌控超大规模高性能选座抢票

  • 2020-03-05
  • 本文字数:4081 字

    阅读完需:约 13 分钟

首次揭秘!看大麦如何掌控超大规模高性能选座抢票

一、背景介绍

随着现场娱乐行业的不断发展,各类演出层出不穷,越来越多的演出开启选座购票满足用户的自主选座需求。大麦的选座不仅面向中小场馆类的剧院演出,还面向大型体育赛事、大型演唱会等超大型场馆(如鸟巢近 10 万座)。选座类型抢票的特点是“选”,由于“选”的可视化以及超大场馆在数据量上对大麦是很大的挑战。本文通过服务端和前端上的一些解决方案来探讨如何支撑超大规模场馆的高性能选座,通过本文的一些技术方案希望可以对读者在一些高并发实践中提供帮助。

二、核心问题

首先看一下普通商品的秒杀,拿某款手机秒杀来说,一般情况下,一场手机只有几个型号,比如中低档、高性能档、旗舰等,处理好这几个商品的库存即可。对于选座类抢票而言,每一个场次的所有的每一个座位都可以认为是一个不同的商品,场馆大小不一,大的鸟巢有 10w 座位。也即是说一个选座类抢票就涉及 10 万级别的商品,如果多个项目同时开抢,整体数量会很庞大。目前大麦电商侧的商品维度是票档,座位并不是商品粒度,所以无法利用集团的秒杀能力,选座类抢票涉及电商、选座、票务云产销,是对大麦整体能力的考验。


先来看看整个选座购票的流程:以林俊杰长沙测试项目购票为例。


①用户打开需要的场次项目详情页



②点击选座购买,打开选座页面,查看座位图及票档



③选择一个看台区域,选择喜欢的座位,点击确认选座



④进入下单页面,填写手机号收货地址,创建订单



⑤提交订单完成付款、出票。


其中,2、3、4 环节都与选座相关。


从流程上看,选座的核心关键技术在于:


①座位图的快速加载。快速加载其实就是选座页面的读能力。选座页面需要下载座位底图、座位基础信息(排号等等)来做渲染,同时需要票档、该场次每个座位的状态,来决定是可售还是锁定还是已经售出。


对于大型场馆座位 5 万-10 万,渲染一个选座页面需要的数据量都很大。


②高并发。由于热门演出票的稀缺性,同时抢票的人数可能达到几十万。如何支撑如此高的并发和吞吐是一大考验。


③座位状态更新的及时性


当某个座位售出后,需要及时更新座位状态。


④抢票体验:抢票时热门的看台某个座位可能几十个人并发去抢,如何尽量提升用户的体验,尽量让更多用户一次性购买成功,体验更好。

三、高性能选座实践

针对高性能选座的核心要求,我们从如下几个维度去阐述我们在选座类抢票上的实践。


  1. 动静结合


选座的瓶颈数据量“首当其冲”。从逻辑上讲,一个座位完整的展现到用户面前,需要包含座位的看台、排号、价格、售卖状态等信息,其中看台、排号等等是不变的,并可提前预知的;售卖状态等时根据项目的进行会动态变化的。所以把选座的数据拆分为动态、静态数据。对于大型场馆如 10 万场馆,用户打开一个选座页,座位的静态数据(座位 id,票价 id,是否固定套票,坐标 x,y,和舞台角度,哪个看台,几排几号等等),这些数据大概 15M 左右。再加上动态数据如票档状态、颜色、看台状态、座位状态,10w 场馆大概 2M 左右。也就是说如果不做处理用户仅仅打开选座页就需要 17M 以上的数据量。如果选座数据存储在 oss 上,如果每人下载 15M,10w 人同时抢票则需要 1500G 带宽,带宽成本很高。为了解决静态文件访问速度问题,将静态数据从 oss 直接接入到 cdn。同时为了保障数据最新,静态数据采用版本控制。


  1. 静态数据的预加载


上面提到带宽峰值很高,为了降低峰值且提升体验,客户端引入了静态数据预加载。静态信息结合预加载的处理,为处理大数据量的座位信息提供了时间上的余量,用户在打开选座页时优先显示静态信息,可有效降低用户等待时间,提升用户的体验。


通过大数据分析结合用户的行为习惯,确定预加载的场次类型,提高预加载的命中率。



图 2.1:预加载调整流程


预加载+预解析,完成了绘制基本场馆信息的数据准备,再将数据提前与画座 View 绑定,预渲染 View 进而达到选座页秒开效果。


  1. 座位数据编码


动态、静态数据量大制约了我们实现高吞吐,同时也浪费了服务带宽和用户流量。所以需要压缩,压缩到一定的可接受的范围。只有数据量足够小,才有办法做到高吞吐。


1)静态数据编码


在处理大数据量的座位(例如十万级)仅有静态数据的预加载往往是不足的,预加载并没有从根本上处理座位数据量大的问题,同时对于类似体育比赛这种多日期多场次的场景,由于预加载的使用存在缓存量的控制,往往影响预加载的命中率。


而数据重编码和数据压缩的使用,是从源头解决问题的有效思路。


座位数据的重编,舍弃传统的 xml 和 json 格式,不仅可以有效压缩数据大小,还对数据安全提供了保障,即使被拿到了接口数据,因为缺乏数据编码的协议,也无法获取有效的原始信息。


2)座位静态数据压缩整体框架


目前大麦针对自己特有的座位数据特点,结合高效二进制编码方案进行座位数据的重新编码,再使用通用的无损压缩进一步缩小数据体积,从而减少了座位数据的网络传输时间,从根本上解决大数据传输导致的时延问题:



图 3.1:静态数据压缩流程


基于二进制的数据编码,既保障了数据安全性,又保证了在数据解析中的高效性,即使数据压缩的使用也比 json、xml 的解析具有更少的时延。


同时兼具工具化的批量生产方式,又进一步解决了数据构建问题。



图 3.2:静态数据压缩工具架构


通过端上和 server 端的握手协商过程,实现了数据编码和通用压缩方式灵活组合,sever 端可以针对不同的端下发相应的压缩格式文件:



图 3.3:静态数据压缩,握手协商工作流


结合 CRC 的思想,制定了兼容 IOS、Android 和 H5 三端的基于座位属性的纵向 hash 校验。相比 md5 等普通的散列计算方式,在处理 6 万级座位多维度信息时,在端上实现了十几毫秒、 H5 侧 50 毫秒左右的全量数据检测,使得在不占用多长时间的情况,可以验证数万级座位解析的准确性。


经过这编码到检测的完整链路,实现了减少数据的体积的同时,又能达到比传统 xml 和 json 数据的高效解析、高安全性。



图 3.3: 压缩数据对比


其中 quantum 是大麦端上自研的基于动态比特和字典的压缩算法,结合大麦特有业务场景,实现了高压缩比和快速数据解析:



图 3.4: quantum 压缩文件结构


3)座位动态数据的编码处理


a)动态数据的难点


选座动态接口主要涉及票档情况、看台情况、座位状态。数据量最大的是座位状态。以一个 5 万座位的场馆为例,每个座位都要返回一个状态供前端渲染。采用座位 id 和状态键值对的方式,由于座位较多使得整个返回结果过大,5 万座位的场馆返回 1M 以上的数据。如果打开一个选座页需要吞吐 1M 数据量的化,接口基本不可用了。之前的策略是按照分组策略,5 万大概会分 10 个组,这样每个请求大概 100k 数据量,这样才能达到接口基本可用,不过端上需要请求 10 次才能拿到整个场次的状态,可想而知性能会有多大影响。假如 5 万座位的场馆,10 万峰值抢票,那么仅仅这个接口就需要 100 万的 qps,所以肯定会逢抢必挂。


b)方案


目前接口是通过 mtop 协议,我们思考的前提:目前 mtop 不支持 byte[]数组流,只支持 json 等格式的字符串结构。如何把返回的数据减小,采用一个尽量简洁的方案,同时调用一次返回整个场馆座位状态,是我们努力的方向。


数据量大主要是因为有很多冗余的座位 id。有没有办法不依赖这些座位 id?既然我们做的动静分离,静态数据里已经涵盖了座位 id,我们动态接口里只需要对应的返回状态即可,即按照静态里面的顺序返回座位状态。同时我们把返回结果进行简单的相邻状态合并将进一步降低返回结果大小。假设用户选座座位符合正态分布概率,平均长度 5w 座位平均返回不到 20k。


当然如果我们 mtop 协议支持二进制流,那么我们可以用 bit 位进行存储,可以进一步降低返回结果的大小。


  1. 高效缓存


1)缓存


面向这么高的 TPS,tair 是不二首选。采用 tair + 本地缓存,来支撑如此高的数据峰值。


提到 tair,提一下我们这边的一些策略。


用户进到选座页是一个个的看台,我们设计了一级 stand cache,即看台级别的 cache;用户会进行选座位,我们又加了一级 seat cache,即为座位粒度的 cache。两级 cache 保障用户查看台和用户下单选座都能命中缓存。standcache 是热点 key,从选座的场景是允许数据非准实时的,所以引入了 tair localcache 和 guava localcache 来增加吞吐,以此降低对 tair 的读压力。


2)保护下游系统


目前采用的策略是对下游的调用采用加锁,tair 全局锁。拿到锁的才去请求票务云底层数据。拿到锁的进程去更新 tair 缓存。其实从这里看对 tair 的写还是 qps 比较小的,但是每次争抢锁对 tair 的读还是不算太小。通过采用本地的锁 + 随机透传来减少 tair 锁耗费的读 qps。为了对下游依赖做降级,增加了数据快照,每次对下游的调用记录数据快照。当某次调用失败采用之前的快照进行补偿。


3)保障数据更新及时


由于我们采用了 tair 全局锁,可以按照秒级控制下游调用。调用采用异步触发。最短 1s 内会触发我们发起对下游的调用。如果我们想最大化利用票务云库存能力,给用户的延迟在 1s 以内,我们有一些策略。拿到锁的线程 1s 内调用数据更新任务,在数据更新任务里做一些策略, 1s 内是发起 1 次还是多次对票务云的调用,调用越多 tair 更新越及时。由于用户有一定的选座动作,一般情况下 500ms 的延迟用户基本无任何感知的。


4)缓存预热


预热一下缓存,对用户体验和系统性能很有帮助。抢票类项目采用一定的策略做自动化预热。


  1. 安全及容灾


1)安全


从上文看大麦座位数据做了编码和加密,同时存储路径做了混淆,保障不到开抢时间座位数据无法被破解,保障了选座数据的安全性。此外选座页布局防控策略,保障是真正需要点击座位才能完成下单,防止机刷、防止绕过选座直接下单。通过类似策略降低了选座的无效流量,提高了稳定性。


2)容灾


选座主要在以下几个方面做了容灾。静态数据存储在 oss 上,目前采用跨地区存储容灾;tair 缓存采用主备缓存,出故障时可以做切换;服务端在 pc 和无线做了集群隔离。

四、总结

本文通过在数据处理、选座性能、缓存等等策略上来阐述了笔者在大麦高性能选座上的一些实践。通过这些实践目前大麦可以轻松的承载数十万人的顶级流量的抢票项目。


作者简介


阿里文娱技术专家 恒磊、阿里文娱高级开发工程师 新钱


相关链接


10W 座位的大场馆究竟是怎么画出来的?


10 倍高清不花!大麦端选座SVG 渲染


2020-03-05 11:003042

评论

发布
暂无评论
发现更多内容

Java Stream 源码深入解析

Zexho

Java 源码 stream jdk8

数字化转型的终局:赛博朋克?社会主义?

龙归科技

数字化 软件系统 软件经济 赛博朋克

鲲鹏展翅|SphereEx 获华为鲲鹏技术认证

SphereEx

简化IT运维工作,就要学会使用自动化运维工具!

行云管家

运维 云服务 IT运维

极客时间架构实战营作业三

jjn0703

架构实战营

Vue进阶(幺幺零):ant-design-vue

No Silver Bullet

Vue 9月日更

【LeetCode】下一个更大元素 IJava题解

Albert

算法 LeetCode 9月日更

常见的安全应用识别技术有哪些?

郑州埃文科技

明道云在工程项目行业中的应用场景

明道云

统信软件张磊:国产操作系统如何获得大众市场的认可?

Jessie

开源 最佳实践 新基建 企业动态 文化 & 方法

自动化会提高测试覆盖率,那测试覆盖率是什么?

禅道项目管理

测试 自动化测试 测试覆盖率

只需3步,快来用AI预测你爱的球队下一场能赢吗?

华为云开发者联盟

机器学习 AI 华为云 modelarts 球赛

纵观移动云对象存储发展历程,也少不了 Apache APISIX 的能力加持

API7.ai 技术团队

Apache api 网关 APISIX 企业案例 移动云

Android正确的保活方案,不要掉进保活需求死循环陷进

Halifax

android 大前端 kotlin 移动开发 语言 & 开发

我爸电脑上有个加密压缩包,我给用 Python 给解开了

梦想橡皮擦

9月日更

vivo营销自动化技术解密|开篇

vivo互联网技术

Java 后端 软件架构设计 电商营销 平台搭建

必示科技加入云计算标准和开源推进委员会,助力AIOps行业标准建设

BizSeer必示科技

AIOPS 智能运维 必示科技

华为云GaussDB:发挥生态优势,培养应用型DBA

华为云开发者联盟

数据库 开源 GaussDB 云数据库 dba

【Flutter 专题】48 图解 Android 原生集成 Flutter Module

阿策小和尚

Flutter 小菜 0 基础学习 Flutter Android 小菜鸟 9月日更

安全系列之:跨域资源共享CORS

程序那些事

Java HTTP CORS 程序那些事 跨域资源共享

小游戏如何应对大流量?Shopee Shake 的大促实践

Shopee技术团队

后端 高并发 游戏 电商大促 Shopee

Java基础知识查漏补缺

IT蜗壳-Tango

9月日更

手撸二叉树之二叉搜索树中俩个节点之和

HelloWorld杰少

9月日更

Vue进阶(幺零九):npm install 遇到 -4048 错误的解决办法

No Silver Bullet

Vue 9月日更

大数据包围你我,技术人如何走知识分享之路

华为云开发者联盟

大数据 开发者 技术人 华为云 知识分享

Tensorflow保存神经网络参数有妙招:Saver和Restore

华为云开发者联盟

神经网络 tensorflow 变量 Saver Restore

快速提升Golang编程能力:那就一起用Go做项目吧

博文视点Broadview

研发人员如何进行有效沟通

KJ Meng

研发管理 团队协作 技术沟通 沟通艺术 软素质

对话华为云专家,摆脱无意义“内卷”

华为云开发者联盟

面试 华为云 就业 内卷

酷家乐 UI 自动化测试平台实践

CPPAlien

测试框架 selenium BDD UI测试 活文档

开放原子全球开发者峰会「开源治理」论坛预告(更新中)

开放原子开源基金会

首次揭秘!看大麦如何掌控超大规模高性能选座抢票_文化 & 方法_阿里巴巴文娱技术_InfoQ精选文章