写点什么

大麦库存的高性能及一致性是如何设计的?

  • 2020-03-07
  • 本文字数:2925 字

    阅读完需:约 10 分钟

大麦库存的高性能及一致性是如何设计的?

一、背景

大麦网作为现场娱乐票务平台,其业务覆盖了各大顶级演唱会和大型赛事等高流量项目。票务行业库存系统不同于普通电商库存系统,瞬压过高的秒杀抢票,多场景、多阶段的售卖,对一致性和稳定性提出更高要求。本文将为读者介绍现场娱乐行业票务库存高性能和一致性难点解决和沉淀下来的库存稳定性建设经验。

二、库存场景分类

在售卖中支持多渠道:主办方售卖、大麦网售卖、其他分销渠道售卖等。来满足不同场景下的票源管理。大麦网库存可以分为无座库存、选座库存、预售数字库存和现票库存。


1)无座库存:比如音乐节、游展类项目,观众持票入场,无需安排座位;


2)选座购买:用户可以自己通过座位图选择座位,下单购买;



(图:大麦网选座购买)


3)预售数字库存:预售阶段用户先按照票档价位购买,然后系统按购买顺序进行自动配座;



(图:大麦网预售数字库存购买)


4)现票库存:如非大麦网票务系统生产的,由大麦网从主办方提取现票在大麦网售卖。


  1. 库存核心技术点


目标:高性能、强一致性


库存的高性能和一致性主要从以下几个方面保障:


1)进行事务拆分,执行粒度最小化,优化提高性能;


2)基于正向流水防止重复扣减;


3)基于逆向流水防止重复回滚。


  1. 扣减预校验:防击穿缓存设计


如果所有的库存扣减拦截都放到最后一步扣减库存来做,无疑会对数据库造成巨大的冲击。毕竟库存有限,总有一部分请求是无法购买成功的,这一部分请求流量应该在库存实际扣减之前拦截下来。


预校验阶段即“高并发读”链路时,进行一些不影响性能的检查操作,比如请求的合法性校验、票品是否可售、可售数量是否足够、渠道是否授权等。在这个阶段,系统采用分布式缓存来抵抗高并发读。


传统意义的缓存比如 Memcached,一个比较头疼的问题是缓存击穿。为了保护 DB,我们对传统缓存做了一层封装,即在传统缓存写入时增加当前毫秒级时间戳属性,读取缓存后与当前时间戳比较其差值判定其是否逻辑过期,如果逻辑过期则在竞争分布式锁后读取 DB 数据并反哺缓存。



(图:防击穿缓存流程图)


  1. 库存扣减的一致性保障


库存扣减要同时扣减票品库存和渠道库存,所以扣减阶段势必要进行拆解执行,拆解成最小粒度执行是为了命中数据库热点补丁,达到快速执行的目的。但拆解后面临的问题是如果一个扣减动作执行失败,如何回滚已经执行的动作。基于分库分表的限制,以上两个扣减动作显然无法使用数据层的事务做保证。本库存系统选用的是“职责链模式”进行库存扣减步骤的定制化。


我们把“票品库存扣减”、“渠道库存扣减”作为职责链中的两个独立 Action,任何一个 Action 发生异常则向上抛出,在上层处理异常并回滚已经执行过的 Action。确保“票品库存”“渠道库存”的扣减共进退,理论上达到数据一致性的事务保障。


在动态组合职责时,两个 Action 的执行顺序相当关键。在扣减顺序上,首先扣减票品库存,因为票品库存的共享性,在多渠道同时扣减的情况下,票品库存一般先于渠道库存售罄。所以首先扣减票品库存相较于首先扣减渠道库存可以减少很多回滚情况的发生。



(图:库存扣减顺序)


  1. 库存回滚的一致性保障


在回滚职责链中,动态组合职责时,同样讲究执行的先后顺序,与正向扣减刚好相反,首先回滚渠道库存,然后回滚票品库存。这样在渠道库存已经回滚的情况下如果回滚票品库存发生异常,结合上述的扣减顺序,票品库存的超卖扣减几率将大大降低。



(图:库存回滚顺序)


  1. 异常场景的实时对账


交易系统与库存系统之间的对账可以让双方系统互通有无。如果交易系统在扣减库存时发生读取超时,库存系统实际已经完成库存扣减,但交易系统并未成功落单。则库存系统在实际扣减成功后会发起对账消息,此时交易系统对账结果显示交易系统并未落单,立即主动发起库存回滚请求,撤销刚才的事实扣减。



(图:系统对账交互图)


  1. 数据库层面的极限优化


库存扣减会在同一条票品库存或者渠道库存记录上“高并发写”。此阶段会直接面对数据库的一条记录进行高频次的写操作,业界普遍采用的方案是应用层排队或者行级乐观锁保障对同一条记录进行操作的并发。考虑到应用层排队有损性能,库存系统采用了较为理想的数据层排队,主要基于阿里的数据库团队开发的针对 InnoDB 层上的补丁程序(patch),可以基于 DB 层对单行记录做并发排队,从而实现秒杀场景下的定制优化。


  1. 高并发场景下日志优化


业务日志对于发现业务问题极为有效,也有助于测试阶段的问题定位。上线后有详细的全链路日志协助问题排查。为了避免引入的外部 jar 输出不必要的日志,所以上线后的系统业务日志级别调整为 ERROR 级别。另外,为了防止大抢期间日志落地造成 IO 竞争导致性能下降,库存系统裁剪了大量的无效日志输出,并且采用 Logback 的 LoggingEventAsyncDisruptorAppender 异步写日志,防止写日志阻塞(极端情况下有抛弃日志的可能)引起的系统性能下降。

三、库存稳定性

稳定性目标:2 分钟内发现(业务监控 100%覆盖),5 分钟内定位,15 分钟内止血。



(图:库存稳定性建设包含内容)


  1. 链路梳理及优化


库存红线:是库存系统的生命线,其规则如下图:



(图:库存核心红线规则)


强弱依赖:对库存的核心链路进行强弱依赖梳理,保证核心链路只依赖 DB,其他依赖均可降级。


  1. 全链路压测


完备的常态化全链路压测体系,保证库存的一致性和性能符合大抢预期。



(图:全链路压测流程)


  1. 大抢预案自动化


预案自动化的核心在于两点:哪些项目是热门项目?哪些预案需要执行?


1)发现热门项目,预案根据 PV 和参与人数,自动发现热门项目,加入预案执行队列。


2)自动执行预案项,根据预先编排好的执行时间自动对抢票场次执行缓存预热、开关降级和接口限流等操作。



(图:大抢预案自动化配置示例图)


  1. 库存异常熔断


在抢票场景下,库存异常的诊断是非常困难的,基于库存扣减流水可以准确计算出库存在某一时间段内变化的情况,和当前生成的票单对比后即可以判断库存是否不一致,进而触发渠道熔断,防止情况恶化。



(图:基于时间轴的异常熔断检测)


  1. 监控及报警


在监控方面主要有:核心指标及异常监控、业务实时审计和周期巡检。


1)核心指标及异常监控


核心指标及异常监控可以有效监控下单成功率和 RT 抖动,如果有异常错误码或者抖动可以及时发现,快速介入;


2)业务实时审计


业务实时审计是数据一致性检测的重要手段,由于链路超时或异常下状态不一致的时进行报警;


3)周期巡检


周期巡检是对上述监控的重要补充,业务实时审计其实是数据状态变化触发的,当没有触发事件或者没有覆盖到其他规则时,周期巡检可以避免监控遗漏,虽然是非实时的,但是也在实践中起到不错的效果。



(图:票品健康监测示例图)


  1. 排查工具建设:快速定位,快速止血恢复



(图:排查工具包含内容)



(图:库存燃尽图示例)

四、总结

以上是票务行业库存系统建设及项目中的一些探索经验,基于正逆向流水的防重,预校验拦截,防缓存击穿,职责链模式的步骤拆分,系统间对账,数据库热点补丁的使用,日志裁剪优化等一些列技术手段,达成库存高性能、强一致性目标。


通过梳理库存红线,常态化全链路压测,异常熔断机制,监控报警以及排查工具,大抢预案自动化建设,持续提高库存系统稳定性。


作者简介


阿里文娱技术专家 古行


相关链接


10W 座位的大场馆究竟是怎么画出来的?


10 倍高清不花!大麦端选座SVG 渲染


首次揭秘!看大麦如何掌控超大规模高性能选座抢票


3D/VR 选座技术探索


2020-03-07 11:005394

评论 1 条评论

发布
用户头像
棒棒棒👍👍👍,反复看了几遍

验阶段即“高并发读”链路时,进行一些不影响性能的检查操作,比如请求的合法性校验、票品是否可售、可售数量是否足够、渠道是否授权等。在这个阶段,系统采用分布式缓存来抵抗高并发读。

2021-03-11 22:20
回复
没有更多了
发现更多内容

纯CSS实现有趣emoji切换开关

南城FE

CSS 前端

Chrome Extension 开发中的 Tab 操作与实践

FunTester

700+开发者齐聚5城共探鸿蒙原生应用Codelabs

最新动态

阿里巴巴商品详情API:1688电商发展新趋势下的数据驱动力

代码忍者

API 测试 pinduoduo API

中小企业为什么要上MES系统?

万界星空科技

mes 中小企业 万界星空科技mes 生产管理MES系统

哈银消费金融合规经营,持续稳健发展

极客天地

“你好BOE”重磅亮相首届上海国际光影节 打造“艺术x科技”顶级影像盛宴

爱极客侠

VMware Aria Suite 8.18 发布 - 云管理解决方案

sysin

vmware aria

Java 性能分析

FunTester

望繁信科技亮相2023北京央企部委及大型企业CIO年会,为“数字化转型”注入全新想象

望繁信科技

数字化转型 流程挖掘 流程资产 流程智能 业务流程管理优化

TDengine 签约国家电投旗下四大火力发电厂,助力汽轮机振动数据的有效管理

TDengine

数据库 tdengine 时序数据库

神奇的css选择器

六哥是全栈

CSS 前端‘’

Cisco Catalyst 9000 交换产品系列 IOS XE 17.15.1 发布下载,新增功能概览

sysin

Cisco 交换机

Pencils Protocol生态经济全面运转,持续通缩的DAPP潜力颇大

股市老人

免费赠书、多样字体、丰富音色,华为阅读带用户多读书、读好书

最新动态

Pencils Protocol 全面推动市场,低流通的 DAPP 将持续通缩

加密眼界

AI西游记:企业如何闯过大模型的「火焰山」?

脑极体

AI

《Programming from the Ground Up》阅读笔记:p117-p146

codists

汇编 assembly 编程人

加入极限科技(INFINI Labs),成为搜索运维工程师!

极限实验室

招聘 搜索引擎运维

Cisco SD-WAN (Viptela) 20.15.1 发布,新增功能概览

sysin

Cisco SD-WAN

微软远程连接工具:Microsoft Remote Desktop for Mac 中文直装版

你的猪会飞吗

microsoft remote desktop Mac破解软件 mac破解软件下载

Web应用是指什么?堡垒机对Web应用进行管理有什么好处?

行云管家

Web应用 Web 应用防火墙

HarmonyOS NEXT 实战输入文字转化语音

李洋-蛟龙腾飞

专访 Bitlayer 联合创始人 Charlie:探索比特币 Layer2 技术的未来

TechubNews

AI+,释放算力新价值论坛 | 超聚变联合伙伴发布FusionOne AI大模型解决方案

业界

大麦库存的高性能及一致性是如何设计的?_文化 & 方法_阿里巴巴文娱技术_InfoQ精选文章