写点什么

UAVStack 升级系统设计

  • 2020-02-09
  • 本文字数:2022 字

    阅读完需:约 7 分钟

UAVStack升级系统设计

一、背景

作为微服务架构系统,UAVStack 的主要服务组件包括:


  • 中间件增强框架(英文名 MonitorFramework,简称 MOF 探针):部署在业务系统

  • 监控代理程序 (英文名 MonitorAgent,简称 MA):部署在业务系统

  • 健康管理服务 (英文名 HealthManager,简称 HM):部署在后台服务群


随着业务量的增长,部署在业务系统及后台的组件也会相应增加。当总量达到一定量级后,组件升级迭代的成本和效率都会面临很大挑战:


  • 人工迭代:人工/时间成本高,错误率也高

  • 对接发布系统:

  • 优点:流程化、标准化

  • 缺点:对接成本高,每次装卸组件都要一一对接。


因此,UAVStack 基于自身特点开发了一套升级系统,实现了下列功能:


  • 运维数据实时同步:确保组件基础信息的实效性及对称性

  • 操作便捷:支持版本构建、信息查看、任务下发等

  • 任务粒度清晰:提供任务详情、问题诊断、重试、历史留痕等功能

二、UAVStack 升级系统架构图

1564543971959047445.jpeg


  • Apphub:前端应用,发起升级指令

  • MA/HM:自带升级进程的组件。支持自升级,升级成功后自重启

  • upgrade server(升级中心):存放升级版本,提供下载功能

  • upgrade client(升级进程):执行具体升级任务

三、升级中心与升级进程

upgrade server 升级中心


  • 一个独立的 HM 组件

  • Web 端 CRUD 后台接口支撑,服务端

  • 提供升级动作(action)入口,服务端

  • 分配升级事件(event)

  • 提供升级包下载能力,服务端

  • 提供反馈入口,服务端


1564543979100059203.jpeg


upgrade client 升级进程


  • 独立进程,脚本触发

  • 升级动作,事件驱动

  • 从接收参数中提取 server 地址

  • 升级包下载,客户端

  • 过程留痕、任务反馈,客户端


1564543985320000586.jpeg


在分配 event 的同时,upgrade server 升级中心会将详细的 event 信息一起发送给 MA/HM。MA/HM 接收到指令 event 后调用 shell,拉起独立的进程 upgrade client,同时附带详细的 event 信息。upgrade client 作为独立进程完成对指定组件的升级。


upgrade server 具备扩容能力,能够处理海量组件升级任务。当多个 HM 对同一个 event 做分配时,需要做特殊处理,保证 event 只会被派发一次。当多个作业人提交 action 时,若对同一个组件提交了多次不同的 event 事件,也需要做特殊处理,保证一个组件的 event 事件的单次完整性。


为降低代码复杂程度,提高功能可靠性,减少对第三方的依赖,同时考虑到 action 数据已经落地,最终决定通过存储实现 event 分配,即对存储并发下发修改指令,确保只有一条指令可以成功。而升级进程则通过文件锁保证了 event 事件的单次完整性。

四、升级过程

1564543995470086003.jpeg


(状态机)

4.1 upgrade server 通过 event 判断是否 UAV 自升级

1)UAV 自升级:具备接收升级指令,自升级,自重启(HM、MA)


  • upgrade server 作为 HM 也可以被升级


2)第三方升级:不能接收升级指令,升级后不能自重启(MOF 以及其他软件目录)


  • 升级工作过程和原理与 UAV 自升级一致。

  • 任何安装了 MA 的软件都可以使用升级功能

4.2 upgrade server 分配任务

  • NEW:action 数据落地,解析 event 数据

  • ALLOCATION:扫描 event 数据,获取升级事件(发送修改指令占坑,标明当前 HM 负责的 event)

  • 成功获取的 event 放入队列,等待派送

  • 队列消费:读取 event 信息,获取单次升级目标等信息;打包 event 信息,同时附加当前 HM Server 回调地址等;最后对指定升级目标发起升级指令。

4.3 upgrade client 执行升级任务

基于业务代码实现事件驱动:每个处理过程被视为一个事件。升级成功后,将事件标识为成功;否则默认为失败。升级成功或失败都需要指定下一个动作,从而实现灵活处理并形成业务闭环。


  • BEGIN (文件锁获取) >


BACKUP >


PACKAGE_DOWN_LOAD >


OVERRIDE_FILE >


STOP_UAV_PRO(UAV 自升级)>


START_UAV_PRO(UAV 自升级)>


END_ACTION(释放文件锁、现场清理、反馈回调)>


END


  • 处理过程发生异常/错误:


OVERRIDE_FILE_CALLBACK(回刷备份文件)> END_ACTION (同理)>END


  • 多次并发 event 事件:若无法获取文件锁,则进程执行失败,任务直接结束。文件锁释放后,方可继续处理 event 事件

4.4 upgrade client 重启 MA、HM

  • 优先 stop>start,停止不成功则 kill pid

  • 利用 crontab 启动应用进程,关键解决按原有启动参数启动

  • MSCP 程序启动时,会利用 crontab 的特性添加值守

  • 基于 liunx 本身的命令,获取到进程 pid 即可完成以上操作

五、UAVStack 升级系统亮点

5.1 运维数据实时同步

同步业务系统的节点信息与当前组件的版本信息时,往往主要依赖人工维护或相关发布系统。而 UAVStack 天然的实时画像数据则解决了运维信息同步不及时这一问题,不仅不再需要人为干预,还能支持运维信息自动发现。通过画像数据,可以实时查看组件部署情况。


1564544005039005202.jpeg

5.2 操作便捷

不需要人为干预即可实现信息自动维护,支持实时过滤与查看、批量操作及任务下发。


1564544013540033784.jpeg

5.3 任务粒度清晰

  • 历史留痕


1564544020020084214.jpeg


  • 过程留痕


1564544026530070638.jpeg


  • 问题诊断、重试


1564544033340096243.jpeg

六、总结

这套基于 UAVStack 自身特色的升级系统降低了运维成本、提升了迭代效率,单人迭代数十个组件迭代只需几分钟即可完成,已成功支持测试版本切换与迭代约 400 次,支持线上版本迭代约 350 次。


本文转载自宜信技术学院。


原文链接:http://college.creditease.cn/detail/281


2020-02-09 15:05968

评论

发布
暂无评论
发现更多内容

抖音商品SKU数据接口深度解析:解锁Dy.item_sku的电商新纪元

代码忍者

API 测试 pinduoduo API

大模型时代下的新一代广告系统

京东零售技术

人工智能 算法 大模型

Nginx配置最全详解(万字图文总结)

江南一点雨

对HttpServletRequest中的Header进行增删

派大星

HttpServletRequest

使用 fabric.js 开发移动端 H5 图片编辑器细节

秦少卫

Fabric.js 图片编辑器 开源图片编辑器 开源vue图片编辑器 vue图片编辑器

研究揭秘生成式AI惊人耗水量!训练1个模型相当于165人1年总用水量!武汉大学首个人形机器人“天问”|AI日报

可信AI进展

MongoDB 双活集群在运营商的实践

tapdata

数据库

信创里程碑:TapData 与海量数据达成产品兼容互认证,共同助力基础设施国产化建设

tapdata

数据库

互动LED地砖屏的独特性

Dylan

科技 LED display LED显示屏 led显示屏厂家

一位架构师的自述:在尚未踏入的世界成为你自己

京东零售技术

架构 代码人生 技术成长

基于微信小程序的竞赛答题小程序开发笔记(一)

CC同学

高并发设计之细粒度锁 : 5种细粒度锁的设计技巧图解(高并发篇)

肖哥弹架构

Java 乐观锁 悲观锁 高并发

无代码/低代码平台集成能力深度分析

NocoBase

低代码 无代码 集成能力

2024开放原子开源生态大会 | 双轮驱动,开源生态建设从“幼苗”成长为“大树”

极客天地

资深ETL工程师经验分享:ETL项目的5大挑战与策略

谷云科技RestCloud

数据处理 ETL 数据集成 集成工具

GreatSQL 中为什么 Update 不会被锁等待

GreatSQL

快速生成应用:AI大模型与低代码平台如何无缝结合提升效率?

天津汇柏科技有限公司

低代码 AI 人工智能

UAVStack升级系统设计_文化 & 方法_刘波安野_InfoQ精选文章