50万奖金+官方证书,深圳国际金融科技大赛正式启动,点击报名 了解详情
写点什么

UAVStack 升级系统设计

  • 2020-02-09
  • 本文字数:2022 字

    阅读完需:约 7 分钟

UAVStack升级系统设计

一、背景

作为微服务架构系统,UAVStack 的主要服务组件包括:


  • 中间件增强框架(英文名 MonitorFramework,简称 MOF 探针):部署在业务系统

  • 监控代理程序 (英文名 MonitorAgent,简称 MA):部署在业务系统

  • 健康管理服务 (英文名 HealthManager,简称 HM):部署在后台服务群


随着业务量的增长,部署在业务系统及后台的组件也会相应增加。当总量达到一定量级后,组件升级迭代的成本和效率都会面临很大挑战:


  • 人工迭代:人工/时间成本高,错误率也高

  • 对接发布系统:

  • 优点:流程化、标准化

  • 缺点:对接成本高,每次装卸组件都要一一对接。


因此,UAVStack 基于自身特点开发了一套升级系统,实现了下列功能:


  • 运维数据实时同步:确保组件基础信息的实效性及对称性

  • 操作便捷:支持版本构建、信息查看、任务下发等

  • 任务粒度清晰:提供任务详情、问题诊断、重试、历史留痕等功能

二、UAVStack 升级系统架构图

1564543971959047445.jpeg


  • Apphub:前端应用,发起升级指令

  • MA/HM:自带升级进程的组件。支持自升级,升级成功后自重启

  • upgrade server(升级中心):存放升级版本,提供下载功能

  • upgrade client(升级进程):执行具体升级任务

三、升级中心与升级进程

upgrade server 升级中心


  • 一个独立的 HM 组件

  • Web 端 CRUD 后台接口支撑,服务端

  • 提供升级动作(action)入口,服务端

  • 分配升级事件(event)

  • 提供升级包下载能力,服务端

  • 提供反馈入口,服务端


1564543979100059203.jpeg


upgrade client 升级进程


  • 独立进程,脚本触发

  • 升级动作,事件驱动

  • 从接收参数中提取 server 地址

  • 升级包下载,客户端

  • 过程留痕、任务反馈,客户端


1564543985320000586.jpeg


在分配 event 的同时,upgrade server 升级中心会将详细的 event 信息一起发送给 MA/HM。MA/HM 接收到指令 event 后调用 shell,拉起独立的进程 upgrade client,同时附带详细的 event 信息。upgrade client 作为独立进程完成对指定组件的升级。


upgrade server 具备扩容能力,能够处理海量组件升级任务。当多个 HM 对同一个 event 做分配时,需要做特殊处理,保证 event 只会被派发一次。当多个作业人提交 action 时,若对同一个组件提交了多次不同的 event 事件,也需要做特殊处理,保证一个组件的 event 事件的单次完整性。


为降低代码复杂程度,提高功能可靠性,减少对第三方的依赖,同时考虑到 action 数据已经落地,最终决定通过存储实现 event 分配,即对存储并发下发修改指令,确保只有一条指令可以成功。而升级进程则通过文件锁保证了 event 事件的单次完整性。

四、升级过程

1564543995470086003.jpeg


(状态机)

4.1 upgrade server 通过 event 判断是否 UAV 自升级

1)UAV 自升级:具备接收升级指令,自升级,自重启(HM、MA)


  • upgrade server 作为 HM 也可以被升级


2)第三方升级:不能接收升级指令,升级后不能自重启(MOF 以及其他软件目录)


  • 升级工作过程和原理与 UAV 自升级一致。

  • 任何安装了 MA 的软件都可以使用升级功能

4.2 upgrade server 分配任务

  • NEW:action 数据落地,解析 event 数据

  • ALLOCATION:扫描 event 数据,获取升级事件(发送修改指令占坑,标明当前 HM 负责的 event)

  • 成功获取的 event 放入队列,等待派送

  • 队列消费:读取 event 信息,获取单次升级目标等信息;打包 event 信息,同时附加当前 HM Server 回调地址等;最后对指定升级目标发起升级指令。

4.3 upgrade client 执行升级任务

基于业务代码实现事件驱动:每个处理过程被视为一个事件。升级成功后,将事件标识为成功;否则默认为失败。升级成功或失败都需要指定下一个动作,从而实现灵活处理并形成业务闭环。


  • BEGIN (文件锁获取) >


BACKUP >


PACKAGE_DOWN_LOAD >


OVERRIDE_FILE >


STOP_UAV_PRO(UAV 自升级)>


START_UAV_PRO(UAV 自升级)>


END_ACTION(释放文件锁、现场清理、反馈回调)>


END


  • 处理过程发生异常/错误:


OVERRIDE_FILE_CALLBACK(回刷备份文件)> END_ACTION (同理)>END


  • 多次并发 event 事件:若无法获取文件锁,则进程执行失败,任务直接结束。文件锁释放后,方可继续处理 event 事件

4.4 upgrade client 重启 MA、HM

  • 优先 stop>start,停止不成功则 kill pid

  • 利用 crontab 启动应用进程,关键解决按原有启动参数启动

  • MSCP 程序启动时,会利用 crontab 的特性添加值守

  • 基于 liunx 本身的命令,获取到进程 pid 即可完成以上操作

五、UAVStack 升级系统亮点

5.1 运维数据实时同步

同步业务系统的节点信息与当前组件的版本信息时,往往主要依赖人工维护或相关发布系统。而 UAVStack 天然的实时画像数据则解决了运维信息同步不及时这一问题,不仅不再需要人为干预,还能支持运维信息自动发现。通过画像数据,可以实时查看组件部署情况。


1564544005039005202.jpeg

5.2 操作便捷

不需要人为干预即可实现信息自动维护,支持实时过滤与查看、批量操作及任务下发。


1564544013540033784.jpeg

5.3 任务粒度清晰

  • 历史留痕


1564544020020084214.jpeg


  • 过程留痕


1564544026530070638.jpeg


  • 问题诊断、重试


1564544033340096243.jpeg

六、总结

这套基于 UAVStack 自身特色的升级系统降低了运维成本、提升了迭代效率,单人迭代数十个组件迭代只需几分钟即可完成,已成功支持测试版本切换与迭代约 400 次,支持线上版本迭代约 350 次。


本文转载自宜信技术学院。


原文链接:http://college.creditease.cn/detail/281


2020-02-09 15:05928

评论

发布
暂无评论
发现更多内容

dart系列之:和null说再见,null使用最佳实践

程序那些事

flutter dart 程序那些事

又双叒叕获奖了!OceanBase 荣获2021年度技术卓越奖&年度最佳创新企业奖

OceanBase 数据库

新闻动态 OceanBase 开源 获奖 IT168

如何在 K8s 集群中使用 Nocalhost 开发 APISIX Ingress

API7.ai 技术团队

Kubernetes 网关 Nocalhost Apache APISIX Ingress Controller

盘点 2021|前端女程序员普通的一年

小月

盘点2021

2021 InfoQ 写作平台年度优质企业号评选名单公布!

InfoQ写作社区官方

2021年度评选 热门活动

云小课|云小课带你快速掌握云数据迁移CDM

华为云开发者联盟

EI智能体 数据湖治理中心 云数据迁移 CDM

百度智能云实战——静态文件CDN加速

百度Geek说

后端 H5 移动开发

通用数据保护条例的监管下,你的数据湖“断舍离”了吗?

亚马逊云科技 (Amazon Web Services)

分析

Kafka的Topic和Partition是不是有个数限制?

Kafka中文社区

推出Amazon Kinesis Data Analytics Studio —— 与流数据快速交互

亚马逊云科技 (Amazon Web Services)

分析

Amazon Redshift ML现已正式推出——使用SQL创建机器学习模型并通过您的数据进行预测

亚马逊云科技 (Amazon Web Services)

分析

【CSS 学习总结】第三篇 - CSS 选择器的权重和优先级

Brave

CSS 12月日更

一个支持断点续传的大文件分片上传的小模块

为自己带盐

dotnet 28天写作 文件上传 12月日更

【MongoDB学习笔记】手把手教你配置Python操作MongoDB

恒生LIGHT云社区

数据库 mongodb #python

模块七作业:王者荣耀商城异地多活架构

危险游戏

架构实战营

焱融科技与趋动科技携手解决一站式存算难

焱融科技

云计算 分布式 云原生 高性能 文件存储

前端开发之多环境下react的配置

@零度

前端开发 React

API治理技术实践-上

中原银行

中原银行 API治理

给弟弟的信第21封|遇事不决问搜索引擎

大菠萝

28天写作

能源互联,激荡十年

钛禾产业观察

能源互联网 新能源

synchronized的使用及优化

Ayue、

synchronized

低代码实现探索(八)后台模型api

零道云-混合式低代码平台

《Nacos架构与原理》官方电子书发布啦!

捉虫大师

nacos

Gitee Premium完成与OceanBase开源数据库适配

OceanBase 数据库

OceanBase 开源 开源中国 自主研发

Linux之head命令

入门小站

Linux

为何建议大家升级到Kafka2.5.x?

Kafka中文社区

Java 中接口和抽象类的 7 大区别!

王磊

语音信号处理6:语音信号的线性产生模型

轻口味

28天写作 12月日更

Springboot如何使用Aspect来实现切面日志

@零度

Java springboot aspect

阿里云李飞飞:国内首部云原生数据库教材《云原生数据库:原理与实践》

博文视点Broadview

这18个网站能让你的页面背景炫酷起来

德育处主任

前端 视觉化 样式 前端特效 css特效

UAVStack升级系统设计_文化 & 方法_刘波安野_InfoQ精选文章