AICon议程上新60%,阿里国际、360智脑、科大讯飞、蔚来汽车分享大模型探索与实践 了解详情
写点什么

微服务架构适用场景分析

  • 2017-10-29
  • 本文字数:8227 字

    阅读完需:约 27 分钟

核心要点

  • 微服务并不是什么灵丹妙言,在现代架构中,它有自己的位置,但并不适用于任何的地方;
  • 在判断基于微服务的方案是否适合时,理解业务域是至关重要的;
  • 单职责原则是划分微服务边界的关键;
  • 与其他架构风格类似,微服务是由一系列的原则来监管的;
  • 微服务必须在更广阔的分布式架构和分布式计算上下文中进行考量。

在本文中,我们将会深入研究主数据管理(Master Data Management,MDM)场景中微服务架构的适用情况,并且会分析在问题域中,如果需要计算密集型的任务,基于微服务的架构所面临的挑战,比如在计算无担保消费信贷组合的预期损失的时候。

我们首先会介绍业务架构的元模型,并使用模型的元素及其关联关系定义业务域和问题域。然后我们采用领域驱动设计的方式去理解复杂的业务域,并帮助我们创建技术解决方案。

随后,我们将会引入微服务这种新的架构范式,对其进行剖析并简单阐述其优势和不足。我们还会分析使用微服务来实现 MDM Data Hub 的适用情况。

最后,我们会讨论针对大容量数据的计算密集型任务时,基于微服务的架构所面临的局限性,探讨这种架构风格是否适用于这种类型的应用。

业务架构元模型

图 1 引入了一个简化的业务架构元模型,在本文中,我们都会使用这些元素来定义业务域。元模型包含了五个元素,我们对这些构建块提供了简洁的定义。

(点击放大图像)

图1:简化的业务架构元模型

业务服务(Business Service)会暴露满足客户业务需求的一些功能,不管这些客户是组织内部的还是外部的。业务能力(Business Capabilities)表明组织要做些什么事情来达成其业务目标,它并不反映该如何做。它们是业务架构的顶层元素,属于战略业务域,并且由组织的业务原则来监管。通常来讲,会使用一个或多个业务能力来实现一个或一组业务服务。业务能力要通过多个业务功能(Business Function)来具体化实现,业务功能又通过多个业务活动(Business Activities)来实现。业务活动会被组织成业务过程(Business Processes)。业务功能定义为一个业务行为元素,该元素会基于给定的标准(一般是所需的业务资源和/ 或权限)对行为进行分组。业务能力包含一个或多个业务功能。简化起见,业务过程定义为一个行为元素,它会基于排序的活动对行为进行分组。这样的话,就能生成一组定义好的产品或业务服务。最后,业务活动代表了在业务过程中要完成的工作。(业务活动可能是原子的,也可能是复合的,但是它们之间的差异并不会影响我们目前讨论的话题。)

业务能力、功能、过程和活动是由组织中的一个或多个角色(也就是某个人或团队)来执行的。

与建筑行业不同,软件开发的方法论依然还处于非常模糊的状态。在过去的20 年间,涌现出很多的方法论,首先是瀑布式的方法,然后敏捷方法,比如SCRUM,还有敏捷相关的方法,比如极限编程(Extreme Programming,XP)以及统一软件开发过程(Rational Unified Process,RUP)。

领域驱动设计(Domain-Driven Design,DDD)是软件行业最新的方法论,它所设计的软件与问题域的概念模型是匹配的。换句话说,领域驱动设计倡导基于实际业务的具体用例进行建模。按照最简单的形式,DDD 会将业务域解耦为更小的功能块,要么在业务功能级别,要么在业务过程级别,这样的话,复杂的业务或问题域就能更容易地理解并通过技术手段来解决。为了展现其效果,我们使用图2 阐述之前提到的业务架构元模型中的各个元素是如何进行协作并组成两个业务域的。

因为面向服务架构(Service Oriented architecture,SOA)的很多文档化实现遭到了失败,或者只是这种架构的自然演化,在最近的几年间出现了一种新的架构风格。尽管植根于SOA,但是它集成了一项很重要的面向对象设计原则。这种新的架构风格以单职责原则(Single Responsibility Principle,SRP)为核心,倡导将多个独立的服务应用组合起来,并且借助限界上下文(bounded context)使这些服务应用从一开始就能独立进行开发。DDD 构件代表了一个或多个业务能力的逻辑子集,能够从给定角色的角度提供业务价值。逻辑子集的边界进而会定义业务上下文,角色会被限制在这个上下文中进行操作,如图2 所示。这种架构风格的名称就是微服务。

图2:领域驱动设计与微服务的概念视图

来自ThoughtWorks 的James Lewis 和Martin Fowler 是这样来定义微服务的:“简而言之,微服务架构风格会将一个应用开发为一系列小的服务,每个服务运行在自己的进程中,彼此之间通过轻量级的机制实现通信,通常会是HTTP 资源API。这些服务是围绕业务能力构建的,并且能够通过自动化的部署机制独立部署。其中,会有一个最小化的中心管理机制,管理这些服务,这些服务可能会使用不同的编程语言编写并使用不同的存储技术”。微服务的这个定义非常重要,因为它识别出了一些重要的原则(tenets),本文稍后会用到这些原则进行判断。图3 剖析了微服务,并在此基础上试图可视化这些基础原则。

(点击放大图像)

图3:微服务剖析

为了阐述领域驱动设计和基于微服务的架构,我们以交易成本分析(Transaction Cost Analysis,TCA)的场景作为样例。图4 描述了一个典型的交易时间线,展现了这种分析通常会在何处进行。

资产管理公司可能会有最佳的投资模型,但如果金融工具不采取实际交易的话,那它们就毫无价值。任何资产组合的总业绩都会受到标的资产类别的选择和分配、实施质量以及其他关键维度的影响。实际上,通过购买和销售金融工具来实现投资组合时,它的成本通常会降低投资组合的回报。

(点击放大图像)

图 4:交易的时间线

投资组合的实施成本能够将高质量的投资变成中等收益的投资,或者将低质量的投资变得无利可图。因此,投资经理必须要主动地管理交易成本,因为更低的交易成本就意味着更高的投资回报。通过为投资策略和交易业绩提供更高的透明度,TCA 能够帮助投资经理降低交易成本并确定其投资组合交易的有效性。

因此,使用我们前面提到的业务架构元模型,按照最简单形式,TCA 可以建模为一个业务能力,它由三个业务功能具体实现,如图 5 所示。

图 5:交易成本分析——简化的业务模型

交易成本度量(Transaction Cost Measurement)业务功能通常会受到显式和隐式成本的影响,如下表所示。

表 1

关于显式成本和隐式成本的介绍表明交易成本度量这个业务功能至少可以进一步分解为两个子域:显式交易成本度量(Explicit Transaction Cost Measurement)和隐式交易成本度量(Implicit Transaction Cost Measurement)。为了简单起见,我们省略了其他业务功能的 DDD 分解。

图 6 为显式交易成本度量和隐式成本度量这两个业务功能建立了基本的 context map。Eric Evans 在其关于DDD 的重要著作中指出,Context Map 是明确上下文边界的主要工具,它在限界上下文和业务领域的角度展现了微服务。在TCA 样例中,针对每个子业务领域,识别出了五个可能的微服务。

(点击放大图像)

图6:针对交易成本分析的简化Context Map

基于微服务的架构提供了很多的优势。这种范式所引入的模块化能够提升开发的便利性和开发速度,从而匹配业务的节奏。更新某个子集的功能也会非常容易,因为它只位于一个或几个软件之中。微服务的模块化特性还会增强安全性并隔离故障。如果给定的一组代码被损坏或出现问题,它能够与其他的服务完全隔离,从而避免整个应用出现不可用的状况。

但是,微服务也有不少的缺点,编排(orchestration)就是其中很主要的一个样例。大量微服务的协作可能是很有挑战性的,如果每个微服务只对自己的交互负责的话,那么更会如此。数据存储是可能面临困难的另外一个方面。因为每个微服务负责自己的持久化,所以在由多个微服务组成的应用中,非常有可能出现数据冗余的情况,这会影响到主数据管理(Master Data Management)传统的操作方式。微服务会影响到的另外一个领域就是报告。除此之外,微服务的划分还会让集成测试变成一个很困难的问题。这些收益和缺点并非详尽无遗的,我只是使用它们来完成关于微服务的概要介绍。

本文剩余的部分将会引入两个特定的主题域,探讨这种新的范式是否适用。这也是微服务架构第一次在主数据管理的场景下进行充分性检验。它的适用性在计算密集型的任务中会面临一些挑战,比如总损失的分布计算。

主数据管理是一个很宽泛的领域,有个简短的定义能够让我们快速对其达成共识。主数据管理是一个进程和技术的框架,致力于创建和维护权威的、可靠的、可持续的、准确的和安全的数据环境,这个环境代表了现实情况的一个单一、全面的版本,用于主数据及其关联关系。主数据指的是对企业、关键业务过程以及应用系统至关重要的实体、关联关系以及属性。客户信息、州、邮政编码、货币符号(Currency Symbol)或安全收报机(Security Ticker)都是这样的实体。

在功能上来讲,MDM 需要通过清理、充实和丢弃冗余数据来对主实体进行主动管理,如下面的用例图所示。

(点击放大图像)

图7:MDM 用例图——简化的视图

多年以来,MDM 的技术实现在持续进步,以便于更好地解决该领域的企业级需求。这种演进以引入新的架构范式为特点,其目的是满足MDM 技术解决方案在演进性、可维护性、可扩展性以及性能方面的要求。

图8 以可视化的方式追溯了MDM Data Hubs 的架构演化过程,从客户端- 服务器应用开始,直到可能基于微服务的架构实现。在接下来的几个章节中,我们将会回顾一下如何借助单体架构以及传统的SOA 架构实现Master Data Hub 的方案。随后,我们会将基于微服务的架构作为一个可能的架构替代方案。

(点击放大图像)

图8:MDM Data Hub——架构演化

在分布式架构尤其是面向服务的架构出现之前,主数据管理通常会作为单体应用的一部分来实现。MDM 的功能以及关联的逻辑会与应用本身所解决的特定业务域或问题域的功能关联到一起。同样,MDM 数据的持久化也会与系统的事务化域(transactional domain)关联在一起,如图9 所示。例如,在客户端- 服务器交易应用中,不管是用PowerBuilder 6 还是Visual Basic 6 编写的,通常都会将主数据关联的实体比如Customer、State Code 或Security 放到用于存储单个事务的底层数据库中。

图9:单体/ 客户端- 服务器MDM Data Hub 架构

在这种方式下,MDM 和事务性数据在物理上非常接近,所以几乎没有延迟,但是从架构的角度来看,MDM 和业务特定功能的耦合将会引入架构的刚性,阻碍每个功能区域的独立演化。另外,在企业级来说,这种架构范式通常会造成功能和数据的重复,如图10 所示。

图10

采用分布式架构,尤其是SOA,能够将MDM 相关的功能和持久化与领域相关的实现解耦(关注点分离的原则,Separation of Concern),如图11 所示。不管MDM 的架构风格是什么(Repository、Registry 或其他),这种分离都会增加架构的灵活性,允许每个域解决方案进行独立地演化以满足各自的功能需求。但是,直到NoSQL 数据库出现之前,MDM 数据的持久化依然是使用关系型数据库,因为当时并没有合适的替代方案。

(点击放大图像)

图11:传统的SOA MDM Data Hub 架构——Registry 风格

从数据架构的角度来看,很多的MDM Data Hub 实现使用了Master-Slave 构造或它的变种,比如sharding。在Master-Slave 方式中,会有很多的服务器处理读取请求,但是只有一个(在sharding 场景下会有几个)服务器实际执行写入操作,这样的话,就能维护主数据的一致性状态,如图12 所示。

图12:Master-Slave 架构

这种架构通常会引入单点故障,可能会限制高可用性以及无缝水平扩展的能力。因此,在实现MDM Data Hub 解决方案时,数据架构是需要考虑的一个重要方面。随着NoSQL 数据库的出现,这一点变得尤为重要,因为这些数据库提供了存储主数据的可靠替代方案,在与微服务结合时,它们的重要性更加明显。

传统的SOA 已经在MDM 和以业务为中心的OLTP 应用间实现了功能与持久化的分离,因此主数据能够实现企业内更高的复用。微服务构建在这些收益之上,为分布式架构提供了更好的支持,如果涉及到多个zone 的话,其收益会更明显(会在单独的文章中进行讨论)。它们关注功能边界和部署模型,能够让微服务更靠近消费者进行部署,可能会增强可用性、可扩展性和吞吐量,如图13 所示。同时,每个微服务只会对自己的数据负责,这意味着主数据的结构和存储可以进行定制,以便于更好地适应使用它们的服务或系统。例如,State Code 的微服务可以通过key-value 仓库来实现,而不一定采用RDBMS 中的表。这种微服务的多个实例可以部署到不同的物理区域上,从而满足东海岸运行的客户端应用以及西海岸运行的账单服务的需求。

(点击放大图像)

图13:基于微服务的MDM Data Hub 架构

但是,对这种架构范式可能会出现缺点进行评估是非常重要的。例如,在每个主数据相关的微服务中,可能会重复出现数据的合理化或实体解析(rationalization or entity resolution)、数据清洗和强化(enrichment)功能。同时,在组织内,主实体的唯一性恐怕会难以保证,因为MDM 的本质倾向于从企业转移至更靠近限界上下文。因此,在维度设计中,我们甚至需要重新考虑使用一致的维度。

在接下来的内容中,我们将会探讨微服务架构是否能够用于需要密集计算的业务领域。为此,我们将会以5000 万份记录作为样例,计算零售信用卡投资组合的总损失分布。图14 在一个较高的层级,以可视化的方式展现了如何基于单个损失事件生成总损失分布的步骤。

(点击放大图像)

图 14:总损失分布的概要

从年度总亏损的角度来看,零售信贷市场有其独特之处,与大宗的贷款不同,我们无法通过简单地缩减模型就能进行分析。按照一位分析师的说法,“零售信贷市场会向那些没有进行评级的借款人提供资金。每笔贷款的规模相对较小,这就意味着每笔贷款的绝对信贷风险也比较小。任何一笔零售贷款的风险都不会导致银行的破产。因此,确定每笔零售贷款信用风险的成本往往会高于规避风险所带来收益,查清每笔零售贷款的信用风险可能并不是一件值得去做的事情。”

因此,开发一种技术方案来确定几个账户的信用风险可能并没有太大的经济意义,如果要解决不安全贷款相关的信用风险问题,所给出的技术解决方案必须要基于大量的账号来操作,只有这样在经济上才是划算的。同时,该业务领域相关的数据量是造成基于微服务的架构不适合解决计算密集型任务的关键因素之一。在计算不安全的信用卡投资组合所带来的总损失分布时,本文从三个方面介绍了基于微服务的架构所面临的挑战。具体来讲,包括:

  • 数据的多样性(Heterogeneity)与数据存储
  • 计算能力 / 强度
  • HTTP 语义的不适用性

数据的多样性与数据存储

在概念上,微服务鼓励基于限界上下文拥有自己的数据和存储。每个微服务相关的数据格式、内容以及存储形式都可以采用最适合业务功能的方式,如下图所示。因此,在基于微服务的架构中,我们通常会看到各种数据仓库(RDBM 与 NoSQL)和模式。

图 15:微服务架构——概念视图

但是,预期损失(Expected Loss)和风险值(Value-at-Risk)的计算都依赖于时序数据。这表明源数据不仅需要是完整的,还要非常一致和标准,这样在数据模式多样性方面所能留下的空间就很小了。因此,为了适应时序数据的需求,图 15 所阐述的概念架构就会演进成图 16 的样子。这样的话,微服务会共享相同的数据存储,两个 repository 实例就显得冗余了,这违反了微服务的一个核心原则。

(点击放大图像)

图16

结合图16,从功能的角度来看,下图描述了生成总损失分布(年度总亏损)时,可能采用的context map。从概念上来看,将这些步骤拆分为微服务似乎是可行的。

图17:计算总损失分布时,可能采用的Context Map

但是,在这里数据阻抗(data impedance)可能会再次违反微服务的一个核心原则。总损失分布的计算要从单个损失事件的计算开始。按照前文所述,所有的损失事件记录必须要符合相同的模式。

第一步需要为所有的损失事件创建风险矩阵(risk matrix)。第一步计算得到的尽管是中间结果,但也可能需要进行存储。为了本文的简洁性,这里不再讨论ACID 的需求。为了遵循微服务的原则,每个微服务要负责管理自己的数据和底层存储,如图18 所示。

图18

第二步涉及到生成损失分布。这个限界上下文的微服务需要第一个微服务的结果来完成它的功能,但是Loss Distribution 微服务不应该直接访问Risk Matrix Loss Data 上下文中的数据,否则的话,就会引入紧密耦合了,这样会违反微服务架构的另一个原则,如图19 所示。

图19

Loss Distribution 微服务有两种方式来获取来自 Risk Matrix Loss Data 上下文中的数据。第一种方式就是对 Risk Matrix Loss Data 微服务进行 READ 调用,如图 20 所示。但是,这种方式并不理想,因为这涉及到转移上百万条的记录。

图 20

第二种方式就是将来自 Risk Matrix Loss Data 上下文的数据复制到 Loss Distribution 上下文中。比起前面的方案,这种方式在技术上更加易于接受,但是,这里所需的数据转移会影响整个进程的性能,当需要转移上百万行的记录时,这种影响会更加明显。

VaR Calculation 和 Total Loss Distribution 微服务会遇到和上面描述完全类似的问题,所以简洁起见,这里我就将其省略了。

通过引入数据缓存,上面所讨论的数据转移的问题可以得到解决,如图 21 所示。这种设计在本质上是让微服务共享相同的数据存储,尽管是虚拟的,但是它再次规避了微服务架构的一个主要原则。另外,值得一提的是,在每个限界上下文中,为了持久化中间结果,它们的数据存储都有可能会增加,在以上的三个步骤中,都允许重新运行计算。

图 21

图 21 中的架构会引出微服务架构不适合计算密集型任务的第二个原因,那就是依赖于所选择的基础设施架构。

计算能力 / 强度

图 22 阐述了托管微服务的典型基础设施配置。第一个方案展现的微服务#1 部署到了 3 个节点的集群中,其中每个节点包含两个 CPU(这里负载均衡器被省略掉了)。第二个配置所展现的微服务# 2 部署到了一个虚拟集群中,它有两个虚拟服务器组成,每台机器同样有两个 CPU。

图 22:微服务的典型部署架构

通常来讲,这些基础设施配置对于处理 OLTP 的系统来讲是非常合适的(容错、负载均衡、可扩展性),但是对于计算密集型的任务,它的处理能力可能就不够了,当与任务群(task farm)和网格计算(grid computing)对比时,它的不足就会更加明显了,如图 23 所示。

(点击放大图像)

图23:网格架构与任务群并行

HTTP 语义的不适用性

在计算密集的任务中使用基于 RESTful 的微服务时,所面临的另外一个维度的挑战就是 HTTP 协议相关的语义。从功能的角度来看,如果对一条或数量有限(比如几百条)的记录进行事务性操作,那么 HTTP 请求是非常匹配的,如下面的表格所示。

软件设计技术会建议我们暴露一个公开的接口,这个接口反应了底层程序的实际功能,这样的话,消费者在使用接口的时候就不会有任何的歧义性。在总损失分布计算的场景中,支持 Loss Distribution 上下文的微服务应该暴露一个或多个方法,这些方法代表了生成损失分布的功能,这与 CRUD 操作是不同的,如下图所示。所以,从语义上来讲,HTTP 协议缺乏必要的词汇来处理那些本质上不是事务性的操作。

(点击放大图像)

图24

为了进一步阐述这一点,假设与Risk Matrix for Loss Data 上下文相关的微服务能够生成上千条记录的矩阵,我们暂且不提上百万条记录这件事。如前所述,接下来的功能步骤涉及损失分布的生成。但是,Loss Distribution 微服务所提供的操作与风险矩阵所要执行任务存在功能上的不匹配。根据名字,第二个服务所暴露的HTTP 方法中,我们找不到一个方法应该包含生成损失分布的代码。图25 描述了Loss Distribution 微服务应该暴露的公开接口。

(点击放大图像)

图25

即使修改第二个微服务的公开接口,以便于更好地反映其功能职责,那也无助于解决将上百万条记录从一个微服务转移至另一个微服务所面临的挑战。从技术的角度来看,合适的方案是尽可能减少数据的转移,所以Hadoop 生态系统以及Apache Cassandra 是值得深入探讨的相关技术。

总而言之,如果每个微服务的数据和功能都能描述清楚,并且它们之间的依赖能够保持最小,那么基于微服务的架构可能会运行得非常好,至少它是可控的。只要不严格要求ACID 特性(CAP 理论与最终一致性),OLTP 或事务性的系统可能也适用于基于微服务的架构。但是,在涉及到分析领域相关的问题域时,这种架构范式所带来的收益将会很难实现。

关于作者

Philippe Assouline是企业级架构领域方面的资深专家,尤其擅长通过引入风险管理、网络安全以及企业架构规程,提升工程经济效益、运维效率以及企业竞争力。

查看英文原文 Perspective on Architectural Fitness of Microservices

2017-10-29 17:5823253

评论

发布
暂无评论
发现更多内容

如何将文本转换为向量?(方法二)

DashVector

人工智能 数据库 大模型 向量检索服务

检索增强生成 (RAG),AI届的新星“厨师”

澳鹏Appen

rag 检索增强生成

百度冯景辉:从数据清洗到安全围栏,深度解析大模型原生安全构建

百度安全

智源研究院举办第一期数据与行业应用Workshop

智源研究院

【AI 生图赢奖】用函数计算绘出「少年江湖」,与热播网剧梦幻联动

阿里巴巴云原生

阿里云 云原生 通义灵码

人工智能 | 打造领域专属的大语言模型

测吧(北京)科技有限公司

测试

Dockerfile创建镜像异常问题解决

百度搜索:蓝易云

执行可执行程序时遇到error while loading shared libraries错误解决

百度搜索:蓝易云

企业跨国组网如何搭建?试试SD-WAN!

Ogcloud

SD-WAN 企业组网 SD-WAN组网 跨国组网

斥巨资给自己买了个礼物,程序员专用显示器真香

王中阳Go

显示器 #程序员

程序员喜欢的7个免费公共API

幂简集成

API 免费API

大数据时代来袭,那么工程领域的数据科学如何成为行业的新超级英雄呢

Altair RapidMiner

人工智能 设计 仿真 altair

云服务应用就在828,精准优化企业管理,华为云Flexus X实例有你好看!

YG科技

Java Agent 开发初探

FunTester

现货量化合约跟单丨量化合约现货跟单系统开发策略详细/源码案例

V\TG【ch3nguang】

量化合约现货跟单

关于聚合卡牌盲盒模式系统开发逻辑方案设计程序(成熟代码)

V\TG【ch3nguang】

数据工程(四)数据架构设计:连接数据与战略,驱动业务增长

数造万象

数据架构 数字化 数据工程

蜗牛游戏宣布2024年第二季度财报业绩

财见

水底下的云

脑极体

云计算

精选:适合小团队的8款协作工具推荐

爱吃小舅的鱼

团队协作 团队协作工具

数据资产入表:解锁企业价值新蓝海

郑州埃文科技

数据治理 数据要素 数据资产入表

云计算优化震撼828,华为云Flexus X实例邀请您分享数字化转型红利

YG科技

解决Apache Tomcat “Request header is too large“ 异常

百度搜索:蓝易云

如何在云服务器上部署网站

百度搜索:蓝易云

使用PAI × LLaMA Factory 微调 Llama3 模型

阿里云大数据AI技术

人工智能 模型训练 LLM PAI

浅谈swap去中心化交易所系统开发搭建技术方案

V\TG【ch3nguang】

去中心化交易所

如何将文本转换为向量?(方法三)

DashVector

数据库 向量检索 大模型

2024巴黎奥运会:中国战绩报告分析

搞大屏的小北

数据分析 巴黎奥运会 中国队 金牌 奖牌

互联网快速发展电商APP云服务器使用与服务

百度搜索:蓝易云

科大讯飞学习机P30和C10 Pro 区别对比评测

妙龙

科大讯飞 学习机

合约量化系统开发详细流程丨量化合约系统开发源码实例说明分析

V\TG【ch3nguang】

量化合约系统开发

微服务架构适用场景分析_Java_Philippe Assouline_InfoQ精选文章