写点什么

蚂蚁金服研发框架日志隔离解析

  • 2020-02-23
  • 本文字数:4746 字

    阅读完需:约 16 分钟

蚂蚁金服研发框架日志隔离解析

本文为《剖析 | SOFABoot 框架》第二篇,本篇作者盲僧,来自遨游酒店信息技术。《剖析 | SOFABoot 框架》系列由 SOFA 团队和源码爱好者们出品,项目代号:<SOFA:BootLab/>,文章尾部有参与方式,欢迎同样对源码热情的你加入。


SOFABoot 是蚂蚁金服开源的基于 SpringBoot 的研发框架,提供了诸如 Readiness Check、类隔离、日志空间隔离等能力,用于快速、敏捷地开发 Spring 应用程序,特别适合构建微服务系统。


本文将从 Java 的日志体系谈起,对 JCL、SLF4J 两个经典的日志框架做一个阐述,引出 SOFABoot 开源的日志隔离框架 sofa-common-tools ,并且有实战 Demo,能够帮助我们快速上手和了解这款框架的使用和作用,最后从源码角度对其进行分析,不仅知其然,还要知其所以然。


SOFABoot :https://github.com/sofastack/sofa-boot


sofa-common-tools :https://github.com/sofastack/sofa-common-tools

1 Java 日志问题

业务开发对日志的选择


众所周知,Java 的日志体系非常复杂,有 Log4j、Log4j2、Logback、JUL 等实现,这么多的日志实现让开发人员在选择上不得不犯晕,因为每个日志实现都对外提供了不同的 API,而且还要担心与项目中现有的第三方框架依赖的日志实现产生冲突问题,甚至还要去维护第三方框架带来的日志依赖。在这些问题的基础上,Java 日志框架应运而生,典型的有 JCL 和 SLF4J。


JCL


JCL 即 Apache Commons Logging,它的原理是提供了一套接口,用户使用了它的接口进行编程,具体实现交由它的 LogFactoryImpl 去动态查找, 但是它并不能绑定所有的日志实现,因为查找绑定的日志实现是放在 classesToDiscover 数组里写死的,导致扩展起来比较麻烦,当前最新版本是 1.2 版本,还不支持绑定 Log4j2 和 Logback。


SLF4J


于是乎,大名鼎鼎的 SLF4J 出现了,它的存在就是为了替换 JCL,所以肯定提供了比 JCL 更强大的功能。同样是面向接口编程的设计,但是 SLF4J 充分考虑到了后期的扩展问题:一旦市面上有新的日志实现,那么只需要提供新的绑定包即可,相对于 JCL 的动态绑定,SLF4J 实际上是静态绑定,因为应用程序具体要选用哪种日志组件是由开发人员使用哪个绑定包决定的。绑定原理请看下图:



除此之外,SLF4J 还提供了桥接包,它的意思是指可以把使用某个具体 Log 组件的 API 重定向到 SLF4J 的 API 里(前提需要排除具体实现包,然后引入桥接包),然后 SLF4J 会根据具体的绑定包输出内容,从而达到多种日志实现统一输出的目的。绑定原理请看下图:



中间件对日志的选择


上面解决了业务开发人员的问题,那么对于从事中间件的开发者来说呢?日志依旧是一个痛点。参考一些中间件项目,如 zookeeper 使用的是 log4j ,hibernate-validator 使用的是 jboss-logging,当业务开发人员去集成这些第三方组件时,就会感到头疼,因为这些组件的日志实现很有可能会和当前业务自身的日志依赖产生冲突。常用的解决方法就是排除某一种日志实现依赖,然后修改 appender 和 logger 达到日志隔离。但这并不是一个一劳永逸的方法,因为每次引入新的 jar 包,你都需要考虑是否有日志冲突。


那么市面上是否有成熟的框架来解决这个问题呢?当然是有的,蚂蚁金服开源的 SOFABoot 就提供了这样的功能,底层主要是通过 sofa-common-tools 实现的。那么 sofa-common-tools 又是个啥呢?借用官网的描述:sofa-common-tools 是 SOFAStack 中间件依赖的一个通用工具包,通过自动感知应用的日志实现,提供中间件与应用隔离的日志空间打印能力。


本篇将通过一个案例 demo 先来直观的体验下 sofa-common-tools 所能解决的问题,然后再在此基础上,通过源码解析了解其内部的具体实现原理,以帮助大家更好的认识和了解 sofa-common-tools 这个“小而美”的日志工具包。

2 日志隔离实战

完整项目已经上传到 https://github.com/masteryourself/study-sofa.git ,工程是 study-sofa-common-tools。


有这样一个场景:公司的中间件团队做了一款 middleware-apm 监控系统,并且通过以输出日志的方式向监控系统提供基础数据。由于公司并没有制定统一的日志规范,各个业务方所使用的日志也是千差万别;如:如订单系统使用的是 log4j,账务系统用的 Logback,用户中心用的是 Log4j2;如果期望 apm 提供的日志输出和业务的不冲突,可以独立的并且完整的兼容业务日志的不同实现,此时便可以使用 SOFABoot 提供的日志隔离框架;其可以帮助我们解决日志实现冲突、日志文件隔离以及动态调试日志级别等功能。下面就先来看下 apm 是如何使用 sofa-commons-tools 来实现的。


middleware-apm 项目


新建 middleware-apm 工程,然后执行 mvn clean install 命令,安装到本地仓库。具体代码可以参考 middleware-apm ,下面对一些核心代码进行简单的说明和分析。代码结构如下:


middleware-apm:https://github.com/masteryourself/study-sofa/tree/master/study-sofa-common-tools/middleware-apm



日志资源文件配置


这里主要是在 pers.masteryourself.study.sofa.apm.log 目录下创建 log4j、log4j2、logback 的配置文件。


详情请参考:https://github.com/masteryourself/study-sofa/tree/master/study-sofa-common-tools/middleware-apm/src/main/resources/pers/masteryourself/study/sofa/apm/log


核心日志工厂类-ApmLoggerFactory


ApmLoggerFactory 主要是对外提供获取 Logger 实例的 API 方法,其作用类似于 slf4j 中的 LoggerFactory 类;对于想使用 SOFABoot 日志特性的类,只要使用它调用 getLogger 方法获得的 Logger 实例即可。


LoggerFactory 和 ApmLoggerFactory 的最本质区别在于 ApmLoggerFactory 引入了 LOG_SPACE 的概念。



监控工具类-Metrics


模拟 APM 对外提供的一个工具类,提供了一个 metrics 埋点的 API ,其内部主要是通过 ApmMetrics 类进行埋点。



监控核心类-ApmMetrics


ApmMetrics 模拟 APM 监控的一些数据指标、异常信息,如果出错了就调用 error 方法记录异常,最后调用 end 方法提交,这里提交任务只是简单的打印输出。



此项目主要是对外提供入口方法用于监控程序的运行情况,项目的日志会单独记录到一个文件夹中,与业务方日志分开打印,具体效果请配合 user-center 项目一起使用。


user-center 项目


此工程是 SpringBoot 工程,主要是引入 middleware-apm 的 jar 包和 SpringBoot 相关的包。


具体代码可以参考:https://github.com/masteryourself/study-sofa/tree/master/study-sofa-common-tools/user-center


下面列举一些核心代码。代码结构如下:



资源文件配置


  • application.properites



  • log4j2.xml


log 配置请参考:https://github.com/masteryourself/study-sofa/tree/master/study-sofa-common-tools/user-center/src/main/resources


业务类-UserService


模拟一段业务程序的运行,如果运行时间超过 500ms 表示程序超时,抛出异常。



测试用例-UserServiceTest


这里用的是 SpringBoot 提供的测试注解,在调用真正的业务方法之前,会先用 APM 进行埋点,监控程序运行情况。



运行结果


运行 UserServiceTest 测试用例,我们可以看到 console 控制台上生成了两种日志格式的信息。



对于文件中的日志呢?我们先把 application.properties 中的配置先注释,再运行一次测试用例,让它生成文件日志。我们去中间件的日志目录和业务的日志目录,可以看到生成了两份日志,日志隔离效果生效。


3 源码解析

考虑到直接看源码可能比较枯燥无聊,这里准备了一个流程图,大致分析出了 sofa-common-tools 的整个原理,下面就一些重要的步骤给出解析,如果大家想看源码注释部分,可参考我在 github 上的源码解析工程 ,里面对部分核心代码做了注释。


源码解析工程:https://github.com/masteryourself/sofa-common-tools



①:Spring 容器启动,会发布 ApplicationEnvironmentPreparedEvent 事件(Spring 加载配置文件事件),然后会通知 CommonLoggingApplicationListener 监听器。


②:在这个监听器中,主要是查找是否存在一个这样的 key:key 以 sofa.middleware.log. 开头且 key 不等于 sofa.middleware.log.console 且 key 以 .console 结尾,如果有就先初始化 log,然后 reInitialize。


③:在这里会首先初始化一个 SpaceInfo ,也即每个 SpaceId 对应一个 SpaceInfo , SpaceInfo 里有啥呢,有一个 AbstractLoggerSpaceFactory ,它有多个实现(包含 log4j2、logback 等),看到这里应该就明白了为啥要求每个中间件组件都有一个唯一的 spaceId 的原因了,日志隔离就是靠这个 spaceId 来实现的。


④:从名字上看就知道这是一个多种日志与空间对应管理的类, createILoggerFactory 顾名思义就是创建 AbstractLoggerSpaceFactory ,它实现了 SLF4J 的 ILoggerFactory 接口。如果组件不是以 Spring-Boot 方式启动初始化的,那么就会等到手动调用此 API 的时候再去初始化 logger。


⑤:log4j2 判断:判断规则是看当前 classloader 能够加载到 org.apache.logging.slf4j.Log4jLoggerFactory 类,如果可以加载到,再判断配置文件中是否禁用了 log4j2。logback、log4j、jcl 的判断与之基本类似,请读者自行分析。


⑥:这里加载的规则是读取 spaceName + /log/log4j2/log-conf.xml,也即我们在项目实战中定义的特殊位置的配置文件,如果有多个,则会根据 priority 属性排序。


⑦:初始化 loggerContext,注意它是 log4j2 中的对象,再接下来即是拿到 xml 中的配置,然后去初始化 log 组件,在此不做分析,有兴趣的同学可参考 log4j2 官网研究一下。值得一提的是,在这里 SOFA 团队也提供了扩展机制 Log4j2FilterGenerator,是通过 spi 来做扩展的,通过它可以添加自定义的 filter。


⑧:在这里首先会去判断 logger 是否已经存在,不存在的会调用 newLogger 方法创建,在这个方法里,实际上就是用之前创建的 loggerContext 对象去创建 logger。


⑨:这里会根据配置文件中的值判断是否需要添加 consoleAppender,因为目前 SOFA 只支持通过 properties 添加一个 ConsoleAppender ,并不能在配置文件中配置很高级的自定义 appender。


至此我们应该了解了 sofa-common-tools 的大概原理了,重点主要有如下三个:


  • log-sofa-boot-starter 比 sofa-common-tools 多了个 reInitialize 方法,同时支持通过 Spring 配置文件的方式去设置一些 log 属性;

  • sofa-common-tools 自动发现日志实现是有优先级顺序的,logback > log4j2 > log4j > jcl,但同时也提供了禁用属性来打破这种默认规则;

  • sofa-common-tools 提供了一些 SPI 扩展,如 Log4j2FilterGenerator 、 Log4j2ReInitializer 等,具体可见 jar 包中的 META-INF/services 目录 ;


从 LoggerSpaceFactoryBuilder 类图分析可知,它有四种 LogFactoryBuilder 实现,所以 sofa-common-tools 并不是重复造轮子,底层还是用市面上常见的日志组件去实例化 log 对象。



从 AbstractLoggerSpaceFactory 类图分析可知,它实现了 SLF4J 的 ILoggerFactory 接口,从而替换 SLF4J 的实现。



最后,让我们来看看 sofa-boot 下各个组件之间的日志隔离效果吧。


4 总结

通过上文的分析,我们可以知道这款日志框架的主要作用了:


  • 解决日志冲突问题;

  • 实现日志隔离效果;

  • 动态调试日志级别;

  • 提供了 SPI 扩展,能够自由扩展组件;

  • 提供启动参数,通过设置启动参数可以更改日志的默认行为,使用更加灵活;


其实在整个 SOFA 体系中,sofa-common-tools 也是被广泛使用的,比如 sofa-rpc 中的 RpcLoggerFactory ,sofa-ark 中的 ArkLoggerFactory ,它们都是基于此实现的日志功能。总而言之,这款产品最主要的还是适用于以中间件的形式对外提供服务,如果大家是从事中间件开发或者有类似的需求,不妨可以试一试这款产品,只需要很小的改动,就可以享受到它独特的魅力。


本文转载自公众号金融级分布式架构(ID:Antfin_SOFA)。


原文链接


https://mp.weixin.qq.com/s/TUudrkt23iFMMIyv-MmD1g


2020-02-23 10:002695

评论

发布
暂无评论
发现更多内容

软件开发提效工具——低代码(Low-Code)

互联网工科生

低代码 数字化

后端除了增删改查还有什么?

秃头小帅oi

一些有趣的迹象:“前端已死”难道要成真了?

伤感汤姆布利柏

程序员 Vue 前端

物联专栏丨物联网技术的挑战与趋势

inBuilder低代码平台

物联网

ClickHouse联合创始人、前Google副总裁Yury到访杭州玖章算术公司,双方建立生态合作

NineData

Clickhouse 数据复制 合作伙伴 SQL开发 NineData

解锁编程潜能:探索亚马逊CodeWhisperer,打造编程世界的声音引导者

熬夜磕代码、

亚马逊云科技

软件测试/人工智能|一文告诉你ChatGPT原理与架构

霍格沃兹测试开发学社

软件测试/人工智能|利用ChatGPT进行项目需求分析

霍格沃兹测试开发学社

软件测试/人工智能|教你如何更高效地使用AI对话工具

霍格沃兹测试开发学社

Acrobat Pro DC 2023 for mac(专业PDF编辑软件)v2023.006.20320中文激活版

mac

Acrobat Pro DC 2023 苹果mac Windows软件 PDF编辑和管理软件

.NET开源全面方便的第三方登录组件集合 - MrHuo.OAuth

快乐非自愿限量之名

.net 开发 第三方登录

【AI编程助手】Devchat解析:深入了解、快速配置与实际应用

快乐非自愿限量之名

人工智能 DevChat AI编程

大会技术“硬核”资讯来啦!点击预约 IoTDB 现场一对一调优咨询服务

Apache IoTDB

好用且强大——JNPF永远的神

高端章鱼哥

软件开发 低代码

Databend 源码阅读: Storage 概况和 Read Partitions

Databend

学习Python过程中容易遇到的问题及其解决办法

Geek_7d9e0b

#python

为什么Facebook运营需使用IP代理?有哪些美国IP代理好用?

Geek_bf375d

C++ IDE:最适合 C++ 初学者的 IDE 是什么?

ide 初学者 C++

流程图是什么?一文弄懂流程图 - 定义 | 流程图符号 | 流程图如何制作

彭宏豪95

流程图 在线白板 画图工具 效率软件 流程图绘制

为什么我认为开源低代码平台不可靠?

代码生成器研究

开源 程序员 互联网 低代码

MATIC WORLD智能合约DAPP质押项目系统开发

l8l259l3365

李开复再度回应争议;10 月中国游戏厂商及应用出海收入 30 强出炉丨 RTE 开发者日报 Vol.86

声网

开发体育直播平台的商业创新:多元化收入模式引领行业转型

软件开发-梦幻运营部

为什么现在的低代码平台大多被抵制?

代码生成器研究

编程 程序员 低代码 代码

腾讯云的云上容灾实践

腾讯云混沌演练平台

容灾

2023如何搭建优质独享美国IP?美国静态住宅代理IP哪里有?

Geek_bf375d

外贸必看|Kakao账号如何注册使用?如何实现Kakao多开?

Geek_bf375d

蚂蚁金服研发框架日志隔离解析_开源_盲僧_InfoQ精选文章