立即领取|华润集团、宁德核电、东风岚图等 20+ 标杆企业数字化人才培养实践案例 了解详情
写点什么

AutoScout24 通往微服务之路

  • 2016-02-16
  • 本文字数:4146 字

    阅读完需:约 14 分钟

Dublin 微服务用户组的一次活动中,Christian Deger 进行了一场名为“通往天堂之路:在云端构建微服务”的演讲,讲述了AutoScout24 是如何从使用典型的IT 开发流程在一个一体化的应用中部署代码的方式,转变为由跨职能的团队构建与部署微服务架构的历程。这种技术与组织上的转变让业务组织能够更快速地应对不断变化的市场情况。

InfoQ 最近与来自 AutoScout24 的一位架构师 Deger 进行了一次访谈,Deger 回答了一些流程方面的问题,以及在启动这种大规模流程转变时所遇到的各种挑战。Deger 向采访者分享了在组织里驱动这一转变过程的动力以及相关技术,谈到了过程中所必需的计划工作,并且对于 Linux、Scala 及 AWS 这些技术选择提出了他的见解。

InfoQ:欢迎你 Christian!能否请你进行一下自我介绍,以及你近期所做的有关微服务的演讲“通往天堂之路”背后的核心思想?

Deger:在 5 年以前,我作为一名.NET 软件开发者加入了 AutoScout24,因此我对之前所采用的技术栈的运作方式有所了解,组织对我们当时的技术选择十分支持。2014 年初,新的 CEO Greg Ellis 上任了,他对于我们所采用的 Windows .NET 技术栈未来的前景提出了质疑。当时我正负责一个开发团队的领导工作,但这次转型的目的是使我们已成熟的 IT 技术转为次世代的“web 规模”的 IT 平台,这中间所面临的挑战吸引我开始研究架构师这一角色中更偏重技术的一面。

我们在 2014 年 11 月启动了 _Tatsu_ 项目,当时仅有 1 个团队参与,自那之后,这个转型项目的规模逐渐扩大到了 8 个团队。Tatsu(竜)这个单词起源于日语,是传说中一种会飞的动物。在加州某处有一个过山车也与此同名,它很形象地诠释了我们在这次转变过程中的体验。就像乘坐真正的过山车一样,你最好能够紧紧抓住某样东西。对于我们来说,这样东西就是我们所提出、并且在不断演变的一系列原则。这些原则能够作为我们的讨论的指导意见,并使我们的方向保持一致。因此,这次演讲的核心内容是我们所选择的途径、坚守的原则以及所学到的经验。

InfoQ:AutoScout24 从一体化架构转变为微服务架构,这听起来是一个规模很大的项目,你们对此进行了哪些前期计划工作?

Deger:对于 AutoScout24 来说,这确实是一个很大的项目,但我们并不相信大量的前期设计这种方式。我们当然会在产品的能力与预算的计划方面保持应有的审慎。但对于我们来说,更重要的一点在于进行一系列合理的初期决策。AWS 与 Linux 是很明显的选择,而 JVM 与 Scala 的选择则不是那么容易确定的。但对于我们所具备的.NET 经验来说,这看起来应该是一个良好的起点。工程师之间对编程语言的讨论是无法避免的,在 AutoScout24 选择 Scala 时也产生了激烈的争论。另外我们还打算采用微服务架构,这让我们能够容纳更多的不同技术,这一决定也起到了很大的作用。

随后,我们就四处寻找一些合作伙伴,希望能够在这些领域为我们提供一些支持与指导。最终,我们决定对一个功能进行重写,以实现我们第一个微服务。在第一个团队投入开发工作之后,其他人将学习他们的经验,并且应用到其他功能的实现过程中。

InfoQ:我们还注意到一点,你前面提到除了转向微服务架构之外,你们还选择了将系统迁移至云平台,并从.NET/Windows 平台转为 JVM/Linux 环境。事后看来,你是否也会建议其他组织进行这种方式的转换呢?

Deger:对我们来说,整个转换项目及其核心决策就是一块块拼图,他们能够完美地结合在一起。我们当然也可以选择以更小的步伐完成这次转变,但这将使我们失去这一机会。我们很了解这个行业,下一波挑战正在到来。因此,即使是让我重来一次,我也会不对核心决策进行任何改动。

虽然整个转变过程是同时启动的,但我们还是决定尽量减少对于组织带来的影响。我们先从一个团队开始尝试,并且极力强调向他人取经的思想。每两至三个月,就会有新的团队加入其中,项目中包括资深工程师与新手。这一过程对于早期加入的各个团队非常有效,但我们也学到一点,即你必须知道何时停止对团队进行分解的过程。当相互学习的阶段结束、并且项目的交付需要更多的关注时,我们必须让团队保持稳定。

从技术角度来说,我们都还有许多 JVM 或 Linux 的知识要学习,但我们已经成功地实现了全部自动化。我们的整个基础设施都由代码管理,包括不可变的服务器。我从来没有听说团队中有哪位工程师更愿意通过 Windows 技术栈解决这些问题。

InfoQ:你们的项目只包括“开发”与“生产”环境的构建,而没有搭建一个预发布环境,你能否对这一点详细地说明一下吗?

Deger:当我刚加入 AutoScout24 时,一共有 3 个预发布环境与 1 个生产环境。当时让每个发布候选通过所有预发布流程始终是一件令人头疼的事,因为这些环境与生产环境有着不同的配置。此外,这些预发布环境的“安全网”并不能够始终保证不会在生产环境中出错,因为这些环境中的数据、负载量与模式与生产环境都是不一致的。

不仅如此,在独立地发布服务时,一个运行着所有服务的预发布环境还带来了另一个问题,即与你集成的其他服务的版本与生产环境中有所不同。这些外部服务或许正处于交付周期的未完成阶段。既然如何,何必自找麻烦去配置一套预发布环境呢?为什么不让事情简单一点,只配置一个环境,让所有服务在该环境中都可用不就解决了吗?

我们希望能够“更大胆些”,但并不是说要犯傻,因此我们进行了大量的调查研究,以了解如何才能放心地将代码直接部署至生产环境。在过程中我们经历了一些失误,服务本身可能会出错,新的特性也可能不像预期中的方式运行,服务之间的集成也可能会出错。

  • 我们采取了动态特性开关策略,它帮助我们实现代码部署与特性发布的分解,这使我们对于新特性的发布实现了完全控制。我们在过去两年多时间内构建了自己的工具,名为 FeatureBee( https://github.com/AutoScout24/FeatureBee ),用于金丝雀发布、A/B 测试以及验收测试。举例来说,AutoScout24 的每位员工都可以通过 Chrome 扩展自行开启一个新特性。就在最近,Pete Hodgson 在 Marin Fowler 的网站中解释了这一概念: http://martinfowler.com/articles/feature-toggles.html
  • 客户驱动契约(CDC)能够帮助我们验证某个服务是否破坏了与正在生产环境中所运行的版本的服务之间的契约。服务可以在自己的发布管道中运行由使用者提供的契约测试,而无需与已发布的服务进行集成。我们目前正在将这些测试迁移至 Pact( https://github.com/realestate-com-au/pact )。
  • 我们为会新服务应用 Shadow Traffic,这让我们得以在正式发布之前消除所有性能问题。但我们在一开始应用此方法时效果并不好,因为某些服务没有包含在最初的发布中,而他们又会对状态进行变更。因此,我们的方法是在实例级别结合使用金丝雀发布与 shadow
    traffic。出于这一原因,我们需要为在金丝雀发布阶段写入的数据进行标记,以用于生产环境。

InfoQ:在整个迁移过程中,对于所必须的技术变革来说,打造“自治的”团队具有怎样的重要性?

Deger:对于我们来说,打造自治的团队非常重要,因为我们相信自治的团队能够实现组织的伸缩性,同时保证团队的效率。一个具有自由度与责任感的文化是非常强大的工具。

我们之前的团队就已经实现了某种程度上的跨职能性,所缺乏的部分主要是仍然要将部署工作移交给运维团队。因此,我们尝试将原先的运维人员吸引到我们的产品团队中,让整个团队对服务的运行与改进负责。最终诞生了我们的座右铭:“我们现在都是工程师”。

尽管如此,我们仍需要密切留意团队中的各种“T 型人才”是怎样为整个产品功能的做出贡献的,人们很可能会时不时地产生松懈倒退的表现。如果将有关基础设施的用户故事都分配给来自运维背景的工程师,他们就会成为团队中的“单点故障”。我们必须确保“谁创建的东西,就由谁负责运行”思想中的“谁”代表的是整个团队。从另一方面来说,许多开发者借此机会拓展了他们的技能,这是我们所乐于看到的。

InfoQ:我对于本次演讲中所提到的“原则”这一部分非常感兴趣。在这些迁移过程中,你与你的团队所学到的最重要的原则(或者是一系列原则)是什么?

Deger:我们围绕着“无共享”这一原则展开了各种有价值的讨论。当然,系统中一定会共享某些内容,因此对于该原则总是需要进一步解释。显然,共享的行为应当成为一个服务,而多个服务不应使用共享的数据存储源。这一原则的重要性在于它改变了我们原本所有的思想。我们以前所学到的知识总是教育我们要保持 DRY,或是进行标准化。大批工程师都希望能够创建一个共享的库。但共享的库会使服务对这种特定的实现以及底层平台产生耦合。我们的目标不是对于它的效率进行优化,而是为了加快前进步伐。

举例来说,我们在系统中共享了一个统一的日志记录基础设施。这是一种宏观的需求,因为我们需要对于来自所有服务的事件进行关联。除了基础设施之外,事件的数据契约也是共享的。但是事件发布功能的最初实现则并非共享的,因为人们对于直接拷贝单一的类这一做法有很强烈的反对意见。很快,团队就可以在无需协作的情况下对于自己的实现版本按照自身需求进行改进了。在经过好几个月之后,整个实现终于稳定下来了。我们最终决定构建一个内部的 OSS 库,在其中包含所有改进内容。新的团队可以自己决定如何使用这个库。

另一个例子是我们的仪表板服务。第一个团队搭建了一个仪表板服务器,而第二个团队在同一个实例中添加了另一个仪表板。但两个团队在访问某个指标的时候,无意中使用了服务中的同一个全局状态。我们在两天后才发现了这一问题,因为我们观察到这两个仪表板中的数值每 5 分钟就会切换一次。这是一个关于耦合方面的糟糕例子。现在,每个团队都自己运行一个仪表板服务器。

第二个原则的争议较少,但非常实用,即AWS 优先:“AWS 平台服务胜于托管服务、自运行 OSS 以及自展开的解决方案。”我们需要决定在组织的技术栈中引入哪种平台服务,因此我们提醒自己,我们的目标是利用 AWS 的托管服务。因为我们希望避免那些繁重的负担,而专注于自身的领域并加快脚步。虽然我们有时仍然可以选择其他的方案,但必须要给出充分的理由。

在 YouTube 上可以找到“通往天堂之路:在云端构建微服务”这个演讲的视频,也可以在 Deger 的 SlideShare 帐号中下载对应的幻灯片。

查看英文原文: AutoScout24’s Journey to Microservices: Christian Deger on Transformation, Principles and Technology

2016-02-16 18:001561
用户头像

发布了 428 篇内容, 共 177.0 次阅读, 收获喜欢 38 次。

关注

评论

发布
暂无评论
发现更多内容

6 种方式读取 Springboot 的配置,老鸟都这么玩(原理+实战)

程序员小富

springboot

玺璐传媒——连续多年获得中央电视台广告一级代理资质

科技热闻

IT服务台智能助手,真的靠谱吗?

嘉为蓝鲸

智能助手 GPT IT服务 ChatGPT

直播源码搭建平台技术知识:实时语音识别字幕呈现功能

山东布谷科技

源码 软件开发 源码搭建 直播源码

Wise 的平台工程 KPI 探索之旅

SEAL安全

KPI 平台工程

全球异型LED显示屏的市场发展

Dylan

技术 设计 领域 LED显示屏 市场

CQ 社区版 v2.1.0 发布 | 新增数据发布变更、内置脱敏规则等功能

BinTools图尔兹

运维 数据库管理 数据脱敏 CloudQuery 数据变更

「有问必答」Go如何优雅的对时间进行格式化?

王中阳Go

高效工作 学习方法 面试题 Go 语言 6 月 优质更文活动

HTTP请求:requests模块基础使用必知必会 | 京东云技术团队

京东科技开发者

Python HTTP请求 requests 企业号 6 月 PK 榜

HTTP请求:requests的进阶使用方法浅析 | 京东云技术团队

京东科技开发者

Python HTTP请求 requests 企业号 6 月 PK 榜

深入剖析spring核心容器依赖注入类型和原理:Spring依赖注入类型

互联网架构师小马

Docker 与 Kubernetes:打造高效微服务架构的最佳实践

xfgg

Java Docker Kubernetes 6 月 优质更文活动

首添机密计算创新成果!龙蜥首获 ACM SIGSOFT 杰出论文奖

OpenAnolis小助手

云原生 龙蜥社区 sig 机密计算 ICSE

全方位整合生态能力,支付宝为小程序开发者升级一站式云服务

TRaaS

小程序 支付宝小程序 云服务 蚂蚁集团

浅谈中移链中插件的功能及使用

BSN研习社

区块链

vivo 帐号服务稳定性建设之路-平台产品系列06

vivo互联网技术

帐号 服务稳定性 架构优化

HarmonyOS 极客马拉松2023 正式启动,诚邀极客们用键盘码出无限可能!

HarmonyOS开发者

HarmonyOS

轻松解决Kafka数据流丢失:提升数据完整性和可靠性

xfgg

Java kafka 6 月 优质更文活动

CFlow:从DevOps到BizDevOps,价值流管理是必然的趋势

嘉为蓝鲸

DevOps 价值流 嘉为蓝鲸 VSM

2023年全国高校公益人工智能师资培训营报名正式开启

飞桨PaddlePaddle

人工智能 百度 飞桨

3个方法,产品迭代延期率降为0?

嘉为蓝鲸

DevOps 持续集成 研发迭代

Python自动化测试的配置层实现方式对标与落地 | 京东云技术团队

京东科技开发者

Python 自动化测试 配置文件 企业号 6 月 PK 榜

大佬带你深入理解Spring依赖注入原理:bean的注册及实例化

互联网架构师小马

一行代码将SAP CDS view数据以ALV的方式输出

汪子熙

abap Netweaver 思爱普 6 月 优质更文活动

当 Rokid 遇上函数计算

Serverless Devs

iOS 单元测试之常用框架 OCMock 详解 | 京东云技术团队

京东科技开发者

ios 测试 单元测试 Mock 企业号 6 月 PK 榜

自动化回归测试平台 AREX 的 Mock 实现原理

AREX 中文社区

Java Mock测试框架 流量回放

原点安全助力金融机构消费者个人信息保护合规

原点安全

数据安全 金融机构 消费者个人信息保护

共建、共享开源EDA核心共性技术框架|2023开放原子全球开源峰会开源EDA分论坛成功举办

开放原子开源基金会

开源 开放原子全球开源峰会 开放原子 开源EDA

广东省高校人工智能产教融合院长研讨会召开,校企协同探索AI教育新范式

飞桨PaddlePaddle

给你的 ABAP 对象打上标签(Tag)

汪子熙

SAP abap Netweaver 思爱普 6 月 优质更文活动

AutoScout24通往微服务之路_DevOps & 平台工程_Daniel Bryant_InfoQ精选文章