Dropbox 的工程团队写了一篇有关他们的网络和服务器配置和验证自动化工具 Pirlo 的文章。Pirlo 提供了一种可插拔架构，基于 MySQL 实现了一种自定义作业队列。
Dropbox 有自己的数据中心。Pirlo 工具由 TOR（机架顶部）交换机初始化程序、服务器配置程序和验证程序组成。它作为工作进程运行在一个通用的分布式作业队列上，这个队列基于 MySQL，提供了可用于跟踪运行作业进度和可视化历史数据的 UI。Pirlo 使用了可插拔模块，为每个阶段提供了大量日志记录，用于调试和分析自动化运行。Dropbox 有一个 NRE（网络可靠性工程）团队，负责构建、自动化和监控生产环境的网络。Dropbox 的大多数代码都是用 Python 编写的，不过目前还不清楚 Pirlo 是否也是用 Python 编写的。
交换机和服务器配置程序都使用了作业队列，它们的工作流程都很相似，队列管理器选择正确的作业处理程序来处理来自客户端的请求。作业处理程序运行已注册的插件，这些插件负责执行实际的检查和命令。插件执行特定的作业，发出状态码，并将状态发布到数据库日志。这是大多数作业队列的运行方式，因此很自然地就会有人问为什么这个团队没有选择像 Celery 这样的现有队列解决方案。文章的作者解释说：
我们不需要整个功能集，也不想要第三方工具的复杂性。内部原语为我们提供了更大的设计灵活性，一小组 SRE 就足以开发和运营 Pirlo 服务。
当收到客户端请求时，交换机配置器（叫作 TOR 启动器）就会启动。TOR 交换机是网络设计的一部分，机架上的服务器设备与同一机架上的网络交换机相连，网络交换机通常位于顶部。它尝试通过 gRPC 使用服务发现找到健康的服务器，然后队列管理器为该作业选择一个作业处理程序。交换机验证和配置是一个多步骤过程，从建立基本的连接开始。随后会执行各个插件，最终下载交换机配置并重启。
服务器配置和验证过程类似。我们使用 Debirf 创建的操作系统镜像启动验证器，这个操作系统镜像可以创建基于 RAM 的文件系统，完全从内存运行 Debian 系统。它的绰号叫 Hotdog，一个基于 Ubuntu 的镜像，可以通过网络启动并运行验证、基准测试和压力测试。测试结果被推送到数据库，并用于后续的分析。测试过程包括根据硬件工程团队批准的预定义配置列表验证各种硬件和固件组件。修好的机器在重新投入生产之前也需要经过这个测试套件的测试。
Pirlo 的 UI 显示了当前正在运行和已完成的作业的进度。Dropbox 曾经使用 playbooks（或 runbooks）来执行配置。其他一些工程团队运行自己的数据中心，他们也已经从基于 runbook 的配置转向零接触配置（ZTP），尽管使用了不同的方法。
查看英文原文：
https://www.infoq.com/news/2019/01/dropbox-datacenter-automation
暂无签名
中国开发者画像洞察研究报告 2024
分析开发者的行为模式、工作价值、职业发展等内容，帮助整个行业生态更深入地理解开发者，为他们提供更精准...
评论