产品战略专家梁宁确认出席AICon北京站,分享AI时代下的商业逻辑与产品需求 了解详情
写点什么

如何打造高质量的 SSP 广告引擎(下)

  • 2019-11-28
  • 本文字数:3143 字

    阅读完需:约 10 分钟

如何打造高质量的SSP广告引擎(下)

当今互联网有几种主流的商业模式:广告、游戏、增值服务等。毫无疑问“广告推送”带给互联网公司的收入绝对是相当可观。今天为大家分享一篇来自 360 手机卫士团队分享的 SSP 广告引擎。

3.4 Template Manage System

SSP 系统有一项很重要的功能就是管理广告样式以及管理广告展示布局,例子(见图 3.4-1 和 图 3.4-2)可以形象的展示不同的广告样式和广告布局。 我们的产品往往不断调整广告的样式,如三图变长图;或者增加新的广告样式如视频广告,轮播广告;又或者针对不同产品的不同功能页面会尝试不同的广告组合来布局。 如何支持广告的灵活性运营, 对 SSP 系统提出非常高的要求。我们使用两个机制来很好的解决了这个问题,base template 机制,polymorphism and combination 机制 。下面我们来具体的介绍这两个机制,以及这两种机制如何结合起来支持广告运营的灵活性。



3.4.1 base template

base template 我们叫做基础模版,用来解决广告样式的多样性。在处理广告展示的过程中,如果每一个广告都写代码去针对性处理,广告千变万化,这个工作量将是非常复杂的。如果仔细的研究一下,会发现虽然广告千变万化(广告素材、广告标题等)但是广告的样式种类确可以归成很少的几十类,最多几百类。 我们把广告剥离成静态和动态两部分, 静态的是广告样式, 种类只有数十种,这样管理起来就非常的简单, 只需要运营这几十个静态模版类即可;动态的是广告的素材啊,标题啊,跳转连接啊,点击动作啊, 这些可以通过下一节的 polymorphism 机制进行实例化, 从而实现动态部分的灵活运营化。

3.4.2 polymorphism and combination

polymorphism 叫做多态实例化机制, combination 叫做组合机制, 这两个机制结合起来用来解决页面广告布局的灵活性。


base template 可以决定广告的样式,从基本模版库中选中样式模版后,通过 polymorphism 可以对该模版进行实例化,比如两个同样的长图模版,填入不同的素材链接地址,标题,点击动作可以形成两个广告实例。polymorphism 的灵活性如何实现?通过 3.3 节的规则管理系统可以动态的配置基础样式模版所需要的属性信息, 这样就可以完成 polymorphism 的实例化,并且可以交付运营来配置管理(实例化形象例子可以参考图 3.4-2)。


有了实例化的模版,我们的工作完成了一半, 产品所需要的不是单一的一个广告,产品端的页面是一系列广告的展示, 但是产品的广告页面布局会不断调整的,不能每个页面写死由那些固定模版组成。 我们通过 combination 机制(组合机制)很好的解决页面布局的灵活性, 也就是通过 3.3 节的规则管理系统由运营来动态组合样式实例来形成页面布局(布局形象化例子可以参考图 3.4-2)。base template,polymorphism, combination 机制结合起来形成页面布局见图 3.4-3。


四、高性能、高并发引擎架构

SSP 每天请求量超过 30 亿,支持这么大的流量需要一个非常出色的高性能 http 引擎。http 引擎框架大多归为两类,一类是多进程框架,一类是多线程框架, SSP 的演进过程中也分别使用过这两类框架,一个是 360 大流程云引擎部门开发的 cloudUcs, 一个是核心安全部门开发的 trident,下面我们来详细介绍一下,最后我们来谈谈基于 go 协程机制的新的 http 引擎框架。

4.1 多进程框架(cloudUcs)

cloudUcs 是大流程云引擎部门开发的, 是一个比较优秀的高性能 http 引擎,目前搜索一级引擎还是采用这个框架,框架图见图 4.1-1。



Ucs 的优点有如下几点:


1.master-slave 多进程模型,可以保障引擎的可靠性

2.worker 进程支持多线程异步化处理各种 IO 事件

3.网络通讯细节封装良好,业务逻辑不需要关心网络底层细节

4.进程间请求流量均衡


Ucs 当时存在如下一些缺点,我们后来改用了 trident 框架,列一下当时遇到的问题:


1.ucs 的多进程模型在加载了短信的预测模型后,导致内存占用特别大,系统负载高;

2.在当时 ucs 的情况下,配置加载必须要进行进程 reload,会有丢包现象,不适合 ssp 这种强运营性的系统;

3.ucs 的进程模型相比于 trident,事件分发速度慢,而且多进程间负载均衡做的不好,work 进程负载不均匀;

4.ucs 编程模型不够友好和搜索业务绑定的比较严重,新人上手门槛高;

4.2 多线程框架(trident)

trident 是大流程云查杀组开发的,现属于核心安全部门, 也是一个比较优秀的高性能 http 引擎,目前云查杀引擎是采用这个框架,SSP 也是采用这个框架,框架图见 4.2-1。



trident 优点:


1.单进程加载资源,占用系统内存少;

2.支持配置的热加载,尽管存在互斥锁的问题;

3.trient,顾名思义,单一进程内可以支持 tcp、udp、http 三种服务;

4.worker 线程之间的负载,相对于 ucs 来说,负载更均衡,之前 ucs 因为 worker 负载不均衡问题,我们只能把每个 worker 的队列长度都设置为 1 以便强制所有 worker 参与调度,但这也限制了 ucs 的 qps,而 trident 因为负载叫均衡相对较好,qps 要比 ucs 好些,但是

这个是理论上,没有做过极限压力测试;


trident 缺点:


1.配置热加载过程采用互斥锁,影响性能,ssp 已经规避了该问题;

2.当前 trident 采用的单进程多线程方式,已经整个 ssp 系统采用的异步 stored、异步 redis 等,造成单进程内线程数量太多,线

程间同步和竞争关系复杂;

3.trident 的对外 IO 事件和分发事件只有一个线程在处理,业务量大时该线程时瓶颈;

4.大量的异步应用,多线程模型,导致开发的 debug 成本较高,新人入手困难。

5.还存在一个极端状况下会出现的 bug,请求量极速上升,内存占用会急剧上升(接收和处理线程之间的队列无队列长度上

限)。

4.3 go 微服务框架(migo)

4.3.1 migo 简介

migo 是我们团队用 go 语言重新开发的 http 引擎框架, 充分挖掘利用了 go 的协程机制,拥有非常强大的性能。由于多线程模型在发生线程调度的时候代价很高,不能充分利用 cpu 的时间片,所以人们又提出协程概念,相当于在线程的工作时间片上又切成很多小段,分给协程来工作,有统一协程调度器来调度协程,而不会触发线程的调度,得以充分的利用线程的工作时间片。go 语言在语言层面对协程进行了支持,所以简单易上手,目前在高性能、高并发领域是非常火热的编程语言。所以我们采用 go 语言重新打造了一个新的微服务引擎框架 migo。migo 本身我们设计成一个通用的微服务框架,也具备 SSP 的很多特点,也具有 DAG,topology, stage, context,micro service 这些组件(组件介绍见第三章)。与 C++或者 php 语言相比,DAG,topology, stage 反而更好的把 go 的协程机制发挥出来,提供充分的并行性。 migo 的系统框架图见图 4.3-1 和图 4.3-2。



4.3.2 migo 性能评测

我们分别对 migo, php-fpm,trident 进行性能测试,用来对比分析这几个框架的性能差异,migo 和 php -fpm 框架性能对比见图 4.3-3 和图 4.3-4:




简单业务 migo 性能是 php-fpm 的 3-5 倍;


复杂业务 migo 性能可以达到 php-fpm 的 20 倍;

4.3.3 总结以及 migo 未来规划

综上我们总结一下 migo 的特点:


1.性能优越,充分利用 goroutine 机制,最大化的利用 cpu 的分片时间,不但一个请求可以用 goroutine 来实现,请求里面还可以分成小段 stage,这些小段 stage 也可以启用 goroutine 来实现,并行化的粒度变成了一次请求中的小单元而不是线程框架下的一次请


求;


2.新人上手简单,易学易用;


3.有很好的灵活扩展性,模块很好重用,极大提高业务编写效率;


migo 未来的规划:


1.进一步探索框架性能的提升,提出类似 spark RDD 概念的的 gRdd,研究 stage 之间数据共享的可行性;


2.研究 migo 和 docker 部署的结合;


3.研究 migo 如何对不同业务(topology)进行调度,提供更高层次的灵活扩展性;


4.更多公共 stage 模块的开发,提供更强大的能力;


本文转载自公众号 360 云计算(ID:hulktalk)。


原文链接:


https://mp.weixin.qq.com/s/q3-cvys7AmQTDaDlR3kQWQ


2019-11-28 14:222588

评论

发布
暂无评论
发现更多内容

苏州崛起为我国区块链产业高地

CECBC

区块链 社区矫正

架构师训练营第 1 期第 8 周作业

好吃不贵

极客大学架构师训练营

Architecture Phase1 Week8:HomeWork

phylony-lu

极客大学架构师训练营

年轻人的第一个MyBatis项目就要这样来学习,不走弯路

小Q

Java 学习 架构 面试 mybatis

Java8引入新的日期和时间库,你应该知道

Silently9527

java8

极客时间架构师培训 1 期 - 第 8 周作业

Kaven

产品发布 | 准备好提升你的 ITSM 了吗?

Atlassian

DevOps Atlassian ITSM ITIL

架构师训练营 W04 作业

Geek_f06ede

极客大学架构师训练营

分分钟玩转SpringBoot自定义注解

比伯

Java 大数据 编程 架构 编程语言

ebay支付核心账务系统架构演进之路

贾奇 (Jacky)

支付系统 共识机制 系统稳定高可用 Event Sourcing 异地多活容灾

架构师训练营 - 第 8 周课后作业(1 期)

阿甘

腾讯强推Redis大神之路成长手册!原理+应用+集群+拓展+源码五篇齐飞

Java架构追梦

Java 数据库 redis 架构 面试

架构师训练营第 4 周课后练习

菜青虫

极客大学架构师训练营

LeetCode题解:169. 多数元素,哈希表,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

推荐好书:《使用Python进行图像处理和采集》第二版(附下载方式)

计算机与AI

Python 图像处理

架构师训练营第 4 周学习总结

菜青虫

极客大学架构师训练营

架构师训练营 第四周作业

文江

网络时间协议介绍以及服务器同步网络时间

MySQL从删库到跑路

ntp 时间同步

架构师训练营第 1 期 -- 第八周作业

发酵的死神

极客大学架构师训练营

架构作业--相交链表

Nick~毓

四、应用系统探讨

Geek_28b526

架构师训练营 week4 课后作业

花果山

极客大学架构师训练营

Architecture Phase1 Week8:Summarize

phylony-lu

极客大学架构师训练营

「八大排序算法」16张图带你彻底搞懂基数排序

bigsai

排序算法 基数排序

“区块链+营销”:科技力量助力行业前行

CECBC

市场营销

区块链治理的真实价值在哪里

CECBC

区块链 治理 治理机制

脱钩!打工人不配拥有Java程序员306道面试秘笈吗?真香

996小迁

Java 学习 架构 面试 笔记

架构师训练营 week4 学习总结

花果山

极客大学架构师训练营

极客时间架构师训练营 1 期 - 第 8 周总结

Kaven

架构师入门学习感悟四

笑春风

架构师训练营第 1 期 -- 第八周学习总结

发酵的死神

极客大学架构师训练营

如何打造高质量的SSP广告引擎(下)_服务革新_李振博_InfoQ精选文章