1. 阿里ESM2：Conversion Rate Prediction via Post-Click Behaviour Modeling

我们之前介绍过一种基于多任务学习的CVR预估模型ESMM，简单回顾下：

ESMM中有两个子网络，分别是Main Task用于预估CVR值，Auxiliary Tasks用于预估CTR值。二个网络共享Embedding部分。Loss分为两部分，一是CTR预估带来的loss，二是pCTCVR（pCTR * pCVR）带来的loss。CTCVR是从impression到buy，CTR是从impression到click，所以CTR和CTCVR都可以从整个impression样本空间进行训练，一定程度的消除了样本选择偏差。

但对于CVR预估来说，ESMM模型仍面临一定的样本稀疏问题，因为click到buy的样本非常少。但是其实一个用户在购买某个商品之前往往会有其他的行为，比如把加购物车或者心愿单。如下图所示：

如上图所示，文中把加购物车或者心愿单的行为称作Deterministic Action (DAction) ，而其他对购买相关性不是很大的行为称作Other Action(OAction) 。那原来的 Impression→Click→Buy购物过程就变为Impression→Click→DAction/OAction→Buy过程。

ESM2模型结构：

那么该模型的多个任务分别是：Y1:点击率 Y2:点击到DAction的概率 Y3:DAction到购买的概率 Y4:OAction到购买的概率

并且从上图也可以看出，模型一共有3个loss，计算过程分别是：

pCTR：Impression→Click的概率是第一个网络的输出。
pCTAVR：Impression→Click→DAction的概率，pCTAVR = Y1 * Y2，由前两个网络的输出结果相乘得到。
pCTCVR：Impression→Click→DAction/OAction→Buy的概率，pCTCVR = CTR * CVR = Y1 * [(1 - Y2) * Y4 + Y2 * Y3]，由四个网络的输出共同得到。其中CVR=(1 - Y2) * Y4 + Y2 * Y3。是因为从点击到DAction和点击到OAction是对立事件。

随后通过三个logloss分别计算三部分的损失：

最终损失函数由三部分加权得到：

2. YouTube：Recommending What Video to Watch Next: A Multitask Ranking System
1）视频推荐中的多任务目标，比如不仅需要预测用户是否会观看外，还希望去预测用户对于视频的评分，是否会关注该视频的上传者，否会分享到社交平台等。
2）偏置信息。比如用户是否会点击和观看某个视频，并不一定是因为他喜欢，可能仅仅是因为它排在推荐页的最前面，这就会导致训练数据产生位置偏置的问题。

模型结构：

从上图可知，整个模型分为预测两大类目标，分别是：

engagement objectives：主要预测用户点击和观看视频的时长。其中通过二分类模型来预测用户的点击行为，而通过回归模型来预测用户观看视频的时长。
satisfaction objectives：主要预测用户在观看视频后的反馈。其中使用二分类模型来预测用户是否会点击喜欢该视频，而通过回归模型来预测用户对于视频的评分。

模型中有两个比较重要的结构：Multi-gate Mixture-of-Experts (MMoE)和消除位置偏置的shallow tower。

MMoE的结构为：

shallow tower的结构为：

通过一个shallow tower来预测位置偏置信息，输入的特征主要是一些和位置偏置相关的特征，输出的是关于selection bias的logits值。然后将该输出值加到子任务模型中最后sigmoid层前，在预测阶段，不考虑shallow tower的结果。值得注意的是，位置偏置信息主要体现在CTR预估中，而预测用户观看视频是否会点击喜欢或者用户对视频的评分这些任务，是不需要加入位置偏置信息的。

3. 知乎推荐页Ranking模型

多目标模型，预测的任务包括点击率、收藏率、点赞率、评论率等等，共设计 8 个目标。从性能方面的考虑，我们将底层embedding权重设置成共享的, 最后一层根据不同的目标进行加权训练。

美图推荐排序多任务
模型结构：

参考文献：

https://arxiv.org/abs/1910.07099
https://www.jianshu.com/p/c06e9ed08dd1
https://www.jianshu.com/p/2f3dbbfc16a6
https://www.infoq.cn/article/g95hu67a4WheikGu*w9K
https://www.jiqizhixin.com/articles

本文转载自Alex-zhai知乎账号。

原文链接：https://zhuanlan.zhihu.com/p/91285359

创作场景

Multi-task 多任务学习在推荐算法中应用 (2）