乐友自 2000 年成立以来,始终专注于孕婴童行业,不断深化各项服务,并在国内零售业中首家引进国际先进的 ERP 体系,率先实现了连锁店+网上商城+直购目录“三位一体”营销模式,为全国各地百万个孕婴童家庭提供了优质的产品和服务。
TestinData.AI 与乐友在 2017 年建立了合作关系,因得知乐友商城 App 近期在用户增长目标上获得了很好的进展,TestinData.AI 云测数据智能学院约到了产品总监朱爱军,产品经理陈腾一起聊了一下,并请二位分享乐友在增长实践中的经验。
以下是 TestinData.AI 云测数据智能学院与乐友的采访过程:
TestinData.AI:在增长这块我们是有专门的团队吗?
乐友(朱):暂时没有独立的团队,目前是由陈腾(产品经理)专人负责乐友商城的增长指标,同时他也兼任其他产品工作。我们的开发团队以及其他同事会参与到增长的任务之中,配合陈腾进行协作工作。
TestinData.AI:目前我们做的 A/B 测试指标有对应到最核心的 KPI 吗?
乐友(陈):当然有,我们一开始目的就是要建立转化漏斗,基于乐友产品我们有自己的海盗模型。我这边的核心就是负责整体转化率这块,从打开 APP 到最后的支付。我们把它切分成一层一层的漏斗,看每一层转化的情况,我之前的策略也是准备要从现有的漏斗转化率低的里面看看有没有可以做尝试的一些东西,去设计一些 A/B 实验,再看看这个会不会影响这一层到下一层的一个转化。
TestinData.AI:我们在实验中,无论是中间环节还是整体,我们是否看到了有实际的提升?
乐友(陈):之前做的实验都是漏斗里,只是对单层的转化有提升,这里有一个通过上传朋友圈的环节通过做 AB 测试是有一个 10%左右的提升,最后我们将提升的这个版本放到了全量。后期,我们会在整体环节的提升上继续多做实验,来观察结果。
TestinData.AI:结合你的经验,我们用 A/B 在做中间环节方案的时候,我们只是监测中间环节的转化好还是监测最终结果的转化好?
乐友(朱):当然是希望两个都能监测的到好。
TestinData.AI:前期使用顺利的情况下,我们一个月的实验大约有 7-8 个左右,在产品经理角度来看。那这会占用我们其他人员(开发、产品)工作量的比重是怎样的?
乐友(陈):这个还是要根据实际情况来定,比如目前我们是已经决定就要上这个功能,我们目前占用的工作时间量就比较小。等后期系统整体完成之后,肯定会有一些不确地功能,是上线好还是不上线好,不确定的时候后期会高频次的去使用。
TestinData.AI:在一个产品或者功能开发的什么阶段,你们更倾向使用 A/B?
乐友(朱):打个比方,我们做一个产品也好,一个产品功能也好,假设满分是 100 分。我们在 0-80 分的阶段,是不需要进行 A/B 测试的,根据我们最初的产品设计逻辑即可确定产品形态。但是,在 80 分到 100 分的增长过程中,A/B 测试就是不可或缺的。
我们需要不断的探索,比较不同设计、版本之间的细微差别。而往往,决定转化率提升以及增长的关键就在于此。
TestinData.AI:为什么在 A/B 测试服务商之中,会选择与 TestinData.AI 合作?
乐友(朱):目前,国内国外确实有比较多的 A/B 测试服务提供商。在以数据服务的领域中,产品的稳定性、数据的实时性,算法的专业性,以及客户服务的质量是选择合作伙伴的重要因素。基于此,在对比过多个服务商之后,乐友商城选择了 Testin 提供的 A/B 测试作为长期合作伙伴。在半年的合作过程中,我们对合作结果非常满意。
TestinData.AI:可否给我们提供一个具体的 A/B 测试实验案例?
乐友(陈):好,我们就拿最近的一次关于“客服按钮”位置进行的 A/B 测试做一个分享。
我们起初做了一些小实验,并没有发现有明显的结果出现。后来在一次讨论中,基于我们产品经理的经验与直觉,第一判断【联系客服】按钮的位置可能有些隐蔽,不容易被用户看到。我们第一个实验选取了对【联系客服】按钮的位置调整进行 A/B 测试,原始版本与实验版本分别如下截图所示的位置:
原始版本 新版本
实验上线之前,开发同学与产品同学做了周密的准备工作。实验进行约 3 周时间,我们可以看到新版本对原始版本提升了 37.66%的转化率,同时该转化率在 95%的置信区间是可信的。所以,我们最初的预判直觉是正确的,迅速升级了该版本。
实验结束之后,我们依然持续观察新版本上线后的结果;除了预期的转化率提升了以外,我们还发现了额外的惊喜。那就是之前在 AppStore 评论区中,很多“吐槽、差评”的留言减少了。
后来我们在和用户的沟通中发现,客户有很多反馈需要提供给我们,但是一直找不到入口;在通过 A/B 测试实验结果的新版本上线后,这个按钮对客户更加友好,与是用户的意见有了更加直接的反馈渠道,也对我们产品收集客户需求反馈带来了更多的信息。
所以,通过这次 A/B 测试,不仅提升了联系客服按钮的转化率,同时对用户带来了更好的体验、AppStore 的评论区负面评论减少,同时,也增加了产品经理收集到的客户反馈,可谓一箭三雕。
TestinData.AI:非常感谢您的分享,这是一分非常有价值的 A/B 测试案例。我们会将案例也同步分享给 Data 学院的学员之中,感谢两位本次的采访。祝乐友发展的越来越好!
小贴士
TestinData.AI 致力于应用智能,成为产品经理的外脑,让阅读、资讯、知识、工具类 App 具备个性化智能,让金融、电商、学习、旅行类等商业 App 具备商业智能,通过机器学习专利引擎对应用(HTML5、移动页面、小程序、快应用、原生 App、物联网二维码应用)实时自动优化,使产品、运营和市场人员能够持续、高效提升转化率、ROI 和关键经营指标,预测客户的潜意识需求、并即时传递给他们,从而推动可持续进化的商业效益及品牌忠诚度。
TestinData.AI 具备实时、持续、智能提升转化率的能力,驱动用户增长,在支持智能优化的同时,也支持用户进行传统的 A/B 测试,并提供可视化编辑、科学流量分割和专业统计等功能,且允许用户进行私有化部署。
评论