构建机器学习系统的 20 个经验教训

数据科学家对优化算法和模型以进一步发掘数据价值的追求永无止境。在这个过程中他们不仅需要总结前人的经验教训，还需要有自己的理解与见地，虽然后者取决于人的灵动性，但是前者却是可以用语言来传授的。最近 Devendra Desale 就在 KDnuggets 上发表了一篇文章，总结了 Quora 的工程副总裁 Xavier Amatriain 在 Netflix 和 Quora 从事推荐系统和机器学习工作时所总结的 20 条经验教训。

1. 更多的数据 & 更好的模型
   并不是数据越多结果就越好，高质量的数据才能产生高质量的结果。多并不意味着好，事实上，有些情况下较少的数据反而效果更好，因此数据要适量，质量要高。
2. 可能并不需要所有的大数据
   组织可能积累了不同种类的大数据，但是并不是每一个场景都会用到所有的数据。大部分情况下，通过一些样本数据就能获得比较好甚至是比使用全量数据更好的效果。
3. 有时候更复杂的模型并没有带来任何提升，但这并不意味着就不需要它了
   如果将一个线性模型的特征数据作为另一个更复杂模型（例如非线性模型）的输入，而复杂模型产生的结果并没有任何提升，那并不意味着这个复杂模型就毫无意义。因为通常情况下只有更复杂的特征数据才需要更复杂的模型，对于简单的特征数据复杂模型往往难以发挥出自身优势。
4. 学会处理展现偏见
   系统通常会将那些预测的比较正确的结果展示给用户，用户会选择性的查看，但是用户不看的那部分并不一定就毫无吸引力。更好的选择是通过关注模型或者 MAB 分析用户的点击概率，合理地呈现内容。
5. 认真思考训练数据
   构建训练和测试数据的时候需要充分考虑结果和各种不同的场景。例如，如果要训练一个预测用户是否喜欢某部电影的分类器，那么产生数据的可能场景包括：用户看完电影并给出了一星的评价，用户看了 5 分钟、15 分钟或者一小时之后离开，用户再次查看电影等，如何选择这些数据是需要经过深思熟虑的。
6. UI 是用户与算法通信的唯一方式
   系统通过 UI 展现算法结果，用户通过 UI 提供算法反馈，它们应该是相互对应的关系，任何一个发生变化另一个也需要进行改变。
7. 数据和模型是否已经足够好了？要有正确的评估方法
   产品决策始终应该是数据驱动的。对于不同的问题，要选择正确的评估方法，例如，通过 A/B 测试来衡量不同特征数据，不同算法的优劣；通过脱机测试使用 (IR) 度量测试模型的性能。
8. 分布式算法重要，但是理解它的分布式程度更重要
   分布式 / 并行算法分三级：第一级针对总体的每一个子集，第二级针对超参数的每一种组合，第三级针对训练数据的每一个子集，每一级都有不同的要求。
9. 慎重地选择超参数
   要选择正确的度量标准自动化超参数的优化。
10. 有些事情能线下做，有些不能，有些介于两者之间，为此需要支持多层次的机器学习。
11. 隐式信号几乎总是打败显式信号
    许多数据科学家认为隐式反馈更有用。但真的是这样么？实际上有些情况下结合不同形式的隐式和显式信号能更好地表示长期目标。
12. 模型会学习你教给他的内容
    机器学习算法并不是一个随意的过程，它的每一步都涉及到科学方法。模型要从训练数据、目标函数和度量中学习。
13. 有监督的 + 无监督的学习
    开发模型的时候不能简单地选择有监督的或者无监督的学习，它们各有长处，适用场景不同，用户需要根据具体情况同时迭代地使用它们，通过两种方法的融合获得更好的效果。
14. 所有的事情都是一种集成（Ensemble）
    使用机器学习的大部分应用程序都是一个集合体。你可以添加完全不同的方法（例如 CF 和基于内容的方式）, 你也可以在集成层使用许多不同的模型（例如 LR、GDBT、RF 和 ANN）。
15. 一个模型的输出可能是另一个模型的输入
    确保模型的输出具有良好的数据依赖关系，例如可以容易地改变值的分布而不影响依赖它的其他模型。要尽量避免反馈循环，因为这样会在管道中造成依赖和瓶颈。另外，机器学习的模式设计也需要遵循最佳的软件工程实践，例如封装、抽象、高内聚和松耦合。
16. 特征工程的失与得
    良好的机器学习特征可重用、可转换、可解释并且可靠。捕获的特征越好，结果越精确。为了量化数据的属性必须将维度翻译成特征。
17. 机器学习基础设施的两面性
    任何机器学习基础设施都需要考虑两种不同的模式。模式１：机器学习实验需要扩展性、易用性和可重用性。模式２：机器学习产品不仅需要模式１的特性，还需要性能和可伸缩性。理想情况下，应该保持这两种模式尽可能地相近。
18. 要能回答有关于模型的问题
    必须能够向产品所有者解释模型的行为，知道如何使用模型，它需要哪些特征，导致失败的原因是什么；同时还需要知道产品所有者或投资者的期望，能够向他们介绍模型为产品带来了什么价值。
19. 不需要分发机器学习算法
    Hadoop/Spark 这些“容易的”分布式计算平台也有一些陷阱，例如成本和网络延迟，实际上有些情况不使用它们也能很好的完成工作，通过智能数据样本、离线模式以及高效的并行代码等方法训练模型所花费的时间甚至比这些分布式平台要少的多。
20. 数据科学 vs. 机器学习工程不为人知的故事
    拥有强大的能够挖掘数据价值的数据科学家是非常值得的。但是既懂数据又有扎实工程技能的数据科学家非常稀少，通常情况下，构建数据科学家团队和机器学习工程团队并让他们通力配合才是比较好的方案。