AI 技术应用于业务中的 5 大陷阱以及该如何避免它们

本文列出了与人工智能业务利益相关者有关的一些重要的人工智能陷阱，并提供了一些技巧来避开它们。这些技巧来自于一些故事性的、个人和公开的人工智能项目的经验。

由于人工智能在业务领域还处于初级阶段，所以人工智能的各个方面都可能会出问题，而我们对于如何避免“踩坑”的认知很有限。

这些陷阱许多是技术上的，但有些则不是。业务人士可以在识别风险方面发挥重要作用，特别是那些具有重大业务影响的风险。

业务在避免人工智能陷阱方面的作用

一个人工智能项目出了问题，浪费了投资或错过了机会（比如，使自己落后于竞争对手），还算是比较好的结果。但更糟糕的情况是，人工智能可能会对业务的某些方面造成伤害。这些伤害可能包括对销售增长、客户满意度、品牌或运营效率的伤害。

人工智能团队中的业务成员无法应对许多人工智能项目的问题。因为他们并不具备足够的数据科学知识或技术专长。但是，让其参与或者让其意识到哪些事情具有重大业务影响是十分必要的。

能够及时发现问题，就足以减少许多问题的发生。然而，假如人们对问题毫不知情，那么项目很容易因为过于谨慎或关注不相关的事情而陷入困境。所以，让自己知道哪些事情可能出错和出错的原因是非常重要的。

下文概述了业务人士应该注意的 5 个常见的 AI 陷阱。它们直接关系到 AI 业务工作和企业整体技术布局的成败。

AI 业务陷阱（一）

业务问题考虑不周

一个常见的 AI 陷阱是从 AI 工作的结果中得出错误、不当或无效的结论。与所有统计和数据科学工作一样，你需要对数据进行解释，以赋予数据意义。如果这方面做得不好，结果很容易被误解和使用不当。当企业领袖希望用数据来证明的预先已经存在的一些决策或直觉时，如果数据出错，结果不容乐观。

这通常并非他们故意为之。而这很可能是由于他们对 AI 解决方案的业务问题仓促应对、理解模糊或存在误解所造成的。

如果你面临着快速得出结果的压力，那么你很容易过度简化你需要 AI 做的事情。最初，通常你能够将项目划分为一个总体目标和相关的 AI“大问题”。但当你深入到细节时，项目的复杂性会令你望而生畏。

假设每个人都在真诚地寻求“正确”的答案，那么这种 AI 陷阱会在两个主要的项目环节出现：

• 最容易发现的是 AI“整体”有缺陷。在最高层面上，业务希望通过 AI 找到解决问题的方法。如果这个问题选择不当，则很难或不可能从 AI 结果中获得任何实际的业务价值。

• 更棘手的是 AI“局部”存在问题，这些问题被用于设计解决方案（通常是算法）的内部运作方式。如果业务结果令人失望，原因就在问题本身，但这一点可能并不是显而易见的。

举个例子，假设你正在努力留住客户。通常会要求 AI 团队来识别哪些客户将要流失。这似乎是合理的，因为如果你知道这一点，你就可以采取措施阻止这些客户流失。

当 AI 团队问你想多准确地识别这些客户时，你自然的回答可能是“尽可能准确”，理想情况下是 100%。

但这里有个缺陷，如果客户是因为不愉快而流失，那么他流失的可能性会随着不满而增加。你越想提高预测客户流失的准确度，你得到答案的时间就越晚。

换句话说，当客户最不满意的时候，你可以最好地预测他们会流失。不幸的是，到那时可能已经为时已晚。

如果我们再看一看 AI“整体”问题，我们会发现识别客户不满情绪增加的早期迹象才更有用。这就意味着我们要使用人工智能来给客户在未来流失的概率“打分”。知道了这一点，你就可以更早尝试不同的干预措施来改变客户的想法。

第二类“错误问题”是 AI 陷阱在最初并不会出现。这是因为解决方案最初会产生较好的结果。只有经过长期验证、测试或使用，才会出现缺陷。

一个极为痛苦和有据可查的例子就是使用 AI 来筛选简历或评估应聘者。

当我们使用 AI 从过去成功的员工中推测出理想候选人的特征时，就会出问题。结果是，这会鼓励公司“以自己当前的形象”来招聘未来的员工。我们会假设，新员工应该会表现很好，因为他们与那些已经表现很好的人相似。

但这个陷阱在于，AI 逻辑不仅会复制现有员工的优点。它也会强化他们不好的行为。不经意间，公司在招聘过程中植入了先前存在的偏见。最坏的情况是，这些偏见还包括与种族或性别有关的违法行为。

这个问题出现的根本原因还在于业务给 AI 团队提出的问题。这个问题会影响 AI 解决方案的设计和长期结果。“确定哪些候选人将在本组织中成功录取”就是一个典型和有缺陷的问题。如果没有进一步的限定和约束，就会导致这种问题。但这个问题要比第一种问题出现时间晚得多。因为它能挑选出适合公司的候选人，所以它最初看似运作得很好。

缓解措施

第一种缓解措施是给予足够的时间来对不同的数据科学方法进行建模，以生成可能的答案。另外，确保你理解业务术语中的基本逻辑和假设。让业务部门参与评估中期结果，并从业务角度对其进行“合理性检查”。

避免此类困难的另一种方法是，展示 AI 结果将如何在业务术语中完全而非部分地被使用。该过程必须一直持续到实现收益为止。尝试从更长远的角度来做推断也是值得的。这意味着你需要想象在几个季度内、几年内，将解决方案应用在业务中所取得的效果。

在 AI 解决方案的设计中，一些有用的技术可以帮助你避免此类情况。其中包括业务原型和情景规划。

人工智能业务陷阱（二）

未量化或未声明的业务目标

有很多文章、会议纪要和书籍描述了 AI 如何能帮助提升业务。但介绍如何量化这些收益的文章却很少。当人们公开谈论或撰写 AI 的收益时，很少提及数字。

这导致企业在 AI 方面的支出陷入两难境地。收益如果没有基准和无法量化，AI 业务论证（又称业务案例）不太可能达到与其他预算相同的水准。但当所有人都在谈论人工智能将如何改变企业时，不提及 AI 工作取得的成绩似乎又是有问题的，即使数字很模糊或不完全。

即使你知道自己进退两难的原因，答案也不太容易被理解。当 AI 被热炒的时候，许多企业便冲动地开始从事可能代价十分昂贵的 AI 工作，却完全不清楚自己希望从中获得什么。一些人认为这无可厚非，因为 AI 在未来很可能具有重要的战略意义。但可以说，这反而使得设置目标更加重要。

然而，许多人工智能从业者的经验是，相当多的公司并没这样做。不出所料，这可能会导致人们对人工智能失望或怀疑，以及新的人工智能计划被搁置。

缓解措施

有几种方法可以解决这个问题。

• 第一种方法是将支出与现有投资和成本中心（如研发或能力建设）分到一组。

• 第二种方法是设定“软性”业务目标，即有意识地在衡量结果上容许更大的自由度。

• 第三种方法是使用初始项目为未来的业务论证创建相关指标的基线。

消除这个陷阱包括以下两个步骤，应该分别对待它们：

• 第一、选择对于业务而言有意义的衡量指标。使这些指标与 AI 工作产出的联系更加清晰可见；

• 第二、确定使用 AI 技术后，业务度量预计会有多大程度的改进（如果有的话）。

这两个步骤没一个是容易的，而且几乎没有任何现成的行业报告或基准能供你参考。但每一个目标都不是不可实现的，坚持不懈这么做的人一定会领先于大多数竞争对手。

人工智能业务陷阱（三）

单独的 AI 开发和业务实现

AI 的创建可以供业务人员解决业务问题或改进业务活动。要解决问题或改进活动，你需要修改日常工作以利用 AI 达标目的。因此，很明显，决定业务如何使用 AI 输出应该是非常重要的一部分。

不幸的是，实践中并不一定会如此操作。

并不是 A 团队认 I 识不到需要发生的业务变化。而是，在许多组织中，这并不是他们的责任。而在另一些组织中，AI 团队没有知识或权力去做任何有意义的事情。当然，有时 AI 团队对此也并不感兴趣。或者他们知道这样做很难，所以把这个任务留给别人。

业务团队和 IT 团队互相竞争的情况似乎并不少见。这个现象可能是由于政治、人为或历史等原因造成的，但结果是各个团队似乎各自为政，无法团结一致。雪上加霜的是，AI 的技术工作通常很难被理解，人们对其长期影响也不甚清楚。因此，在人工智能项目中，这种分歧会更加明显，尤其是当业务团队感到自己受到 AI 威胁时。

缓解措施

一般来说，你不可能规定人工智能项目应该如何对待业务实现。业务实现因组织、解决方案类型甚至部门而异。但是你可以为整个组织的 AI 业务实现建立一些原则。这些原则可以成为你所有 AI 工作方法的一部分。

有两个例子：

• 清除 AI 业务实现风险的一个好方法是早期讨论。即使细节不太清楚，早期让业务人员在日常工作中使用人工智能输出会很有帮助。

• AI 项目的状态可以把业务实现作为标准汇报项目的一部分。即使最初没有什么可汇报的，但随着 AI 输出内容的增多，这种情况也会改变。

人工智能业务陷阱（四）

投资在错误的技能上

如果你的组织没有真正了解 AI 技术，那么决定在 AI 工作中使用哪些技能将非常困难。此外，确定所需的 AI 技术也是战略决策的一部分，但你可能还没有做出这样的战略决策。

这些因素会导致以下两种与技术相关的 AI 陷阱：

• 第一个陷阱是在你先投资于内部 AI 技术，然后再决定需要内部 AI 技术还是将其外包出去。尽管内部使用和外包 AI 技术都需要用到 AI 技术，但具体细节会有所改变，如何使用它们也会改变。

• 第二个陷阱是你无法让招聘团队掌握正确的知识，从而做出有效的 AI 技术人员招聘决策。此类陷阱的另一个变体是使用错误的团队进行 AI 招聘。

内部和外包 AI 技术

如果你计划使用第三方来完成 AI 工作，则公司内部需要有了解 AI 技术的人员来委托和管理这些工作，还需要有内部人员考评那些你付钱干活的人。相反，如果你将 AI 工作留在内部，则你需要有一个内部 AI 团队。

如果你还未在内部和外包两者之间做出决定，那么你很难知道自己到底需要什么技能，除非让人工智能领导者做决定和制定相应的计划。

AI 人才招聘更为棘手，因为对于 AI 团队或部门的构成，人们几乎没有达成任何共识。甚至还有人争论 AI 究竟应该处于公司的什么地位。

在公司搭建 AI 技术早期，一个缓解措施是确保你最初雇佣的人拥有更广的 AI 知识。因为这可以让你避免永久雇用过度专业化的人才，直到你有明确的长期技能需求为止。在保证这种清晰性的同时，请使用合同工或经过交叉培训的现有 IT 人员来做更精细的工作，特别是技术开发。

配备招聘团队来招聘专业人才

如果无法判断具体岗位职责，（如数据科学家或数据工程师）则后面的所有努力往往毫无意义。如果你不知道如何区分哪些是事实，哪些是夸张与虚构，那么评估某个人的能力是很困难的。在选择人 AI 供应商来构建人工智能解决方案时，也存在类似的挑战。

如果你没有足够的 AI 知识来克服这些挑战，那么将 AI 人才的招聘或采购委托给没有足够相关知识的人是很危险的。同样，你还需要给这些人足够的指导以便让其能够评估和比较应聘人员。

• 这种现象的一个标志是，缺少详细列出应聘人员应掌握的技术和语言的招聘规范。

• 另一个标志是缺乏有意义的面试流程和应聘人员评分表。

人工智能的业务陷阱（五）

为了 AI 而 AI

一个我们容易犯的陷阱是，开始搭建 AI 技术的主要原因是我们想要使用该项技术。通常与之同时发生的情况是，我们没有充分考虑我们要用 AI 解决沈什么样的问题。这会导致我们的 AI 项目缺乏业务重点，或我们在试图解决“错误”的问题。

本文并不打算详细说明怎样才能能够保证 AI 的问题是正确的。有很多清单和其他资源可以帮助你确定在一个问题中查找什么，以评估人工智能对其是否适用。本文的重点是确保你仔细考虑了 AI 项目和问题。重要的一点是，已经有人研究了“为什么当前的问题要用 AI 来解决”这一问题。如果这些人认为 AI 能够有效应对当前的问题，那么企业领导层（而不只是技术专家）应该能够理解这这些人的解释。

缓解措施

理想情况下，你选出的问题是正确的，一切都会一帆风顺。但如果不是这样，也不要灰心，尽管尝试。AI 团队在选择出正确的业务问题时难免会犯错误，特别是在其组织采用 AI 技术的早期。但随着时间的推移，情况会有所改善。这一点在将 AI 信息转化为知识的过程中几乎是不可避免的。

总结

人工智能在业务领域还处于初级阶段，业界仍在寻找许多基本问题的答案。第一个是如何持续构建有效的人工智能业务解决方案。第二个是如何从人工智能工作中实现可衡量的业务进步。第三个是如何决定企业在人工智能领域中竞争所需要的技能。当然，将这些技术融入现有的组织结构中并不容易。

通常情况下，企业做 AI 是为了商业利益。但商业利益并不总是 AI 团队的重点，尤其是在处理技术和数据问题时。AI 团队甚至可能将业务问题视为不受欢迎的干扰。

作为 AI 业务的利益相关者，一个关键的责任是确 AI 项目具有合适的业务重点。这一责任从一开始就要执行到位，并始终保持，直至项目结束后。避开本文讨论的陷阱有助于你实现这一目标。

原文链接：

https://towardsdatascience.com/5-ai-pitfalls-for-business-how-to-avoid-them-fd619d2860c4