大家好，今天将从研发架构的角度对云小蜜自然语言理解技术落地实践进行分享，主要包括以下几个部分：

云小蜜简介：智能客服领域内人机协同解决方案。
移动的问题与解决方案：针对降本增效的打法。
技术架构方案：项目背后的技术支撑。
业务效果总结：典型业务场景的效果展示。

1 云小蜜简介

阿里小蜜最早诞生的背景是淘宝平台存在着大量的业务需求，通过智能客服的技术手段可以有效提高业务处理效率，并可以将其赋能于阿里集团内部其他部门，阿里生态企业，以及集团外客户的不同业务场景中。辅助或者替代真人客服服务。

客服典型场景主要解决两类问题：问题咨询和交易纠纷。

经典客服模式（真人服务模式）：

图1. 传统客服真人服务模式

①问题咨询：主要指用户咨询问题的业务，比如对产品，服务，资讯等内容请求。

②交易纠纷：主要是在交易平台相关的业务中，比如在用户交易纠纷申请提交后，提供工单，由交易顾问确认责任等流程，处理结果判决等业务。

智能客服是通过对话机器人辅助或代替人工在传统客服中的功能，它的业务模式与传统业务模式类似。

智能客服模式：

图2. 智能客服服务模式

智能客服的业务目标跟人工客服类似，它的目标是在以上业务流程中，通过机器人小蜜自动识别并处理大部分请求（一般90%以上），只把机器判断不准或无法解决的问题交给客服人员处理，从而达到降本增效的目的。

1.1 小蜜家族

阿里小蜜，最早是服务于淘宝电商平台的，提供智能对话辅助能力，发展到现在已经具备的能力包括：智能对话辅助，智能决策，智能服务路由，智能预警，智能质检等。

在阿里统一的人工智能技术中台支撑下，阿里小蜜家族成员包括：超级小蜜，行业小蜜，店小蜜，企业小蜜-云小蜜。

超级小蜜：主要是服务于在淘宝，天猫平台上做的咨询类，交易纠纷类问题智能业务处理。

行业小蜜：主要帮助赋能阿里生态圈的几十家企业的实现智能客服能力。

店小蜜：主要是针对在阿里电商平台上的商家，服务其电商用户，比如售前咨询，售后导购，物流处理等，这块业务量占比相对较大，

企业小蜜-云小蜜：主要针对的集团外的业务，通过与阿里云合作，提供整套的客服解决方案，通过阿里云输出给ToB企业，或者为在钉钉上几百万的企业的用户提供小蜜智能服务能力。另外，也为阿里收购的海外电商平台Lazada提供智能客服能力。

云小蜜不只是对话，而是一套针对客服场景下的完整人工智能解决方案，对话是解决方案的核心和最重要的一环，但不仅限于对话，还包括智能决策，智能调度，智能预测，智能分派等产品矩阵。

统一中台支撑：小蜜家族虽然对外提供不同的小蜜能力，但是在中台框架下，底层的能力是相通的，中台提供稳定可靠的积木式能力，业务线通过对积木的有效组合提供完整的行业解决方案。

两层的中台：

a.算法层：分词，实体，MRC，分类等及知识库。

b.能力层：或者叫产品层，包括：FAQ问答，KBQA，对话工厂等。

图3. AliMeAI平台

1.2 产品矩阵

云小蜜打造提供一套丰富的智能客服技术解决方案，典型的技术产品架构如下：

图4. 云小蜜产品矩阵

其中，主要的产品功能模块：

①对话智能路由（策略中心）：对用户请求，通过用户画像匹配操作，决定分配给人工或者机器人，并根据用户画像决定提供服务的类别和深度。

②智能客服：主要提供智能对话能力。

③知识云：知识问答相关的知识库，为知识问答提供相关的辅助，对于知识云能够解决的问答任务，可以简单快速的返回答案。另外智能助手解决问题的答案也可以回流到知识云的当中去，丰富知识库。

④预测排班：预测服务量在未来一段时间（按周）的走势，合理排班坐席数量，解决传统人工排班的劳动量大，排班任务分配不准确等问题。

⑤智能质检模块：分为实时质检和离线质检两种场景，目的是监测服务人员的对话内容，情绪等，辅助客服任务的质量控制。

⑥分析报表：对业务处理结果以报表的形式提供展示。

⑦监控大屏：对业务处理过程，态势实时展现。

2 移动的问题与方案

2.1 合作与赋能

云小蜜和中移在线，客服业务共同点：一是，在某一时间段业务量会急剧增大；二是，公司规模急剧增长，迫切需要人工智能技术解决业务瓶颈。

因此，云小蜜和中移在线展开了一系列合作：

图5. 云小蜜与移动合作发展路径

通过阿里的技术，云小蜜逐步赋能中移动的客服业务，在这个过程中，智能客服的流量切入比重是分步骤逐步迭代增加的。将传统的FAQ的服务逐步以智能机器人的方式扩展其性能，不断提升客服的智能化水平。

2.2 落地需要考虑的问题

①降本：中国移动是全球客户服务领域体量最大的企业之一，2014年成立的客服公司中移在线，中移在线用4万多客服人员服务9亿多用户，人力成本是其最主要的成本。由于移动月末出账单特点，移动话务量的周期波动非常明显，人力成本居高不下。

②增收：中移在线作为有社会担当的企业，不能无限降低自有客服人员，需要释放出来客户人员带来新的收入，需要做到从成本中心到利润中心的转型。

③服务体验提升：移动旧有IM渠道基本无业务办理能力，只能通过简单的文本+链接跳转实现最基本的办理能力，交互复杂，用户体验不够连贯。

④热线渠道：话务高峰期，话务人员不够，排队时间长，用户体验待提升。

2.3 方案落地主要的挑战

①各省技术设施不一致，性能表现不一，系统接入难度高。

②数据能力，实时数据处理能力，记录数据不够细致等。

③合作的团队众多，协同的成本很高。

2.4 产品解决方案

图6. 云小蜜在移动的落地方案

云小蜜为客户提供智能机器人的赋能能力，可以兼容到客户的客服业务系统中。其中在机器人模块，PaaS层提供QA和多轮对话能力，以及知识图谱问答能力。云小蜜提供训练闭环、服务闭环、数据闭环三大闭环能力，从而赋能客户具备完全独立的自主运营能力。

2.5 任务型多轮对话（对话工厂）

对话工厂是帮助客户实现多轮对话落地的快捷方式，允许用户快速建立多轮对话能力。其基本形态如下：

图7. 对话工厂的产品形态

对话工厂能够实现业务自主运营赋能，图形化拖拽开发能力，无代码或少量代码的业务赋能，支持业务可以自主进行业务定制和开发，无需原厂商端到端持续支持。

实现的思路是，将对话过程分成三步：对话输入，对话处理，对话输出，再进一步抽象成图的触发节点，函数节点和回复节点。通过这三大类节点组合形成复杂的对话业务流程。其中每一种节点的作用是：

①触发节点：意图识别结果，关联触发节点。

②函数节点：具体执行任务的执行函数或者调用系统的接口。

③回复节点：把调用的结果做后续处理，反馈用户结果。

2.6 图谱+多轮对话

知识图谱可以提供以下能力：

①提供复杂实体识别能力,将传统扁平化实体识别的任务转向层次化识别的手段。

②基于图谱的问答能力，知识图谱的可以提供结构化信息的问答能力。

③基于图谱的推理能力，利用知识图谱，结合多轮对话的推理能力，可以完成在问答、导购、业务办理等场景任务。

④服务体验的提升，通过有机结合知识图谱，任务型多轮对话，卡片交互等能力，给在线渠道带来全新交互模式和服务体验。

视频1. 基于知识图谱业务办理

视频2. 基于多轮对话的业务办理

在以上场景中，利用知识图谱的推理能力，可以将用户引导至业务办理的节点，结合对话工厂对话任务办理的模板，可以完成一个业务办理的任务闭环，有效提升业务办理成功率。

2.7 策略中心

智能策略中心，作为人工和机器人之间的泄洪闸，根据用户画像，工作台运行情况，用户对话等数据，综合运用推荐技术和自然语言理解等技术，实时识别高价值话务，在话务低谷期增加高价值人工流量进行营销，在话务高峰期控制人工服务流量进行业务削峰，从而实现用户体验和收益之间的动态平衡。

图8. 策略中心界面

3 技术架构方案

3.1 移动架构

移动业务场景的技术架构如图：

图9. 移动业务架构

其中，主要的架构组件包括：

①IVR：典型的，经过IVR按键选择入口，经过SDM语音功能模块（阿里云语音对话管理系统），经过智能决策（人机智能路由）。

②在线接入：用户通过APP或者H5页面接入，卡片平台可以消除部门交互的歧义可能，提升交互准确率，选择性触发卡片选项也可以降低工作难度，提高便捷性。

③策略中心：智能任务分流，决策系统。

④预测系统：预测话务量，根据话务负载决定人机分流的比重。

⑤文本对话：识别用户的意图和业务流程定制，完成移动的业务系统调用，并把业务结果返回给用户。

⑥业务系统：移动各省公司的业务系统。

3.2 小蜜架构

为了达到技术能力的高效复用，灵活的部署，云小蜜的技术架构设计遵循：

①分层架构

通过分层的架构把复杂问题逐步分解，让不同的工种专注于自己的领域和专长。自下而上包括部署环境，中台能力，产品与解决方案等层。部署环境主要指云小蜜根据用户需求的不同，运行在不同软硬件环境之中（公有云、私有云、专有云等）。为了屏蔽运行环境的差异，通过统一的中间件抽象层，很好地实现上层能力对环境的感知，从而实现平台能力复用和运行环境的灵活切换。中台部分，是由一系列智能化组件组成，可以很好地实现核心能力在小蜜各个产品之间的平缓复用，从而很好地把阿里的服务能力完整地赋能给到客户。在中台能力层以上的产品层，主要是针对不同业务线特点打造更加贴合于具体需求和场景的产品矩阵。

②中台能力

通过中台能力降低开发成本，保证核心的算法和能力能够在各个产品中顺利复用。算法上，业务只需要关注自己业务上数据，模型沉淀即可。

图10. 云小蜜的中台能力架构

在部署环境的适应性上，也综合考虑了支持集团，阿里云，企业私有云等不同用户群体业务部署的需求。运行于公有云或集团内时，主要的中间件有Tair、HSF、MetaQ等。当需要进行私有云部署的时候，直接使用Redis，Dubbo，RocketMQ等开源中间件打包替换即可。核心的思路是通一个抽象基础设施层，有效屏蔽上层能力对环境的依赖，从而真挚实现一套代码，多环境运行能力。

在基础设施之上，提供了统一能力框架层，主要提供账号、权限、接入、流控、插件等框架能力，不仅让小蜜产品体系具备一个完全可靠的架构基线，同时也能让算法、应用研发同学只关注于算法和业务本身，精力更加聚焦。

3.3 中间件框架

①核心目标

剥离业务代码对集团中间件的强绑定，保证算法，中台，业务代码等能够在阿里集团内部，阿里云，集团外的各种环境中无缝复用，真正做到‘一次编写，到处运行’。

②核心思路

依赖倒置原则，通过增加接口层，让业务代码依赖于中间件接口，而不是依赖于具体的中间件实现。增加一个间接层，解决中间件不一致的情况。

图11. 云小蜜中间件框架设计

4 业务效果落地总结

4.1 智能导航全语音门户

通过智能导航服务占比曲线可以看到智能客服比重在不断增大，现在云小蜜在移动两省的日对话轮次达3、4百万，月对话轮次在6、7千万。

通过全语音门户导航系统代替传统IVR，完成两省全量客户覆盖。

移动在线分公司可以基于我们的产品自主研发和配置业务流程，并实时上线。

业务波动系数，作为降成本的一个重要指标，在云小蜜的支持下，从近乎全网最低到全网最好，成本大幅降低。

图12. 云小蜜赋能移动业务智能导航业务

4.2 在线 IM 智能服务渠道

知识图谱+对话工厂实现IM渠道从简单问答到咨询，业务查询，业务办理的跨越式能力升级。

提供自动的商品导购能力，将导购转化率提升1个数量级。

用户评价解决率超过均值20个百分点，算法准确率94%以上。

图13. 云小蜜赋能IM智能解决能力

4.3 营销能力

在线营销转化率的数量级增长。
热线渠道营销收入接近成倍的增长。

这就是今天分享的全部内容，谢谢大家。

作者介绍：

罗洪刚，阿里巴巴智能服务事业部技术专家。毕业于上海交通大学电子信息与电气工程学院，就职于阿里巴巴小蜜团队，负责云小蜜的研发和技术架构工作，作为云小蜜的早期人员主导了云小蜜从0到1的落地过程。擅长于智能对话、智能决策、智能调度相关的技术架构工作。

本文来自 DataFun 社区

原文链接：

https://mp.weixin.qq.com/s/3ylhIZf7OyTu24WeynHzxA

创作场景

云小蜜：在中国移动的落地实践