自生成式 AI 技术取得突破性进展以来，各行各业都在积极探索如何通过 AI 来加速企业数智化进程。在这样的背景下，8 月 9- 10 日，用友主办的 2024 全球商业创新大会——企业数智化技术峰会即将在北京召开。

在大会召开前夕，极客邦科技 CGO 汪丹对话了用友网络副总裁用友数智平台解决方案事业部总经理罗小江，围绕 AI 技术在企业的应用与现状，以及用友服务众多企业客户数智化转型的经验进行深入探讨。对于企业而言，AI 技术都能带来哪些改变和价值？企业如何顺利引入大模型技术解决实际问题？数据维度层面需要做哪些工作来发挥 AI 潜力？

本期对话内容整理如下，供读者参考回顾。

AI 在企业的应用价值与发展方向

汪丹：AI 在企业技术层面带来了哪些附加值或价值点？

罗小江：AI 确实重塑了整体的企业技术架构。比如我们的低代码开发平台，以前有逆向编程、正常编程、无代码、低代码和原生开发，有了 AI 加持后，加入了自动生成代码、表单，未来甚至可以自动生成应用，大大提升了低代码开发的效率。我们的集成平台在集成 Web 数据时，AI 可以帮助我们加强对数据相关风险的预警、对数据的整体监测和治理，提升稳健性。数据平台前期数据的治理清洗过程，也可以应用 AI 自动化的能力来提升，进而加深数据和 AI 的融合。我们的运维体系也可以通过 AI 来做自动化运维，安全体系可以用 AI 能力规避风险。

整体而言， AI 大大提升了企业技术相关的能力，可以少走很多弯路。比如管理层要获得一些数据和信息，现在可以通过自然语言交互来获取。在企业软件开发的全生命流程，从产品设计到研发、测试、上线和运维，都可以获得 AI 的助力实现升级。

汪丹：哪些企业场景更适合利用 AI？企业在大模型应用方面处于怎样的阶段？

罗小江：在 ToB 领域，大模型在四个方向上可以做深入应用：第一是业务运营，包括市场营销、采购和整体业务运营都可以结合大模型、Agent 来解决问题；第二是人机交互，以前我们用图形界面的方式来做交互，现在完全可以通过自然语言交互，变得更加简单；第三是知识生成，比如文档生成、PPT 制作，可以在很多场景中结合企业的知识库生成你需要输出的内容，甚至可以结合以往的知识生成未来想要得到的方向；第四是应用生成，通过 AIGC 的方式能生成新的应用，解决新的场景问题，帮助我们快速实现项目的业务流程。

以上方向有很多场景都可以用到大模型，但大模型至少在目前阶段不能解决所有问题，而我认为 Agent 是未来重要的方向。

汪丹：业界也有说法认为 2024 年是 AI Agent 应用落地的元年。您认为 AI Agent 落地存在哪些难点？

罗小江：AI Agent 的核心是工程化的能力。我认为 AI Agent 是向 AGI 方向前进的最重要载体。大语言模型通过 AI Agent 来编排企业级的业务操作，模拟人的动作，这里牵涉几个难点。第一是工程化能力，第二是大模型里要调用更多小模型，做多模型融合，还有大模型最后的精度调整，从 30-50% 提升到 80-90%，真正意义上让模型能可用，这里会考验数据的准备和整体调优过程。

企业服务大模型的落地挑战与解法

汪丹：大模型的落地过程中，数据隐私和安全性都是企业非常关注的问题。用友如何解决企业的困扰或担心？

罗小江：很多大模型厂商都在提供公有云服务，所以很多企业不敢用大模型就是怕自己的数据外泄。企业在应用 AI 过程中，包括问责、包容性、可靠性、公平、安全、透明度、隐私和合规，都是企业关注和担忧的问题。我们在做 YonGPT 的时候，非常关注这些要点。

首先，企业自己的知识不能放在公网上，避免泄露的风险。其次，一些企业希望自己的知识体系是隐私的，而一些通用的大模型会拿企业数据做训练，无法很好地保护企业知识。第三，企业应用大模型时需要同整个安全权限管理体系融合，比如组织权限、数据权限，甚至文档访问的权限。企业数智化应用里每个人都有相关的角色，每个人的角色决定后续一系列访问应用和访问数据的能力。所以 YonGPT 把企业级的权限体系同大模型做了融合，这样用户登陆后这个角色相关的权限自然规避掉了，没有权限的数据都无法访问，保证数据安全。

YonGPT 也对大型国央企支持私有化部署，保证企业所有数据都在内部，通过 RAG 技术解决私有化数据隐私问题，保证企业在应用大模型过程中，企业核心资产不外泄。很多大模型厂商的管理层对企业级权限管理不够了解，可以通过 YonGPT 补齐这层，通过企业应用、数据、文件的权限体系来规避风险。

汪丹：YonGPT 帮助企业解决问题的过程中需要使用特定领域的数据来做训练，这就会涉及成本问题。其次大模型知识的专业性和泛化性能力也需要做好平衡。针对这两个问题，用友对企业有哪些建议？

罗小江：每个企业应用的深度和自身的专业知识都有差异，如果都基于一个模型去训练就会造成模型污染，导致模型输出的内容不准确。RAG 相关的工具链产品就是帮助行业客户解决这样的问题。

对于专业模型，真正做预训练和调优对很多企业来说成本很高，硬件成本和人力成本都不可小觑。这里有两种做法，一种是自己专业化能力很强的大型企业，自己有模型团队，通过预训练方式训练专有模型，这样精度更高。但很多企业没有专业 AI 团队，就可能通过 RAG 方式，使用基础训练模型解决专业知识问题。企业可以根据自己不同的阶段和人员储备情况选择不同的道路。

YonGPT 的差异化优势

汪丹：InfoQ 研究中心在做今年的研究报告时发现，将近 85% 的行业大模型产品都是非通用的，国内的大模型产品行业垂直化的趋势非常明显。这样的现状和趋势对用友 YonGPT 带来哪些挑战？

罗小江：对企业来说，核心诉求是让大模型的能力同场景结合，真正让业务场景用到底层大模型的能力，这也是用友要解决的核心问题，所以 YonGPT 也定位在这一层。首先，我们会把所有的工具链这一层做得更好。第二，我们把 AI 和数据的结合做得更好，包括数据的清洗准备、前期预训练、模型的训练评估、发布和调优都做到更好。第三，用友更关注如何把做好的模型同企业的应用场景有效融合，让用户用起来更舒服、无感或顺畅。

汪丹：在当下的国内大模型生态中，YonGPT 处于怎样的生态位？

罗小江：用友一方面发力行业垂域模型，同时也会提供领域级相关的通用大模型。在 8 月 10 号的技术峰会上也会发几个垂类大模型。我相信随着模型应用的深度持续加深，获得整个行业相关的更多数据积累，它能够更好地覆盖、服务好整个行业。

这两年很多大模型找到我们合作，我们的核心还是同行业、同领域去做结合，这也是 YonGPT 未来的优势。用友有这么多行业、事业部，同很多大的行业客户做合作，有更多行业经验、行业数据积累，能够更好地训练行业模型，并让行业大模型在行业里真正用好，构建好的生态。

汪丹：企业在大模型选型时，面对类似的产品和服务选项，为什么会选择用友？

罗小江：用友整个平台有三个关键词，是我们的定位、优势和特点。首先是技术领先，因为我们用到了最新的技术。第二是体系完整，比如在做大模型时需要数据工程、大数据平台，包括数据的标注、指标体系，我们都有完整的数据平台做支撑。

第三是更懂业务，技术最怕的一点就是脱离业务，这也是很多企业上了 PaaS 平台后搁置不用的一个核心原因，就是因为平台不理解企业业务，只是个技术工具，而用友对企业级应用的理解比很多纯粹做技术域、大模型的公司更多。

我们在做企业各个领域的场景应用时，最早做流程驱动，然后是数据驱动，现在往智能运营方向走，在此过程中积累了更多资产和场景，这些积淀一定会为大型客户在跨行业和服务生态上下游时带来更多帮助。同时，用友积累了更多生态能力，特别是大型链路企业本身也要服务上下游的方方面面，需要很多生态能力的补给，用友都可以通过 AI 或其他方面的积淀满足他们的需求。

数据与 AI 的乘数效应

汪丹：企业运营从流程驱动到数据驱动，再到智能化驱动的过程中，数据一直扮演着非常重要的角色。您能否介绍一下 YonData 数据平台这款产品？

罗小江：用友做数据也做了很多年，我们还做了一个企业数智化进阶模型，其中第一层是“上云”，实现企业云化部署，业务线上化、数字化；第二层“用数”，做到真正意义上的数据驱动；第三层是“赋智”，也就是智能运营，运用 AI 助力企业业务运营智能化、人机交互自然化、知识与应用生成。这三个阶段都涉及如何用数智底座来支撑企业数智化进阶。

在 ERP 时期，企业更多是靠流程驱动，以流程控制相关业务的运转。随着数据技术、云计算技术的发展，我们能够采集更多数据来还原业务的本质，用数据驱动业务，甚至通过数据做创新发现新的业务机会。

比如最近这几年推出的事项法会计，核心就是基于数据驱动的，把业务端所有的数据传递下来形成标准事项库，最后转化成财务相关事项，供给到业务管理者，让更多人参与到财务会计管理过程中，让企业了解财务成本、预算、未来的效能分析。

基于这样的数据驱动链条，用友加强了对整个数据平台的投入。从底层的数据库开始，市场上所有的结构化、非结构化数据都可以进入用友自研的数据库存储。我们现在也做到了库内流批一体，在库内就可以解决从 AP 到 TP 的整个过程，不需要搬运。其次，用友拥有完整的数据治理产品，从主数据、数据质量、元数据管理到数据血缘，有一套完整的数据治理产品，整个数据管理的制度体系都可以在我们场景里落地。还有数据的加工、实时和离线数据处理，再到上面还有 BI 产品，今年还推出了 ChatBI，支持自然语言交互，问数产品有指标体系、语义理解和大数据平台的支撑，做得更加精准。

随着用友 iuap 数据平台服务千行百业的更多企业，数据应用场景变得更多，也能更好地回馈到数据产品，让我们的数据产品变得更加好用和智能。

汪丹：用友 iuap 数据平台的产品线目前实际帮助过哪些企业，解决过哪些全流程问题？企业采用用友全套产品后有哪些可量化的价值体现？

罗小江：用友服务的对象很多都是国央企业，甚至包括军工企业。比如某个区域型国有企业，区域内基本上所有的业态都是他们在提供，包括交通、房地产和民生工程。

当时他们的 CIO 表示，之前他们也上了 BI，放了很多应用，但是看不到想要的结果，很难实时呈现企业的真实情况。这是因为以前的取数不是全量的，并且时间是递延的，很多时候半个月甚至一个月前的数据才能推到管理层，中间干预的环节太多，导致数据基本上不准，他要分析某个区域业绩下滑到底是什么原因引起的都分析不出来。

所以他问用友能不能帮我们重新构建数据平台，我们就分析了他们的现状，花了几个月的时间帮他把整个数据名单重新搭起来，基本废掉以前简单的 BI 和数字化系统，重新帮他从数据治理做起，搭建整个数据中台做分析能力，最后同他们的企业应用做融合。几个月的时间把治理做完，再有两三个月时间把整个运营分析做完，2023 年基本上实现了准实时。现在他能够看到具体区域的公交线路运营情况、成本情况，很容易判断是否要优化路径。上了用友 iuap 平台后，帮助这家企业节省至少上千万成本，不仅能覆盖平台成本，还能持续做优化。

汪丹：对于企业而言，搭建数据平台后至少能够带来三到五倍于成本的收益吗？

罗小江：是的，因为这是叠加的过程。比如数据在第一个板块里用到了，在第二、第三个板块中用起来就是叠加的过程，越用越好。因为数据项目是持续运营过程，用友给客户的是平台和数据运营的体系方法。这也是很多公司看重用友的地方，用友在 HR、财务到物流都可以基于数据去帮这些企业做运营，这样的工程化体系是用友能带给企业的。

汪丹：在 8 月 10 日召开的用友 2024 全球商业创新大会上，还有哪些精彩环节等待企业和开发者？

罗小江：这次大会是我们一年一度的最大盛会，今年我们邀请了 1 万名左右的客户共聚北京。

本届大会我们会发布一些新产品，包括用友 BIP 3 R6 、YonGPT2.0 等新产品和相关技术的介绍。我们也会向大家介绍我们的客户在新产品应用方面的一些场景和创新，还会发布三个垂类大模型，因为我们也是信通院大模型应用推进组的专家委员单位，所以信通院会同我们一起发布。

这次峰会还能看到基于用友的底座平台、应用平台如何做延展，覆盖上下游的服务。此外还有更多细节，比如产业政策解读、产品如何结合企业应用场景，还有数据资产入表的相关事项。