QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

金融企业落地大语言模型的路线图

  • 2024-03-27
    北京
  • 本文字数:2673 字

    阅读完需:约 9 分钟

大小:1.34M时长:07:48
金融企业落地大语言模型的路线图

作者|周健,澜码科技创始人兼 CEO


金融行业数字化成熟度高,数据资源基础好,数字化程度一直处于领先地位,新技术的创新与应用方面也始终保持着前沿。


在这次大语言模型引领的历史大变革的当下,金融行业依然走在了前列,特别是银行业拥有广泛的客户资源,头部国有大行和全国股份制银行客户规模数动辄达千万甚至数亿。凭借信息丰富、数据庞杂、知识专业、人才密集等天然特征优势,银行业拥有与大模型深度结合的基因,因此成为大模型应用落地的重要场景之一。


相对应的,大语言模型技术的快速进步和迭代,也使得传统银行业务能够与人工智能技术深度整合,推动金融领域的数字化和数智化转型,并令这些企业率先受益于新技术。


波士顿咨询公司曾以一家拥有约两万名员工的区域性国际银行为例,初步梳理了该银行前、中、后台相关部门应用生成式 AI 的潜力和效益,预计在首年就可以为该银行节省约 1.5 亿美元的成本,占整体薪酬总包的 7%


过去一年多,我们在金融行业中实践下来,将理论结合实践,形成了一些方法论。我们认为,大语言模型在金融行业中的落地演进将经历三个阶段:增强自动化、流程自动化、流程自主化。

金融企业落地大语言模型的三阶段

“当我开始用 GPT 处理知识性任务时,我通常得事后去核实事实,比如检查它有没有编造一些假消息。你是怎么发现 GPT 能编出那些听起来特别有说服力的假信息的呢?你又是如何确保它所提供的信息是真实的?”


这段话来自 3 月 19 日 OpenAI 董事长 Sam Altman 公开的一则专访,Sam Altman 主动提到大语言模型的幻觉问题让他担心,并且明确表达虽然 OpenAI 即将推出的新版本大语言模型会在这个问题上有很大改善,但今年内仍然不能完全解决全部问题。


在这样的背景下,对模型的可解释性、鲁棒性都有极高要求的金融行业,该如何落地大语言模型应用?

中国信息通信研究院(以下简称“信通院”)将大语言模型落地路线图总结为诊、建、用、管四个阶段



“诊”,是说从能力分析和需求分析切入,剖析大模型发展现状,“建”从方案设计和研发测试层面牢筑大模型的技术底座,“用”是通过应用开发和效能评估上革新大模型应用范式,“管”则是通过运行监测和运营管理来形成大模型管理体系。


信通院的这个线路图,从能力和需求分析出发给我们提供了一个全面的视角。


而澜码从业务价值创造的维度看,我们将大模型应用落地分成增强自动化、流程自动化和流程自主化三个阶段。当前绝大部分企业都处于第一阶段,在大语言模型应用的初期。



第一阶段我们认为是增强自动化,实现单岗位的增强和提效,主要应用于重复性高、有规律可循的任务,如数据录入、客户服务、报告生成等。


以前 RPA 时代也在谈任务自动化,但受限于技术水平和技术成本,无法实现规则的个性化,只能按照定制的流程一步一步完成重复工作。如果说过去任务的自动化能帮助企业节省一线城市月薪 6000 元员工所拥有的能力或时间,现在有了大语言模型,我们就能让同样是月薪 6000 块钱的员工发挥出相当于月薪 2 万块钱员工的水平。


具体来说,在一个岗位有多个人员的情况下,将企业里业务专家的经验和知识沉淀下来,通过 Agent 去赋能基层的初级、中级员工。增强自动化可以大幅度提高工作效率,减少人工错误,将员工从繁琐任务中释放出来,使其能够专注于更具创新性和战略性的工作。此外,它还可以提升服务质量,通过快速、准确的任务执行,提升客户满意度。


目前,我们在金融客户的场景中推进基于 RAG(检索增强生成)技术的增强自动化,已经在不少场景实现单岗位任务的智能升级。


长期来看,增强自动化是企业提升生产力、降低运营成本、并实现业务创新的重要手段。


埃森哲今年初对以大语言模型为重要技术基础的生成式 AI 在不同银行角色中的潜在用途做过研究,结果显示,73%的美国银行员工的工作时间可能会受到生成式 AI 的影响,其中 39%来自自动化,34%来自增强。



下一个阶段我们称为流程自动化。这一阶段,通过实时自动化系统和数据连接,解决业务协作中的各种问题,提高自动化效率和管理水平。


在这一阶段,流程自动化解决的是部门、角色和岗位的连接问题和业务协作问题,无论是跨部门协作,还是同一部门内部的工作流,自动化效率和管理水平都可以得到优化。


例如,从订单处理到发货,从客户服务到问题解决,流程自动化都能实现各环节的无缝衔接,提高工作效率,减少错误。此外,流程自动化还可以提供实时的业务洞察,帮助管理层做出更明智的决策。


在 RPA 和低代码时代大家也在谈流程自动化,但那时的流程自动化谈的更多的是怎么样把流程的系统、工作流的引擎去驱动。今天在大语言模型的背景下,我们认为流程自动化最重要的是管理上的增效,提供实时的业务洞察,更好的帮助管理层做出决策。


事实上,在公司内部我们已经在实践了。在公司里,我发现 Agent 可以帮助我更有效地传递信息。作为管理者,我面临的一个挑战是确保信息的流通既可信又及时,然而大多数情况下,除了我的秘书或我的直接下属,我无法把全部信息传递给所有人,但有许多基本工作,如催办、总结、协调等,其实是可以通过个性化规则自动化的方式来完成。流程自动化在这个场景下的价值就非常明显了。


而在金融客户的前、中、后台场景,我们也已经看到了大量的可行性,并且正在探讨下一步如何帮助他们落地。总的来说,流程自动化是实现企业数字化转型,提升业务效率和客户满意度的重要工具。


第三个阶段是流程自主化AI Agent 通过世界模型理解业务流程所处的市场、客户、组织、产品的上下文,主动找到当前流程运行状态和目标之间的差距,并采取行动来改进流程及相关要素。管理者只需要给定目标,以及通过自然语言对于流程准则进行调整,AI Agent 会自动进行适应,并规划及完成流程的自动化,包括但不限于和数据库、文档、应用以及相应的一线员工进行互动。


流程自主化的实现,使得大语言模型将算力和数据转化为智力,AI Agent 将专家知识转化为自动化能力。这种转化不仅可以提高企业内部流程的效率,减少人工错误,还能够释放出专家的宝贵时间,使他们可以更专注于创新和策略性任务上。


今天我们已经看到,金融行业中的保险理赔、审核,证券行业的研报、量化投资、信贷审核、普惠金融等业务场景,未来都有实现流程自主化的可能,从而实现一个人机协同,人机融合,人机共生的组织。


作者简介:


周健毕业于上海交通大学计算机系学士、硕士,2002 年获得 ACM 国际大学生程序设计竞赛世界冠军,是首个在此项竞赛夺冠的亚洲团队成员。


2006 年加入谷歌美国总部,负责中文网站搜索质量优化,此后历任阿里云、Mediav、依图科技、弘玑 RPA 等公司研发总监、CTO 等;


十年连续创业经验,作为依图 10 号员工、弘现 RPA 公司 CTO,在 AI 大数据、企业服务领域拥有丰富的经验和项目成功案例。

2024-03-27 21:103200
用户头像
李冬梅 加V:busulishang4668

发布了 1046 篇内容, 共 659.6 次阅读, 收获喜欢 1210 次。

关注

评论

发布
暂无评论
发现更多内容

Kafka 3.0 重磅发布,来看下值得关注的新功能

大数据技术指南

kafka 11月日更

彻底说透简单工厂那些你没有关注过的细节

Tom弹架构

Java 架构 设计模式

详细架构设计文档模板(笔记)

张祥

IM开发基础知识补课(十):大型IM系统有多难?万字长文,搞懂异地多活!

JackJiang

架构设计 即时通讯 灾备 IM 异地多活

前端Node.js面试题

CRMEB

纳尼?华为首席架构师只用434页笔记,就将网络协议给拿下了

编程 程序员 面试 网络协议

堪称神级的阿里巴巴“高并发”教程《基础+实战+源码+面试+架构》

Java 编程 程序员 高并发

深入理解 TCP 拥塞控制

拍乐云Pano

TCP 音视频 RTC TCP通信

【SpringMVC 笔记】Json 交互处理(1),面试官都被搞懵了

Java 程序员 后端

以闭包方式实现一个Controller层打印日志的切面

LSJ

aop 闭包 切面

腾讯AI专家整理最全Python学习体系(视频+源码+案例+路线)

小Q

Python AI 面试 爬虫

专题|防宕机,Pulsar 跨机房复制了解一下?

Apache Pulsar

云原生 中间件 Apache Pulsar 消息系统 防宕机 跨地域复制

【Spring Boot实战与进阶】Controller的使用及获取请求参数的示例

Java 程序员 后端

【Spring 工厂】反转控制与依赖注入,spring集成mybatis原理面试题

Java 程序员 后端

【SpringMVC笔记】Ajax 入门,linux编程基础李养群课后答案

Java 程序员 后端

【SpringMVC笔记】拦截器 ,java设计模式及实践百度云

Java 程序员 后端

智能的统一哲学

木铎

人工智能 机器学习 智能

【Spring 基础注解】对象创建相关注解,java开发实战经典答案百度云

Java 程序员 后端

【SpringBoot系列】配置多环境配置文件,hadoop环境搭建教程

Java 程序员 后端

还在刷面试题?NO!这份阿里内网Java面试通关手册才是你急需的

Java spring 面试 JVM mybatis

恒源云(GPUSHARE)_云GPU服务器如何使用Conda?

恒源云

深度学习

Python代码阅读(第56篇):获取列表的前n个最大/最小值

Felix

Python 编程 列表 阅读代码 Python初学者

【SpringMVC 笔记】Json 交互处理,顺丰java社招面试

Java 程序员 后端

网络篇夺命连环12问

冇先生

就这?彻底搞懂单例模式

蝉沐风

Java 面试 设计模式 单例模式

【Spring Cloud 2】注册中心Eureka,java架构面试题spring原理

Java 程序员 后端

【云计算】云的七大分类定义说明

行云管家

云计算 公有云 私有云 云资源

重磅|Apache ShardingSphere 5.0.0 即将正式发布

SphereEx

数据库 ShardingSphere Meetup Apache ShardingSphere DateBase

【Spring 持久层】Spring 与 Mybatis 整合,spring教程极客学院

Java 程序员 后端

【Spring Cloud 8】熔断与限流Sentinel,java现在的主流技术

Java 程序员 后端

[架构实战营] 模块三作业

张祥

架构实战营

金融企业落地大语言模型的路线图_生成式 AI_周健_InfoQ精选文章