在 5 月 26 日,QCon全球开发者大会(广州站)顺利落地,在现场,InfoQ 特别策划了五场闭门会,主题分别为《企业在 LLM、AIGC 浪潮下的研发探索》《DevOps vs 平台工程,必要性和 ROI 探讨》《破解成本优化后的稳定性问题》《业务出海之架构、合规、运营》《金融行业数据治理经验分享》,本文为《企业在 LLM、AIGC 浪潮下的研发探索》研讨纪要整理~
参与嘉宾:(排名不分先后)
主持人:杨攀 极客邦科技副总裁、TGO 鲲鹏会总经理
尹会生,珠海太乙人工智能技术合伙人
刘熙,科大讯飞 架构师
Eddie lee,渣打银行 Chief Architect
杜玉杰,开放城市共同体发起人、天使投资人
张晗,阳光保险科技研究院副院长
李阳,海松资本
快刀,得到 CTO
杜瑞罡,广发证券研发总监
江南白衣,唯品会资深架构师
李翔,惟客数据 AI 算法专家
汤海涛,麦当劳中国 /数字化副总裁
研讨话题:
你的企业有在探索 LLM、AIGC 落地吗?目前是什么阶段了?
在落地的过程中,有什么难点?
目前 LLM、AIGC 真的帮你提效了吗?
精彩观点摘要:
快刀:现在 AI 非常火,许多团队预期非常高,我们应该适当降低预期。我们曾做过一个项目,失败了,那个时候机器理解无法作到像现在这样智能。目前在得到,通过大模型的使用可以提升电子书上架效率,原来 10 个人,每天仅仅能够上线 200 本书,现在一天可以上线 1 万本书,自动化测试可以每天测 5000 本书。他提到内部提效的东西相对较为容易可以做出来。
张晗:小创新大厂赢,大创新小厂赢,AIGC 类型的革命性创新,对于小厂来说是巨大的机会,阳光保险的董事长对于 AIGC 比较焦虑,推动大家认识大模型的能力。不过,他也表示像销售的对话这类数据,无法提供到大模型的,这会涉及到数据安全问题,所以必须自研。但是现在的显卡非常紧俏,必须提前储备。目前公司 AIGC 实践正在做一个传统销售的机器人,投产开发到第二期了。
Eddie lee:银行还是一个比较高度监管的环境,所以我们这边也不敢说随便就上 AIGC,在集团里边,我们也会有很多不同的监管机构,像英国的监管机构,香港监管局,包括新加坡那边看 AI 也看得蛮紧的。另外之前大家看很多笑话就说 ChatGPT 可能有一些就是歧视的成分在里面,这我们肯定要选的时候肯定需要小心,特别是对客人的时候会不会有一些歧视的成分,会不会对长者有一些偏见等等,目前正在小范围探索。
汤海涛:麦当劳与互联网公司不同,我们的技术团队既充当与外部供应商的甲方沟通的角色,又以乙方身份与内部同事和业务部门交流。我们尚未看到 AI 如何能够直接促进订单增长或提高客单价。然而,我们正在努力尝试一些内部方案,例如建立统一的知识库解决文档管理问题,并希望通过 AI 助理为员工提供支持,解答问题和提供培训。此外,AI 助理还可以帮助员工管理日程安排和会议安排。我们需要解决老板和一线员工的痛点,以获得他们对 AI 工具开发和应用的支持和投资。我们还在探索如何在 B 端内部提高效能,包括建立知识库和提供个人助理功能,以解决员工面临的问题。
尹会生:在公司太乙,我们正在开发具备三头六臂的机器人,涉及机械臂技术。为了实现高精度控制,我们选择了生成网络(如 GAN)而非大型语言模型。现代的 6 轴或 7 轴机械臂可以达到 0.5 毫米的精度,而 7 轴机械臂可以接近 0.001 毫米的极限。这种高精度意味着机械臂能够平稳地滑动一个立方体,不留任何缝隙。
我们正致力于逐步将精度提高到 0.01 毫米,但在过程中遇到了问题。自研机械臂需要调整大量参数,例如大臂的微小抖动会导致小臂产生较大位移。为解决这个问题,我们尝试使用虚幻引擎。选择虚幻引擎的原因是我们自行研发整个电机和驱动程序,而现有软件缺乏与物联网接口的兼容性。虚幻引擎能够构建更丰富的接口解决方案,相较于成型的试校软件更适用于我们的需求。
我们的尝试是使用生成模型生成简单的机器人动作,并根据调整后的参数在负载下测试精度。我们不断尝试,例如通过将机器人放入计算机中进行加倍运行,来模拟长时间的实际使用情况,提效相当明显。
Yolanda:实际上,早在 2017 年,大型模型的概念就已经存在,并且许多企业已经在积极开展相关工作。在这个探索过程中,我们可以看到,尤其是在企业级场景中,像华为的盘古大模型已经深入应用,只是他们并没有对外公开市场开拓的情况。他们在领域预测方面取得了显著进展,例如在台风预测领域,他们使用欧洲气象局的数据进行了多年的内部训练,其准确度已经远高于三年前的欧洲气象局数据。同样,在铁路局领域也有类似的情况。华为盘古大模型与郑州铁路局合作多年,在货运方面不断进行自我训练,有效解决了火车运行中可能出现的各种问题,从而降低了人力成本和精力投入。
李阳:最近投资领域热议大模型和语言模型,但主要集中在美元机构,国内反应较少。投资大模型主要机会在百度、阿里、华为等巨头,其他机构比较难进入。我们关注垂直应用和高级模型,但存在风险,过去 AI 应用故事多,落地和盈利稳定性不高。现在大模型可能在吸引中游和尾部的投资机构,排名前 20 机构对此不太买账。
杜瑞罡:我们早已对大模型表示关注,在 2021 年,广发与盘古合作开发财务造假识别模型,取得了出色的效果。这引发了我们对大模型应用的兴趣。我们计划按照几个步骤进行探索和实施,首先是调研阶段,我们正在进行大量的调研工作,包括投行领域的文档生成和新招股说明书、撰写的资产报告等。在此过程中,我们还在同时调研国内各大厂商的模型,虽然我们目前没有训练模型的能力,但我们计划进行合作共建,先引入现有模型,然后利用我们现有的数据将金融领域的知识注入其中,以打造一个真正能够成为行业基础的模型。
我们的计划分为两步,首先是赋能阶段,通过取代那些不需要创造新脑力劳动的工作来推动数字化转型。我们拥有数千名线下员工,许多工作可以逐步被替代。我们正在推动头部知识产权和内容产出,尽管目前产出速度较慢,但通过提供工具和审核支持,我们相信可以大幅提高产出效率。此外,我们在营销方面也做了改进,通过上平台,我们可以丰富活动内容并加快速度;赋能之后是替代,未来我们计划在研发方面减少外包合作,并将更多精力投入到高价值的关系维护上,以提高效率。
哪些职业会被替代?
杨攀:在 2 月份的时候,我与江浙地区的一家公司进行了沟通,他们所从事的行业即将彻底被替代。这个行业是金华地区的一个小生意,每年圣诞节卖掉的圣诞树上挂的球约值 5 亿美元。这个行业主要依赖插画师,但插画师的生产不稳定,而且依赖于特定风格的人。这个行业的特点非常明显,很容易被人工智能图像生成和设计工具所取代。
我们仔细分析为什么这个工作能够被完全替代,原因在于它不需要精确的输入对应精确的输出,而是需要经验来产生结果。我们需要对这份工作的属性进行分析,看是否存在需要经验产出的精确输入,这类工作可以被完全替代。另一方面,微软正在采取的策略是通过 Copilot 来实现一切事物的辅助。副驾驶的概念就是一个人处理个人租车事务的助手,至少从微软的定义来看,这个阶段的目标就可以实现。我们不需要完全替代谁,而是可以赋予他们能力。
快刀:最近我们公司也在大量尝试使用 AI 进行绘画。在内部群组中,可以明显看到两种观点:设计师努力证明自己有价值,其他人则努力证明设计师没有用处。以前一个公司需要 100 个设计师,现在可能只需要 5 个。未来肯定是普通级别的设计师会被替代,各种插画师也会被取代。但顶尖设计师的地位稳固、稀缺。举个例子,上个月我一直找不到符合我要求的设计风格的设计师。我向朋友描述后,他给了一个艺术词汇,称其为哥特风格。我就是想要这种风格。他问我:你觉得 AI 能取代我吗?他说这种风格是他在教堂看到的。
活动推荐:
2023 年 9 月 3 - 5 日,在北京·富力万丽酒店, QCon 全球软件开发大会(北京站)已开启,现已开启售票,提前订票,可享受 7 折早鸟价,购票参会可以直接电话 / 微信联系票务经理 18514549229。
评论