在 2024 年 AICon 全球人工智能应用与开发大会上,腾讯云依托向量数据库和 AI 代码助手等产品,在 RAG 领域的创新实践获得了广泛关注,并斩获年度 AI 最佳实践案例、十大高价值技术团队、十大 AI 最佳技术服务商三大奖项。
RAG(Retrieval-Augmented Generation,检索增强生成)技术因能有效解决大模型的“幻觉”问题而受到广泛认可,但其实际落地效果一直是业界关注的焦点。腾讯云数据库副总经理罗云透露,自去年上线以来,腾讯云向量数据库已成功支持 60 多个集团业务及外部 3000 多家企业,其吞吐能力是业界平均水平的两倍,响应延迟低至毫秒级,助力企业快速构建 RAG 解决方案。
在大会期间的 TechoDay“RAG 应用与实践”专场,来自金融、教育、工业等多个行业的头部企业技术负责人还分享了基于 RAG 的创新策略与实战经验,展现了多样化的 RAG 技术实现路径。
金融行业:快速构建与高效安全
招商证券自 2023 年起探索 AI 辅助编码技术,在取得阶段性成绩后今年选择引入腾讯云 AI 代码助手,致力于进一步提升智能开发效率。
目前,腾讯内部已经有 80%的程序员使用腾讯云 AI 代码助手实现开发提效,日均有 33%的代码由 AI 生成,整体编码效率提升达到 42%。
招商证券技术平台团队负责人谭成鑫表示,结合公司实际需求和技术特点,双方进行了深度定制,利用代码大模型融合内部数据实现跨文件智能扩展,按需扩展插件快捷指令和 Prompt,还将运营体系与度量标准对接,提升了软件开发效率和质量。
教育行业:精准问答与知识库构建
作业帮在研发学习机 AI 助手时,面临大模型“幻觉”问题,传统关键字检索方案效果遭遇瓶颈, 测试准确率仅为 60%。
面对这一挑战,作业帮经过多方调研测试,采用了向量数据库作为大模型的外挂知识库,利用其 Embedding 功能自动生成向量数据。同时,腾讯云向量数据库的 AI 套件功能,提供一站式文档检索解决方案,只需上传原始文档,就能在数分钟内快速构建专属知识库,极大地提高了知识接入效率。
上线后的测试结果显示,纯靠向量检索可以覆盖 95%的场景,作业帮学习机 AI 助手目前的效果远优于传统关键字检索方案。
工业行业:标准化设计提升效率
成套电气行业因其产品定制化程度高、交货周期短以及协同工作复杂等特点,面临着诸多挑战。特别是在设计环节,工程师需花费大量时间消化图纸、手工绘制,且行业内元器件和设计的标准化程度较低,导致设计效率低下。此外,工程师的培养过程复杂,需要掌握大量的专业知识、国家和地方标准,以及各种专业术语,这进一步加剧了行业的痛点。
在腾讯云知识引擎的助力下,浙江万榕打了造一套开关设备行业的随身专家系统——“榕博士”。该项目通过建设行业几万个元器件模型和上千个二维、三维方案模型,积累了 300 多个行业标准文档和近百份顶尖设计方案,以及工程师的专业经验。
目前,“榕博士”系统已成功服务 200 多位工程师,平均每人设计效率提升超过 50%。
未来,腾讯云将继续致力于推动 RAG 技术的发展和应用,助力更多企业加速拥抱智能时代。
评论