RAG 在企业落地的难点与创新

随着大型语言模型在语言理解与生成方面取得革命性进展，如何有效解决模型的固有局限，如幻觉现象与知识时效性，成为了业内亟需突破的难题。检索增强生成（RAG）技术的提出，为这一问题提供了新的解决方案。RAG 通过引入外部知识库和信息检索机制，提升了模型的输出质量，使其能够处理更加复杂和动态的信息。

然而，在企业实际落地过程中，RAG 技术依旧面临着一系列的挑战。从数据检索和信息理解到推理能力优化，如何在不同行业中实现高效应用，仍是许多企业需要攻克的难题。

2024 年 12 月 13-14 日，AICon 全球人工智能开发与应用大会·北京站，将再次汇聚全球顶尖 AI 专家，展示最新的 AI 技术和应用创新。在此次会议中，我们特别推出专场 《RAG 在企业落地的难点与创新》，聚焦于当前企业在实际应用大语言模型时面临的挑战与创新实践。本次专场将深入探讨 RAG 技术的最新进展，解析其在医疗健康、语义搜索等领域的创新实践，并分享多方位的解决方案。

本次专题的出品人为 周景博， 其目前担任百度研究院商业智能实验室负责人、资深研究员。周博士参与并支持了百度多项重量级大模型项目的研发与落地工作，包括全球首个 AI 原生地图产品—百度地图 AI 向导、智慧城市政务大模型应用、多模态生物计算大模型等。

精彩分享一

在医疗健康领域，RAG（检索增强生成）是大模型应用的重要方向。它有效缓解了部分大模型幻觉、信息更新时效性等问题，能够提升大模型在医学知识库问答的效果。然而，在实际应用中，我们发现 RAG 仍存在一些挑战，如文档解析结构理解、大模型生成幻觉、复杂医学问题难以解答等。

大会上，百度灵医大模型底座技术负责人夏源 的演讲《在医疗健康领域，企业大模型 RAG 优化实践》将分享针对上述问题的解决方案。

精彩分享二

RAG 到底要不要做语义检索，业界有很多讨论，但尚没有定论。来自 Hugging Face 的机器学习工程师尹一峰，将在本次大会上发表题为《RAG 基本范式的选择与系统设计》的演讲，他将深入探讨基于语义搜索（Semantic Search）的 RAG 系统的重要性，揭示它为何在当前技术背景下被严重低估。

另外，他也将讨论分析语义搜索的本质及其在 RAG 系统中的关键作用，并分享如何基于这一本质设计出高效的系统架构。同时，还将讨论 KG 驱动的 RAG 系统，并指出它并非适用于所有数据类型，帮助听众理解如何根据不同的数据特性选择最合适的 RAG 范式。

精彩分享三

RAG 目前在很多生成式 AI 产品中已经得到广泛应用。当前 RAG 的构建方式呈现多样化发展，对底层数据引擎提出很多新的挑战。

火山引擎技术专家田昕晖的演讲《云数据仓库 ByteHouse 架构下的 RAG 技术实践与性能优化》，则将重点探讨如何在云原生数据仓库架构中设计和实现 RAG 相关技术，并介绍一些复杂 RAG 场景中的应用和实践经验。

精彩分享四

虽然，RAG 已在许多生成式 AI 产品中广泛应用。然而，构建企业级的 RAG 系统仍然面临诸多挑战。首先，应用场景多样化：系统需支持处理结构化和非结构化文档，满足多模态问答需求，并整合不同工具，以适应多种业务场景。其次，系统优化难题：文档解析、文本切分、查询改写、检索优化、重排序、生成等多个算法模块需要高效协同，以提升整体性能。最后，企业级能力集成：RAG 系统需具备高可扩展性、良好的可观测性，并支持知识库的持续迭代与更新。

在本场专题下，阿里云高级技术专家费跃将带来演讲《构建企业级 RAG 系统的创新实践》，分享阿里云 PAI 团队在构建企业级 RAG 服务方面的设计理念与实践经验，希望与大家共同探索、持续进步。

想了解更多 AICon 大会的精彩内容，或亲临现场与同行进一步探讨 RAG 应用经验，欢迎扫描下方海报二维码咨询👇🏻 或进入大会官网查看