近日,腾讯云在 2024 腾讯全球数字生态大会互联网 AI 应用专场上公布了最新的 AI 原生云产品服务。云+AI 基础设施已成为企业智能化转型的关键支撑,但企业在尝试 AI 时,也面临包括算力、算法开发和专业人才的挑战。
腾讯云副总裁许华彬在开场致辞中表示,“RAG 结合企业自有知识,无需企业花费较多人力和算力,以及对大模型 SFT 精调,是当前企业级 AI 应用落地的成熟方案。近期来多行业场景的 AI Agent 蓬勃发展,面向C端的原生应用,以及 B 端企业级业务流程自动化,将成为后续应用落地的主要方式。”
随着大模型深入应用于各行各业,各行业对大模型的要求也更为精细。腾讯混元大模型算法负责人康战辉在演讲中提到,算力更强、效果更好、应用成本更低的大模型才符合当下需求。相比前代模型,最新发布的旗舰大模型“混元 Turbo”性能有显著提升,训练效率提升 108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%。除支持通用大模型能力外,腾讯混元 Turbo 也支持角色扮演、FunctionCall、代码生成和 AI 联网搜索等领域能力。
目前,腾讯混元在腾讯云上提供了多种尺寸的模型服务,通过 API、专属模型、精调模型等接入和使用方式面向企业及个人开发者全量开放。
金蝶中国副总裁、研发平台总经理李帆介绍了金蝶 Cosmic 一体化企业级 AI 解决方案等与腾讯云的系列合作成果。基于腾讯混元大模型,金蝶招聘可实现 5 分钟招聘需求生产以及简历初筛,招聘效率提升 90%。基于腾讯云 TI 平台,结合高性能计算集群与星脉网络,金蝶训练财务大模型效率提升 30%。
在协同办公领域,腾讯文档 AI 负责人 TONY TANG 分享了腾讯文档 AI 在全品类文档生成、跨品类信息处理、一键式智能交互方面的优势。目前,基于腾讯混元大模型能力,腾讯文档 AI 智能助手已全面应用于文档、表格、幻灯片、PDF、智能文档、收集表、思维导图等文档类型,涵盖了文本内容秒级处理、函数公式运算应用、表格数据精准呈现、PPT 快速生成美化、收集结果自动分析、思维导图一键生成等多项能力,并支持跨品类文档内容流转。
在消费领域,值得买科技 CTO 王云峰分享了值得买科技 1 个“值得买消费大模型”,“商品库”和“内容库”2 大数据库,AIUC 分析引擎、AIGC 生成引擎和 AGENT 调度引擎 3 个应用构建框架,以及提供针对性的 AI 解决方案的 4 类应用 AI 战略。
针对云基础设施,王云峰分享了值得买科技依托腾讯混元大模型等理解语音、视频、图像的多模态数据,以及自购算力+多云算力的模式。目前,值得买科技已可实现 10 亿+条商品库与近百亿条内容库的数据处理和迅速进行模型训练和推理部署,而通过腾讯云容器场景 GPU 虚拟化,什么值得买也实现了对单个 GPU 的更细粒度划分,大大提升了资源利用率减少资源和人力的消耗。
燧原科技副总裁任树峰表示,通过腾讯云保障燧原的峰值算力供给,燧原验证、benchmark 测试效率从 2 周准备环境缩短至 30 分钟,提升作业并发 100%、缩短仿真周期 30%。
在文娱领域,猫眼娱乐副总裁徐晓分享了基于腾讯云数据传输、数据存储安全方面能力打造的猫眼渲染平台的全程云端制作与渲染提升案例。依托腾讯云,猫眼娱乐的大数据平台,可实现日均 3 万+离线数仓调度任务稳定运行,核心任务执行效率提升 20%。
趣丸技术保障负责人刘亚丹分享了 AI 大模型赋能软件研发提质增效的实践。借助腾讯云提供的丰富能力,趣丸在代码 Review、编码、测试等环节实现效率提升,在 AI 辅助编码方面,代码采纳率 30%+;AI 辅助代码 Review 方面,bug 有效性 60%+,AI 辅助测试用例生成方面,测试用例行采纳率 40%+,运维数字员工方面,问答解决率 45%+。
AI 原生云平台助力快速部署 AI 应用
基于 AI 大模型,更多 AI 应用得以迅速落地。但作为 AI 应用的底座,大模型对算力的需求正在呈指数级增长,数据集规模持续增大也对数据清洗甄别提出了更高的要求。同时,数据无偏见,图片、影像、音频是否安全合规,使用成本是否可控等,都是使用大模型时需要考虑的问题。
从 AI 应用落地面临的挑战出发,腾讯云行业架构副总监邱浩基于腾讯云 AI 全栈解决方案,从基础设施层、模型层、模型加速层、机器学习平台层、应用平台层和业务应用层阐述了腾讯云在计算、存储、网络,一站式 AI 开发平台腾讯云 TI-ONE 以及云原生产品等方面的能力,并给出了对应不同阶段 AI 应用开发的具体方案。
智谱企业商业技术中心总经理柴思远表示,腾讯云算力集群搭配自研的星脉网络,有效提升了多机并行训练速度。其中,星脉网络通过自研交换机和通讯协议,为每台 GPU 服务器提供 3.2T 的交互带宽,实现 40us 内的拥塞控制和 0 丢包。此外,腾讯云为智谱 AI 提供高自愈能力的算力集群,全局监控,一站式掌握 7*24 小时运行状态,支持故障自动监测与恢复,保证任务连续进行,其中任务自愈时间从 2 小时缩短至 5 分钟,集群自愈时间从 24 小时缩短至 10 分钟。
在大模型的助力下,AI 应用已覆盖互联网多个行业,在业务高效创新上展现出了更强势的产品力。会上,面向招聘、营销、文娱等多方面的 AI 创新应用也悉数亮相。
招聘方面,猎聘技术副总裁、AI 中心负责人莫瑜表示,与腾讯云共同探索高度自动化的数字助理,针对不同职类主动挖掘招聘需求,简化工作流程,提升候选人寻访效率;自动化候选人面试环节,降低人才遴选成本。
在营销领域,筷子科技 CEO 陈万峰展示了基于腾讯云的迁移工具 MSP、腾讯云容器服务 TKE 和中间件、腾讯云高性能文件存储 CFS Turbo,在数据迁移、弹性伸缩扩容应对高并发,文件存储以及上传下载对应解决方案,实现了 AIGC 一体化平台在编导、拍摄、剪辑、投放、管理方面工作流性能提升 240%。
腾讯新闻内容治理中心负责人陆毅然表示,腾讯新闻与 AI 大模型结合后,提供评论识别的 AI 应用、新闻 Push“AI 编辑”、新闻“划重点”、AI 助手“新闻妹”等能力。通过 AI 在新闻内容精选、编辑、评论治理等多个的运用,新闻类产品内容生产效率和用户体验同步提升。
腾讯混元高级 AI 策略产品经理张汉策以《长相思 第二季》中的角色 AI 为例,介绍了腾讯元宝如何与影视 IP 进行深度结合。此次《长相思》角色 AI 基于腾讯自研混元大模型的能力,训练了专门的角色模型。同时,基于多轮对话能力,实现了持续、实时、个性化对话,并采用音色克隆的技术,高度还原角色原声,建立了与粉丝真实且长久的联结。
截至目前,腾讯云 AI 产品已覆盖超过 400 家互联网头部企业,累计服务超过 12 万家互联网客户。
评论