9 月 20 日,浪潮信息边缘计算合作伙伴大会在安徽举行。浪潮信息提出,未来,一切计算都将具备 AI 的能力,智能应用特别是生成式人工智能应用正在企业边缘侧加速落地,驱动边缘计算向边缘智算演进。
边缘智算是 AI 在行业和企业应用落地的关键。浪潮信息将依托融携实验室加强与伙伴的联合创新,实现边缘 AI 解决方案从 0 到 1 的创新,并与伙伴共同发起“边缘共行者计划”,面向多样化的边缘场景,发布多项边缘智算解决方案,通过对定制化方案的标准化开发,推动优选解决方案在千行百业的批量化落地。同时,面向边缘智算变革,浪潮信息在会上宣布全面升级边缘智算产品家族矩阵,四大算力平台全线支持多元 AI 算力,三大软件栈朝向更智能的方向演进,为边缘 AI 创新提供全栈、极致、智能、开放的边缘智算底座。
浪潮信息边缘计算产品部总经理 孙波
一切计算皆 AI,边缘计算向边缘智算演进
基于生成式 AI 所展开的全面创新,正推动 AI 算力渗透进每一个计算设备里,这种变革不仅发生在云端,更发生在边缘侧。据 Gartner 预测,到 2026 年,全球 80%的企业将在其业务中引入生成式 AI,其中边缘场景下的 AI 普及率将达到 50%,AI 将成为边缘场景的重要负载。
浪潮信息边缘计算产品线总经理孙波认为,边缘 AI 让智能更接近设备本身,提供低延时、更安全、更强数据隐私保护的智能算力,边缘计算到边缘智算的迈进将重塑企业的业务模式、运营模式。
事实上,边缘 AI 正展现出巨大的商业价值,比如智能制造场景中,AI 大模型和机器人的结合成为新的应用趋势,边缘服务器能够在数据产生侧支撑不同参数量的大模型运行,提供本地私有化的部署,提高各类机器人的响应速度和工作效率;在自动驾驶场景中,边缘 AI 可以提供实时的数据处理能力,使系统能快速响应环境变化并做出恰当决策,从而提高驾驶的安全性和可靠性……边缘 AI 所带来的变革将深刻影响到每个人。
与此同时,生成式 AI 也带来新的技术转折点,驱动边缘算力升级。随着 AI 大模型的行业和企业落地,基础大模型的“通用泛化”与“专业精细”并行发展,一方面,基础大模型的参数规模会越来越高,泛化能力越来越强;另一方面,大模型可以结合行业和企业独有的知识库、流程和数据资源,分化为行业大模型或企业大模型。边缘计算承载行业大模型,不仅可以保证私有数据的调用安全,降低云端微调或推理的成本,还可以降低网络延时,满足用户个性化的表达需求,这推动了边缘计算向边缘智算的变革。
“边缘共行者计划”启动,发布多项边缘智算解决方案
千行百业的边缘计算应用场景多种多样,在推动边缘计算与人工智能应用融合落地的过程中,面临产业和技术链条不相匹配、系统间相互独立,生产环境中存在大量不同种类的设备、协议和应用程序,设备接口难统一等问题,需要构建更加标准化、模块化的产品方案推动产业链上下游的联合创新落地。继去年发布融携实验室之后,浪潮信息在本届大会上携手伙伴共同启动“边缘共行者计划”,通过资源共享、联合创新等方式,实现边缘 AI 解决方案从定制化到标准化,推动边缘 AI 在千行百业的批量化落地。
融携实验室解决的是边缘 AI 解决方案从 0 到 1 的问题,而“边缘共行者计划”的使命则是打通从技术、产品、生态和商机的全链条,连接浪潮信息内部专家圈、行业专家圈、生态资源圈,通过创新要素的共享共创,推动标准化的解决方案,释放生态的商业价值。
伴随“边缘共行者计划”的启动,浪潮信息携手伙伴发布多项共行者产品方案。百度智能云、金风慧能、河北工程大学、运营商代表等伙伴,现场分享了百度智能云一见视频 AI 一体机,新能源无人化场站解决方案,水网智慧调控一体机,通算智接入网一体机解决方案。这些方案从融携实验室共创的上百个边缘计算解决方案脱颖而出,将加速能源、水利、通信、制造、交通等行业的边缘 AI 业务部署。
百度智能云工业产品部总经理朱名发表示:“浪潮信息与百度智能云结合双方在边缘计算和视觉 AI 领域的技术优势,打造了百度智能云一见视频 AI 一体机,其集成了浪潮信息领先的边缘算力底座及百度智能云一见视觉大模型平台,内置数百种场景化模型和训练产线,低门槛即可训练出百度原厂效果视觉 AI 模型,通过多模态大模型可快速低成本满足碎片化需求,越用越准,广泛适用于矿山、电力、水务、港口、化工、钢铁和连锁等众多行业,让专业级视觉 AI 应用落地平民化,助力企业实现基于视觉智能的管理数字化。
金风慧能高级解决方案经理张演表示,新能源无人化场站解决方案以浪潮信息新一代服务器产品、软硬件一体化超融合设备、边缘计算产品等作为基础设施平台,通过金风慧能自主研发的 GW SCADA Server 新能源集中监控软件平台,全面打造新能源企业一体化智慧运营平台,进一步加速推动新能源企业向“无人值守”运营模式的转型。
孙波指出,应用是中国发展人工智能的机会。面向多样化的边缘 AI 应用场景,浪潮信息将基于边缘共行者计划,加速 AI 在制造、水利、能源等千行百业的边缘侧落地,通过产业协同创新,加速智慧化边缘方案从定制化走向标准化,实现规模化应用。
产品矩阵全面升级,重磅发布边缘大模型一体机
面向边缘智算变革的全新场景化需求,浪潮信息宣布全面升级边缘计算产品矩阵,边缘微中心、边缘服务器、便携 AI 服务器和边缘微服务器四大算力平台全线支持多元 AI 算力,缘脑、缘视、缘智三大软件栈将持续智能增强,为边缘 AI 创新提供全栈、极致、智能、开放的边缘智算底座。
浪潮信息边缘计算产品部高级产品经理 刘香男
刘香男在分享中也谈到,生成式 AI 和大语言模型带来了 AI 技术发展的转折点,加速了通用人工智能(AGI)时代的到来。大语言模型的发展既朝着通用、泛化的方向,也向专业、精细的方向进化。基础大模型具有多模态支持和强泛化能力,展现出巨大的潜力。同时,边缘计算具有响应更快、时延更低和成本更低的优势,尤其在保护用户数据隐私安全方面优于云端计算。通过边缘计算与行业大模型的结合,能够满足企业个性化需求,提升了 AI 在行业中的落地应用效果。虽然边缘计算面临四大挑战:算力需求多元、环境复杂、管理难度高及生态封闭。但针对这些挑战,浪潮边缘计算提出了“全栈、极致、智能、开放”的产品理念,提供全栈产品布局,并在架构灵活性、环境适应性以及智能算法方面进行优化,推动边缘计算和大模型应用的融合与升级。
在产品全面升级的同时,浪潮信息重磅发布首款边缘大模型一体机,为客户开发和部署边缘 AI 应用,提供开箱即用、训推一体、软硬协同的全栈式边缘智算平台。此次发布的边缘大模型一体机基于元脑 NE5260G7 边缘服务器,具有多元多模、开放全栈、开箱即用、安全隐私等特点,支持适配多种异构加速芯片,支持多种主流及垂直领域大模型部署、融合了开放的标准软件堆栈,可提供低时延和高性能的边缘推理算力。
而面向当前边缘 AI 落地最快的自动驾驶场景,浪潮信息发布自动驾驶分布式计算框架 AutoDRRT 2.0,针对 BEV+Transformer 的大模型车端落地的挑战,在计算组件的分布式、高容错及低延时三个核心特点进行技术革新,并实现计算方面,BEV 模型扩展效率提升 1 倍,通信方面,较以太网性能提升 14 倍,IO 方面,GPU_Direct 模式将延时下降 85%,效率提升近 6 倍,加速大模型上车。
最后,刘香男也谈到了开放,浪潮信息一直在边缘产品设计上坚持开源开放的理念,边缘服务器开源开放的架构设计包括相关的产品创新,一直在以开源开放引领边缘硬件设计。
数据显示,作为最早布局边缘计算的算力基础设施提供商,浪潮信息边缘计算服务器连续 4 年蝉联中国第一,2023 年市占率 48%领跑中国市场。随着边缘计算与人工智能等技术的更进一步融合,浪潮信息将持续完善边缘智算产品及方案,引领边缘计算产品标准和生态建设,推动人工智能在工业互联网、车路云一体化、智慧城市和智慧医疗等应用场景的快速落地。
评论