AICon 上海站|90%日程已就绪,解锁Al未来! 了解详情
写点什么

大模型时代,架构师们应该关注些什么?

  • 2024-03-19
    北京
  • 本文字数:2372 字

    阅读完需:约 8 分钟

大模型时代,架构师们应该关注些什么?

2024 年注定是 AI 热度持续上升,应用落地加速深化的一年。在这个过程中,为匹配前端交互模式变化,适应日益复杂的业务需求,背后的架构也必然迎来新一轮革新。


比如,在基础架构层,为支撑 AI 复杂任务,容器等云原生技术将出现短板。目前,深度学习、大数据处理等数据计算密集型任务已经广泛采用容器、Kubernetes、微服务等一系列云原生技术,但这些任务的计算规模和复杂度远比 Web、微服务等互联网应用要高。为了支持这类工作负载,Kubernetes 就需要做很大的增强,包括核心调度、异构资源统一管理、利用率优化、可观测性、故障诊断和自愈等,甚至整体的架构和生态都需要做很多增强。


比如,在运维层面,结合 AIGC 与 AGI 的发展趋势来看,AIOps 智能化运维方面的探索已过渡到参考自动驾驶的 L0-L5 成熟度模型来度量的阶段 ,这使得行业开始从整个软件的全生命周期来思考 AI 的赋能和提效。这些前期的探索和畅想仍然强调了开发过程的标准化和资源的平台化,要求整个软件研发过程都能够友好地与 AI 协同工作。


同时,以 AIOps、知识库与问答机器人、流程机器人、代码生成等为代表的应用场景将进一步得到深化和拓展,为整个软件工程行业带来效率提升;至于软件研发模式方面,短期内依然会保持现状,但我们不得不在软件设计方面考虑到面向 AI 的 API。


在这个过程中,架构师就像是整个系统的设计大师,负责操刀整个系统架构的规划。这个规划不仅仅包括技术选型、架构模式、演进变化,还得考虑业务需求、团队能力、可运维性、成本等一系列不那么技术的要素。可以说,在大模型时代下,架构师们面临着前所未有的艰巨挑战。


基于这一背景,InfoQ 旗下 ArchSummit 全球架构师峰会年度主题将围绕“智能进阶. 架构重塑”,探讨在 AI 浪潮下,企业架构如何适应大模型时代趋势。


在 6 月 14 日 - 6 月 15 日即将举办的 ArchSummit 全球架构师峰会(深圳站) 上,我们策划了多个与大模型相关的专题论坛,邀请各界专家分享他们的实践经验和前沿探索。


面对大模型训练对于底层算力基础设施提出的更高要求,如更大的带宽和低时延的网络,并行计算加速及开发框架,分布式算力与大内存等,智能计算平台基于独有的网络架构 (如 IB,RoCE 等),独特的虚拟化方式 (基于虚拟机 / 容器的 GPU 虚拟化),独特的算力调度平台,海量的并行存储系统等成为企业的选择。


《智算平台建设与应用实践》专题中,我们将邀请来自 vivo 研究院等机构的智算平台领域专家,分享构建智算平台的技术要点,以及在实践和落地过程中所作的优化和踩过的坑。



监控运维产出的海量数据常受数据质量波动、标注不足和链路上下文信息缺失等问题影响,这些挑战为 AIOps 的应用带来了不小的难题。伴随 LLM 的崛起,业界对其在多模态数据理解和处理上的能力抱以厚望,期待 LLM 能优化 AIOps 在数据理解、关联和交互体验上的表现。


《AIOps 业务场景最佳实践》专题中,我们将聚焦 AIOps 在不同业务场景中的实际成效,比如“如何通过 AIOps 推动可量化的业务价值增长和效率提升”等话题,邀请来自腾讯文档、网易云音乐、群核科技、字节跳动、阿里云等企业的技术专家,分享他们在实际业务场景中利用 AIOps 提升业务效能时遇到的难题、挑战、以及他们的解决方案、模型、架构,和取得的可度量的业务价值。此外,我们还将探讨 LLM 时代下 AIOps 的创新架构,以及 LLM 如何为 AIOps 带来新的变革和潜能。






数据与人工智能的关系密不可分,缺少数据的模型算法只是一副空壳。在 《Data 4 AI 和 AI 4 Data 方面的探索和实践案例》专题 中,我们将探讨数据与人工智能相互驱动的关系。分享在构建数据驱动 AI 系统时的最佳实践,包括数据质量管理、特征工程、数据增强等方面的经验。这里面还涉及到数据结构和数据治理、数据保护、数据管理优化等具体实践,以及超融合数据架构在 AI 应用上所做的设计及优化。


来自百度、Uber、eBay、ProtonBase 小质科技、货拉拉等企业的技术专家,将带来他们各自领域内的探索和实践。






深入场景应用,为企业业务带来实际价值,是大模型技术的“最后一公里”。在 《基于大模型应用层的探索》专题中,我们将探讨如何从应用层面充分发挥大模型的优势,挖掘其潜在的巨大价值。涵盖从选择适合的大模型,到对这些模型进行精细化的性能调优等内容,带领大家一步步理解大模型的运作机制和应用技巧。


此外,我们也关注大模型的集成与部署策略。如何将大模型嵌入到现有应用中,如何才能让它们在实际环境中发挥最大的效益,这些都将专题讨论的重点。


与此同时,大模型与现有系统的协同运作也尤为关键。我们将探讨如何打破大模型与现有系统之间的边界,构建最优化的互动模式,让大模型和现有系统无缝对接,以创造更大的价值。


来自华为云、腾讯云、平安壹钱包等企业的技术专家将通过这个专题,和大家一起探索大模型在应用层面的无穷可能。




当然,我们相信,未来 AI 在架构领域的应用也会逐渐增多,包括 AI 辅助设计、决策支持与建议、智能监控等方面,从而提高架构设计的智能水平。对于架构师而言,不但要学习如何设计出能够满足 AI 需求的技术架构,同时,还要学会与 AI“相处”,让 AI 为自己所用。


因此,我们同样关注技术人成长,研发技能、管理技能提升。在 《架构师顺应时代变化的成长之路》专题中,来自各个领域的专家将分享他们的亲身经验,帮助大家根据自身的条件和兴趣做好职业规划,发展自己的技能图谱,找到属于自己的路,相信会引起很多技术人的共鸣。


除此之外,大模型基础框架、LLM 作为新一代 OS 的探索、AI 大模型中台实践探索等与大模型紧密相关的专题也在持续筹备上线中,如果你感兴趣来会议上演讲,欢迎点击链接进入 ArchSummit 会议官网,提交议题:https://archsummit.infoq.cn/2024/shenzhen/topic


会议现已进入 8 折早鸟购票阶段,可以联系票务经理 17310043226 , 锁定最新优惠。欢迎扫描上方二维码添加大会福利官,免费领取定制福利礼包。

2024-03-19 16:109271

评论

发布
暂无评论
发现更多内容

大型企业数智化关键举措太难懂?这本数智平台白皮书带你秒理解

用友BIP

白皮书 数智平台 平台白皮书 数智平台白皮书

NineData,稳定、高效的Redis数据同步解决方案

NineData

redis 数据同步 迁移数据 数据同步工具 NineData

什么样的企业需要建设财务共享服务中心?

用友BIP

财务共享

硬核!阿里P8呕心沥血5年总结的Java面试速成手册开源一天上榜首

Java你猿哥

Java 微服务 算法 多线程 ssm

SpringBoot升级所踩过的坑(一)

技术小生

6 月 优质更文活动

公司大规模裁员的时间轴

HoneyMoose

二级等保堡垒机用哪个品牌好?理由是什么?

行云管家

网络安全 等保 堡垒机 等级保护

云管理用哪家云管平台厂商好?从哪些方面来看?

行云管家

云计算 云资源 云管理 云成本

带你走进大数据 | 写给小白的大数据指南

Data 探险实验室

大数据 数据分析 数据处理 数据存储 数据发展

阿里工程师手打的MySQL学习笔记,轻松拿捏MySQL

小小怪下士

Java MySQL 程序员

Ambient Mesh:Istio 数据面新模式

华为云开发者联盟

云原生 华为云 华为云开发者联盟 企业号 6 月 PK 榜

亿视电子基于PolarDB-X打造能源数字基座实践

阿里云数据库开源

MySQL 数据库 分布式 阿里云; PolarDB-X

中国振华刘昕:携手用友打造电子行业的数智化平台,服务全行业

用友BIP

2023用友BIP技术大会

Maven Could not find artifact com.ruoyi:ruoyi-framework:pom:3.8.5 in public

Andy

NFTScan | 05.29~06.04 NFT 市场热点汇总

NFT Research

全面数据管理 DBeaverUltimate最新中文安装包

真大的脸盆

Mac 数据库管理工具 数据库管理 Mac 软件 管理数据库

财务共享管理体系助力企业卓越发展

用友BIP

财务共享

软件测试/测试开发丨App自动化测试学习笔记

测试人

程序员 软件测试 测试开发 app自动化测试

5分钟在k8s上可视化搭建Kylin5

CloudEon开源

大数据 开源 云原生 kubernetes 运维 Apache Kylin

LED广告牌企业的突破点在哪?

Dylan

技术 分辨率 LED LED显示屏 led显示屏厂家

如何减少创建订单、支付等线上写场景漏测?去哪儿流量录制回放实践

TakinTalks稳定性社区

测试同学职场成长的核心认知

老张

职场成长 认知

MySQL对derived table的优化处理与使用限制

GreatSQL

MySQL greatsql社区

MySQL Router高可用搭建

GreatSQL

MySQL 高可用 greatsql社区

软件测试/测试开发丨App自动化测试学习笔记分享

测试人

程序员 软件测试 测试开发 app自动化测试

后疫情时代,国际形势向好,企业出海如何把握风险管控?

用友BIP

中企出海

供应链中台管理系统开发私有化部署

薇電13242772558

供应链 管理系统

Simple Date Format类到底为啥不是线程安全的?

华为云开发者联盟

后端 开发 华为云 华为云开发者联盟 企业号 6 月 PK 榜

降本增效,StarRocks 在同程旅行的实践

StarRocks

数据库 大数据 数据仓库 湖仓一体 大数据 开源

基于STM32+华为云IOT设计的智能温室大棚监控系统

DS小龙哥

6 月 优质更文活动

手把手实践丨基于STM32+NBIOT+华为云IOT设计智能井盖

华为云开发者联盟

云计算 华为云 华为云开发者联盟 企业号 6 月 PK 榜 智能井盖

大模型时代,架构师们应该关注些什么?_架构_ArchSummit_InfoQ精选文章