Scaling Law 作为新时代的摩尔定律,让大模型的能力每 1-2 年就能提升一代。未来 10 年,AI 将成为 GDP 的最强驱动力,并带来岗位的合并,如 UX、UI 的合并,前端和后端的合并。大模型正掀起一场技术平权。在不久前举办的AICon 全球人工智能开发与应用大会上字节跳动飞书多维表格 AI 技术负责人邓范鑫做了专题演讲“AI 时代,人人都可以是 AI 产品经理”,从对大模型及 AI 的展望入手,讨论了 AI 时代技术人才的发展之路与产品之道。
12 月 13-14 日,作为全年系列大会的收官之站,2024 AICon 全球人工智能开发与应用大会将在北京举办!本次大会将继续聚焦人工智能的前沿技术、实践应用和未来趋势,比如大模型训练与推理、AI agent、RAG、多模态大模型等等......精彩议题正陆续上线,欢迎访问链接查看详情:https://aicon.infoq.cn/202412/beijing/
飞书专注于 ToB 领域,这与 ToC 市场截然不同。在 ToC 市场,你可以通过创造一些有趣的东西来吸引用户,从而获得一定的用户基础。然而,在 ToB 领域,如果不能提供实际价值,企业就不会采用你的产品,因为企业的需求是非常实际的。我们并不是一开始就推出了一个成功的 AI 产品,实际上,包括字节跳动在内的许多公司在初期都对下一步的发展感到迷茫。
今天的分享主要介绍飞书在过去一年中摸索出来的经验。在这一过程中,我们尝试了许多事情,比如涉足一些特别复杂的场景,或者尝试去做 AI 不擅长的事情,但最终都遇到了困难。随着时间的推移,我们逐渐意识到,我们最终产出的产品并不是最初设想的那样,而是通过实践得出的结果。因此,今天的演讲主要围绕 AI 时代的产品思考,探讨在大型模型出现后,我们应该开发什么样的产品。
飞书在最初开发产品时就有一个基本原则,那就是必须基于产品开发,不允许任何外包项目。你会发现飞书内部很少有大规模的外包团队或解决方案团队。我们更多的是围绕用户需求,不断迭代产品,确保产品具有可复制性。因此,找到与 AI 结合得好的产品,是过去一年中我们面临的最大挑战。
今天讨论的主题是 AI 时代的技术,特别是大模型应用的落地问题。这与以往的技术有着显著的不同。在过去,软件工程是一个确定性的体系,产品经理能够构想出产品,并且只要能够设计出来,通常就能够实现。因此,传统的流水线或瀑布流的开发模式是有效的。但现在的情况已经发生了变化,尤其是在我们探索产品落地的过程中,技术的话语权大大增加,对产品经理的要求也随之提高。产品经理必须对大模型技术有深入的了解,如果连基础的 RAG 或 Agent 技术都不熟悉,那么他们很难设计出适应大模型时代的优秀产品。
我们今天的讨论将围绕三个主题展开。第一部分是大模型落地策略,分以下三步。首先,我们要探讨的是如何使产品准备好迎接大模型的应用。产品需要达到什么样的状态,才能更好地融入大模型。其次,我们将讨论基于这种落地策略,模型应该进入哪些场景中去创造产品。最后,我们会探讨 AI 技术的引入在哪些场景中能带来高价值,而在哪些场景中可能并不具有高价值。有些场景虽然看起来很有吸引力,但实际上用户并不愿意为之付费,这些都是我们过去一年的经验教训。
第二部分,我们将基于第一部分的讨论,展示一些非常生动的案例。这些案例都是目前在客户中非常受欢迎的功能。我们已经探索了许多方向,今天列出的都是最受欢迎的一些特性。
第三部分,我们会讨论基于这样的产品演进逻辑,未来无论是技术还是用户,包括企业在产品发展路线上,需要如何组织、培养人才,以及每个人应该如何发展和改变自己。今天的讨论题目最初是“人人都可以当产品经理”,后来有所调整,我们可以思考,如果人人都可以成为产品经理,那么背后的技术是否就不再重要了?
吴恩达强调了 AI 自定义系统 在 ToB 领域中的重要性,这是一个常被忽视的领域。在各行各业中,存在着大量价值在 50 万美金以下的系统需求。这些系统因为规模较小和成本问题,往往难以找到企业愿意开发,但它们在企业的日常运营中又是必需的。这些系统的需求通常因为实现难度大而无法得到满足,导致企业不得不依赖增加人力或其他方式来解决问题,这无疑影响了企业的效率。相比之下,那些高价值、需求明确的系统,如广告、搜索和推荐系统,一旦开发完成,就能创造巨大的经济价值,因此吸引了大量的投资和研发资源。
AI 的出现为这些被忽视的长尾需求带来了转机。AI 技术有能力实现这些小规模、高度定制化的系统。例如,特定领域的食品检验、农作物分析或材料分级等,这些通常需要高昂成本去开发和训练模型的系统,现在可以通过 AI 来实现。AI 的介入使得这些原本因为成本和技术门槛而被忽视的领域,有了被开发和应用的可能,从而提高了整个行业的效率和创新能力。
大模型落地策略
在飞书内部有代码、无代码和低代码等不同赛道的划分。我们观察到一个趋势,即这三者最终都将在 AI 时代汇聚到无代码赛道 。这意味着,以往需要人工编写代码来实现功能的场景,将被 AI 打破,未来都可能由 AI 自动填充,不再需要中间的开发过程。
为了达到 AI 时代的完全无代码,我们提出了一个概念,即“AI-Ready”,这涉及到你的产品矩阵是否准备充分。如果从零开始,很多人可能会选择 AI 原生的开发方式,比如直接开发聊天机器人。但在飞书的场景中,我们探索的第一步是如何基于现有的产品矩阵进行演进。我们发现,基于现有产品进行演进是非常务实和可落地的,而 AI 原生的设想则更多地被放在了长远的或实验性的探索中。
飞书目前落地的场景都是基于现有产品矩阵发展的。飞书之前已经建立了像知识库这样的文档系统,这相当于企业的所有数据都集中到了这个平台上。然后,用户为了方便加工和处理,数据也会进入多维表格这样的结构化数据承载引擎中进行加工、分发和处理。这样,企业的结构化数据也进入了这个平台。再之后,随着大模型的出现,包括字节内部的模型和外部的模型,为 AI-Ready 提供了强大的支撑基础。在此基础上,我们可能会构建像 Agent 这样的平台,然后基于这些进行不同场景下的产品化封装。
我们有一个三步演进逻辑:第一步是数据治理,即为了让大模型的应用落地,我们需要做哪些准备工作;第二步是设想 AI 进入后能够在哪些场景中落地;第三步则是探讨什么是高价值的 AI 场景。这个逻辑背后的思路是,首先确保数据治理到位,然后考虑 AI 如何在不同场景中实现落地,最后评估哪些场景能够带来最大的价值。
数据治理
在数据治理方面,我们可以参考《通往 AGI 之路》团队的做法,他们的知识库非常受欢迎。受到他们的启发,飞书推出了飞书社区功能,允许用户将所有知识以公开的形式整合到飞书文档体系中。这些知识以文档和多维表格的形式,结合了结构化和非结构化数据,被高效地整理和呈现。
这样整理之后,可以再建立一个对外的搜索引擎,用户可以直接 @机器人来搜索相关的知识或问题,并且能够得到有效的回答。这种模式的效果是显著的,因为它展示了当数据被集中管理时,AI 的引入将变得更加容易和高效。特别是在企业领域,私有数据的价值可能比公有数据更大。与 ChatGPT 这样的服务不同, 企业服务能够利用企业内部的数据,为智能服务提供坚实的基础 。
我们认为,如果一个系统提前做好了开放和结构化数据的准备,即所谓的 AI-Ready,那么 AI 的价值就能得到很好的发挥。最理想的情况是企业能够将数据和知识有效地组织在基础系统中,这样就有了一个良好的数据基础平台,AI 的作用就能事半功倍。
例如,对于结构化数据丰富的企业,将内部数据以结构化形式存储到表格中,并进行良好的权限控制,这就为 AI 应用提供了一个很好的起点。一旦这些数据被整合,产品体系就能在各种灵活的角度发挥作用。例如,许多制造业或服务业的工作人员需要使用手机录入数据,这些数据可以自动进入结构化体系。随后,整个管理流程和业务流程,包括审批,都可以基于这些结构化的业务系统进行。在这种体系下,引入的 AI 能力可以在人员上报信息后,直接对提供的文字信息进行结构化解析。解析后得到的结构化数据可以直接转化为仪表盘,呈现给管理者。这样的过程在过去可能需要人工开发系统,以及一线人员手动录入信息。但现在整个过程可以实现无人化:信息以非结构化形式输入,然后自动进行结构化处理,再由 AI 处理,最终生成管理看板。
AI 落地的场景
为了让 AI 有效地融入我们的工作流程,我认为一些基本的产品特性和生态能力是至关重要的。去年,随着 AI 的引入,我们探索了许多可能的方向,但最终我们发现,只有那些得到用户认可的方向才是真正落地的。比如在企业场景下的“工位接入”,这是 AI 对应人类基本能力的一种逻辑,即如何将人类原本需要完成的各种小任务集成到生产和业务流程中。
我们的产品特性和逻辑是这样演进的:首先,AI 像一个同事一样,能够参与到所有场景中,完成人类原本需要做的、相对简单的任务。随着模型能力的增强和 Agent 技术的提升,AI 将能够参与更多复杂任务,从而引入更多的产品特性。目前,飞书上的许多 AI 功能还处于早期阶段,但随着技术的进步,这个空间将会不断扩大。目前的功能例如,信息总结、会议总结和日常工作总结等,这些都是大模型擅长的领域,但以前通常需要人工完成。这些任务是典型的从 0 到 1 的高价值工作,现在可以通过 AI 来实现。
以搭建业务系统为例,比如使用多维表格这样的无代码工具,对于客户关系管理系统,虽然有门槛,但 AI 可以利用其专业知识来帮助搭建。用户可以告诉 AI 他们需要什么样的系统,AI 同事就会根据其专业知识帮助搭建这样一个系统,甚至包括基于该领域的仪表盘。虽然用户可能需要对初步搭建的系统进行一些调整,但这个基础框架已经达到可用状态,从而极大地提高了效率。
在考虑什么样的产品特性对用户来说具有高价值时,我们认为有两个关键点:高门槛和高成本。高门槛指的是那些用户自身难以掌握的技能,例如编程。在这种情况下,AI 可以帮助生成代码或搭建系统,这些是用户可能不具备专业知识的领域。在没有 AI 的时代,用户可能需要寻找专业的解决方案人员来实施。
当企业的知识库信息能够整合到系统中时,AI 的应用就可以基于这些知识发挥更大的效用。以知识库为基础,AI 可以在客服场景中发挥作用,因为所有关于客户和产品的信息都存储在知识库中,使得客服工作更加自然和高效。如果没有基础平台,比如使用 ChatGPT,用户就需要自己准备这些数据,这就是有基础平台和没有基础平台的差别。还有内部 SOP 场景,如晋升答辩,这些通常包含在内部知识库中。AI 可以理解和阅读这些文档,并将其转化为可用的能力。
即使在没有 AI 的情况下,知识库本身也能够运作。个人拥有隐性知识,即他们在业务上的理解。通过像飞书这样的文档体系和知识库体系,鼓励员工在文档上协作,这促使他们将自己的隐性知识转化为显性知识,例如将个人的思考和项目计划写成文档。这些个人的显性知识通过不断的项目实践和沉淀,逐渐成为组织内的显性知识,个人再从组织中学习,形成一个知识管理的良性循环。这种知识管理的飞轮不断推动知识的积累和应用,从而提升整个组织的效率和能力。
高价值的 AI 场景
知识是 AI 发挥作用的基础。一个企业如果拥有良好且完备的知识库,AI 就能在这个基础上提供更大的帮助。相比之下,如果一个企业的知识库几乎为空或混乱不堪,AI 的效用就会大打折扣。
AI 的价值体现在几个方面。首先 AI 能够解放人类的某些工作,尤其是那些简单、重复的任务。目前,我们还没有推出能够主动读取系统知识的 AI 产品,但我们可以设想,未来的 AI 可能会主动学习系统内的知识,并进行总结,甚至发现知识库中的矛盾之处,提出修改建议,从而推动知识体系向好的方向发展。例如,AI 可以帮助发现文档中未完成的任务,提醒用户完成。这样的 AI 不仅能够替代人类参与的工作,还能极大地扩展其应用的想象空间。
另一个有价值 AI 场景是批处理,这在企业落地中非常受欢迎。这里的关键词是“高成本”和“规模化”。以前的推荐算法更多地关注规模的个性化,而 AI 时代则可以实现个性化的规模化。这意味着每个人的需求都是独特的,AI 可以帮助实现个性化内容的批量生产。这种批量生成的能力是 AI 在企业中最有价值的应用之一,因为它解决了高成本问题。例如,原本需要 100 人 / 天完成的工作,通过 AI 可能一天就能完成,显著降低了成本,因此企业的付费意愿也很强。在海外,许多专注于批量场景的小企业也受到了资本的青睐,它们的融资额通常在千万人民币左右,比如企业通过提供批量生成图片、视频和文章的能力,解决了在内容生产上的高成本问题,因此具有很高的市场价值。
在企业应用中,批量生成文章相较于单一文章生成工具,效率要高得多。我们发现,企业用户更倾向于使用能够批量处理的系统,而不是单个处理的系统。为了满足这种需求,我们与许多专注于单一生成场景的企业合作,将它们的技术整合到我们的批量处理场景中。我们的开放平台吸引了许多从事 AIGC 单一场景的合作伙伴,但我们的平台化设计使得我们可以将这些技术引入到批量处理的产品中。
翻译场景虽然看似普通,但实际上非常受欢迎。传统的机器学习模型可能无法满足企业用户的个性化需求。例如,企业可能需要在特定语境下将某个词翻译成特定的专用词,通常的翻译软件难以实现。有了大模型,企业可以将这些个性化需求整理成知识库,并配置到 AI 系统中,从而实现个性化翻译。
另一个例子是通过第三方平台如 RPA,将美团或京东等平台的用户点评批量导入,然后一键翻译成目标语言。这样的批量处理能力,对于需要处理大量数据的企业来说,是一个巨大的效率提升。
门店巡检也是一个典型的批量处理场景。工作人员拍摄的大量照片,以往需要一张一张地进行识别,而现在可以通过批量识别技术一次性处理。一旦发现异常,系统可以自动触发流程,发送通知,大大提高了巡检的效率和响应速度。
大模型落地案例
产品能力应用到具体场景中,尤其是那些高价值的场景,能够展现出显著的效果。基于这样的产品考虑,我们与多个行业合作,共创了一些大型的客户案例,以展示产品矩阵在实际应用中的效果。
以“爸爸糖”为例,这是一个数字化转型较早的企业。过去,他们可能依赖于 Excel 进行大量的数据管理和复制粘贴工作。随着协同工作场景的引入,所有数据都集中到了一个平台上,使得数据更新更加及时,覆盖更加全面。基本的业务流程和数据管理都在这个平台上得到了实现。在这个基础上,AI 的引入带来了额外的价值。例如,评价系统可以通过 RPA 技术将各个平台的评价同步到多维表格体系中。之后,AI 可以直接进行分类、打标签和判断,比如评估客服回复是否专业,是否存在舆情风险,甚至自动生成 AI 回复。此外,AI 还能够从用户散乱的文本中提取和总结有价值的信息,生成洞察力强的看板,从而为数据洞察提供帮助。
第二个例子是一个游戏行业的客户,他们不仅使用了飞书,还展示了产品演进的方向,即如何利用各种 AI 技术手段将 DevOps 中原本需要大量人工操作的工作自动化。在过去,开发和运维团队需要手动创建和分析各种运维报表,这些报表中包含了关键信息,如异常和数据趋势等。
利用多模态大模型,他们能够实现以前难以做到的事情。以前,人们可能需要亲自查看报表来发现异常,但现在大模型能够自动完成这项工作。基于这一理念,他们构建了一个系统,首先将仪表盘的截图通过同步工具同步到多维表格中。他们发现使用多维表格进行管理非常方便,因此将截图同步到一个可管理的界面上。接下来,他们会调用多模态大模型来解析这些图片内容,寻找异常。这种应用展示了多模态大模型的价值,因为它能够替代人工查看各种复杂的图表并提供洞见。即使模型可能会有一些误判,这也是可以接受的,因为它减少了人工的工作量。一旦发现异常,系统就会进行提醒或预警。我们认为, AI 解决高成本和高门槛问题 ,是未来企业领域持续发展和创造价值的方向。通过这种方式,企业能够提高效率,减少对专业人才的依赖,同时保持对复杂数据的深入理解和分析。
AI 时代人才观
在 AI 时代,人才观和组织内部的人才结构正在发生深刻的变化。随着 AI 技术的发展,我们预见到未来在组织中的人才将趋向“ 一专多能 ”的趋势。这意味着,未来的人才不仅要在某一专业领域有深入的知识和技能,还需要具备跨领域的能力和灵活适应多变环境的能力。
从效率的角度来看,当前的大模型已经能够实现每秒生成 1000 个 token 的速度,但这只是目前的状态。展望未来,这个速度可能会提升到每秒上万个甚至几十万个 token。这样的进步将使得原本不可能或效率低下的任务变得可行和高效。例如,目前的 Agent 框架虽然能够提升效果,但执行速度慢,需要多次调用大模型并进行反思和迭代。如果未来模型的运行速度提升 10 倍或 100 倍,那么这些任务的执行时间将从小时级缩短到分钟级甚至秒级,从而使得 AI 能够处理更复杂的任务。
成本的下降也将是 AI 时代的一个重要趋势。随着技术的进步,上下文处理的长度和成本预计在未来一年内可能会大幅下降,可能降至当前水平的 1%。这将使得 AI 的应用场景在半年内可能出现爆炸式的增长。
在工作生产力提高方面,AI 目前的能力还相对有限。全球目前在这个方向上的投资高达 1000 亿美元,这是一场对 AI 未来潜力的赌注。人们预期 AI 将像过去 20 年的互联网一样,对 GDP 的增长做出重大贡献。假设在未来 15 年内全球 GDP 翻番,AI 可能会贡献其中的 10%。如果从这个角度看, AI 带来的 GDP 增量比历史上其他所有新技术加起来都要多。
在这样的背景下,未来的人才需要适应新的职业环境。专业技能可能不再像以前那样有价值,人才需要向“一专多能”的方向发展。技术人员不仅要懂技术,还要懂产品,并且需要学会带领 AI“员工”完成工作。这是我们预见的未来演进的大逻辑。
在这个逻辑下,我们的产品矩阵将展现人与 AI 如何分工。在工作流程中,许多环节将由 AI 接管,比如翻译工作,原本需要人力完成的任务现在由 AI 来执行,导致相关职位的需求减少。设计领域也在经历类似的变化,AI 的介入改变了工作流程,一些工种可能会消失。
在飞书的体系中,这种变化已经实际发生。我们可以预见,在未来两到三年内,业务流程将发生重大变化。人的角色将转变为对整个流程负责,对决策负责,而 AI 则更多地执行具体的小任务。现在,AI 可能只是完成一些小任务,如翻译或初步设计。未来,AI 可能会承担更复杂的任务,比如编写更大规模的代码工程。随着技术工种的数量降低,技术人员可能需要上升到架构层面,掌控 AI 在整个系统中的架构方向。最终,技术人员可能主要负责审查和做出决策。这是我们对未来人与组织关系的思考,同时也是飞书产品逻辑的基础。
演讲嘉宾介绍:
邓范鑫,字节跳动飞书多维表格 AI 技术负责人,“深度学习”公众号 主理人,毕业于北京航空航天大学,获硕士学位。近十年主要从事 AI 技术的应用落地工作;曾在阿里神经符号实验室参与通用智能架构设计工作;目前在飞书的主要工作是大模型及智能体技术在无代码平台的应用,包括模型研发、前沿探索、技术架构和业务落地。
会议推荐:
2024 年收官之作:12 月 13 日 -14 日,AICon 人工智能与大模型大会将在北京举办。从 RAG、Agent、多模态模型、AI Native 开发、具身智能,到 AI 智驾、性能优化与资源统筹等大热的 AI 大模型话题,60+ 资深专家共聚一堂,深度剖析相关落地实践案例,共话前沿技术趋势。大会火热报名中,详情可联系票务经理 13269078023 咨询。
评论