深度入局 AIGC！亚马逊云科技宣布 Amazon EC2 Inf2 实例全面可用

随着足够的可伸缩算力的就位、海量数据的爆炸，以及机器学习技术的快速进步，各行各业的客户开始对业务进行重塑。最近，像ChatGPT这样的生成式 AI 应用引起了广泛的关注，引发了诸多想象。

从业务的重塑到数据收集和使用方式的更迭，这预示着我们正处在一个令人激动的机器学习被大规模采用的转折点上，毫无疑问，生成式AI将会重塑大量用户体验和应用程序。

在这样一个历史节点上，谷歌、微软、Meta等科技巨头纷纷推出自家 AIGC 模型，力求通过这类大模型在竞争中淘汰对手，脱颖而出。眼看着这场 AI 竞赛逐渐进入白热化，亚马逊云科技坐不住了。

多年来，人工智能和机器学习一直是 Amazon 关注的焦点。Amazon 提供给客户的诸多功能都是由机器学习驱动的，例如电商推荐引擎、Prime Air（亚马逊无人机）和 Amazon Go 等产品内部的计算机视觉技术都使用了深度学习。

近日，亚马逊云科技打出了一套 AI“组合拳”， 推出了生成式 AI 服务 Amazon Bedrock 和 Amazon Titan 大模型，并宣布基于 Amazon Inferentia2 芯片的 Amazon EC2 Inf2 实例全面可用。

 Amazon Bedrock 是一个新颖的完全托管服务，用于构建和扩展生成式 AI 应用，从而让客户可以通过 API 访问 AI21Labs、Anthropic 和 Stability AI 等 AI 初创公司的预训练基础模型，还提供对亚马逊云科技开发的基础模型系列 Amazon Titan FMs 的独家访问。

Bedrock 是客户使用基础模型构建和扩展生成式 AI 应用程序的最简单方法，降低了所有开发者的使用门槛。它的优势可以总结为以下几点：

第一，Bedrock 是全托管的服务，用户不用担心后端所使用的各种基础资源的申请、管理和各种运营的服务，可以完全把这些工作交给亚马逊云科技，交给 Bedrock 来执行。

其次，通过提供亚马逊云科技自身所实现的这些大模型，以及第三方的模型，用户可以为其场景选择最适合自己应用场景的模型。

第三，Bedrock 的一个重要特点是，它可以帮助用户定制模型。由于每个用户的场景需求和业务逻辑都不同，用户也需要通过自身积累的业务数据来训练一个最适合它场景的模型。亚马逊云科技通过多年积累的云能力，在 Bedrock 中特意加强了数据训练的隐私和安全性，确保数据安全和隐私保护的前提下，用户可以使用自身的数据来对模型进行定制。

第四，在安全加密方面，所有用户的环境都基于它自身的 VPC（私有网络环境），与其他客户完全隔离。同时所有数据都进行加密。这意味着用户不仅可以使用 Bedrock，还可以方便且安全地使用亚马逊云科技多年以来发展的各种类型的云服务，对整个业务进行定制化改造。

Bedrock 已经预设了一些模型，包括亚马逊云科技通过多年实践所开发的两个基础大模型：Titan Text 和 Titan Embeddings。这两个模型它们是分别基于不同的场景来实现的。同时，亚马逊云科技还预设了三个来自于 AI21 Labs、Anthropic、Stability AI 等第三方合作伙伴的模型。

为了更好地支持 AIGC，亚马逊云科技还宣布了基于 Amazon Inferentia2 芯片的 Amazon EC2 Inf2 实例全面可用，打造兼具成本效益的生成式 AI 云基础设施。生成式 AI 推理工作负载的要求很高，Inf2 实例为在亚马逊云科技上大规模运行这类工作负载提供了良好的性价比。

亚马逊云科技大中华区产品部总经理陈晓建表示：“亚马逊云科技让基础模型和生成式 AI 惠及广大客户。通过亚马逊云科技，客户可以选择自己的方式来构建生成式 AI：利用专门构建的机器学习基础设施来构建自己的基础模型；利用预训练的基础模型构建应用程序；使用内置生成式 AI 的服务而无需具备专门的基础模型知识。”