【AICon】 如何构建高效的 RAG 系统?RAG 技术在实际应用中遇到的挑战及应对策略?>>> 了解详情
写点什么

亚马逊云科技推出生成式 AI 新工具和服务

  • 2023-11-30
    北京
  • 本文字数:1290 字

    阅读完需:约 4 分钟

大小:626.53K时长:03:33
亚马逊云科技推出生成式AI新工具和服务

亚马逊云科技于昨天推出“生成式AI技术堆栈”后,又在今天的 re:Invent 2023 大会上宣布了一系列支持这一全新堆栈的关键服务和工具。

 

亚马逊云科技数据和人工智能副总裁 Swami Sivasubramanian 在今天的主题演讲中,将生成式人工智能与“超新星爆炸”进行了比较,以描述当前的人工智能给我们带来的创新潜力。Sivasubramanian 表示:“人类与技术之间的强大关系正在我们所有人面前展开。我愿意将今天发生的事情看作是数据、生成式 AI 与人类之间的有益关系。”

 


但要应用好生成式 AI 的能力,必须要有相对应的用于构建和部署应用程序的工具以及机器学习基础设施。在今天的演讲中,亚马逊云科技主要从三个方面讲述了他们的人工智能工具与服务:机器学习平台 SageMaker、新推出的 Amazon Q 、提供基础模型服务的 Amazon Bedrock 平台。

 

亚马逊云科技为 SageMaker 推出了名为 HyperPod 的新解决方案,旨在消除优化模型训练所涉及的繁琐机器学习基础设施工作。该公司声称,这一新产品能够将模型训练时间缩短 40%。

 

“这是一项重大事件,客户将明显感受到改善。”Sivasubramanian 强调。

 

HyperPod 解决了分布式基础设施在处理大数据和训练模型复杂性方面的限制。通常,这包括将模型训练任务分散到数百或数千个加速器上,并在数周或数月内并行运行数万亿次数据计算。这意味着要编写大量代码并不断进行优化。而 SageMaker HyperPod 则允许自动分配训练工作负载到计算资源之间,并定期保存检查点,以避免在某个组件发生故障时损失时间。

 


另外,亚马逊云科技在本周发布的 Amazon Q 基础上,在 Redshift 中添加了生成式 SQL 来简化查询编写,并在无服务器 Amazon Glue 平台中添加了一个数据集成功能,可以通过自然语言来调用(Amazon Q data integration)。

 


“Q 通过连接你的数据来支持业务的每个领域,”Sivasubramanian 说。“我们可以利用这项技术来解决数据管理中的一些重大挑战。”

 

Amazon Bedrock 是这次大会中的重头戏,在首席执行官 Adam Selipsky 和 Sivasubramanian 的主题演讲中均有展示。Amazon Bedrock 已被超过 10,000 名客户使用,该公司一直在稳步为 Amazon Bedrock 积累新功能,并进行一系列增强,包括昨天 Selipsky 演讲中提到的微调功能和新的安全服务。

 


为了满足更广泛的模型选择需求,亚马逊云科技宣布已纳入 Anthropic 公司语言模型的最新版本 Claude 2.1,同时还将在 Bedrock 中添加 Meta 公司的 Llama2 70B。

 

“我们仍处于生成式 AI 的早期阶段,这些模型将继续加速发展,”Sivasubramanian 说。

 

除此之外,向量数据库对生成式 AI 也很重要,亚马逊云科技为很多成熟的数据库增加了向量搜索功能,包括 Amazon Aurora PostgreSQL、Amazon RDS for PostgreSQL、Amazon OpenSearch Service、Amazon OpenSearch Serverless 等。Amazon Document DB, Amazon Dynamo DB 也新添加了向量检索功能。

 


此外,Sivasubramanian 还专门介绍了 Amazon MemoryDB for Redis 中的向量搜索功能,并强调其在最高召回率和最高吞吐量的条件下也能提供毫秒级的响应。

 

“数据、生成式 AI 和人类之间强大的共生关系正在加速我们创新能力,”Sivasubramanian 说。“亚马逊云科技具有解锁这项强大技术的一切。”

 

2023-11-30 18:444897

评论

发布
暂无评论
发现更多内容

一文看懂指标管理难题:规范与效率如何兼得?

先锋IT

浅析RobotFramework工具的使用 | 京东物流技术团队

京东科技开发者

QCN9274, QCN6274, QCN9224 and QCN6224-Do you know the specific requirements?

wifi6-yiyi

qcn9274 qcn6274

IM通讯协议专题学习(十):初识 Thrift 序列化协议

JackJiang

网络编程 即时通讯 IM

华为云CCE集群健康中心:一个有专家运维经验的云原生可观测平台

华为云开发者联盟

云原生 后端 华为云 华为云开发者联盟

CodeWhisperer:编码世界中的声音启迪者

亚马逊云科技 (Amazon Web Services)

人工智能 云上探索实验室 Amazon CodeWhisperer

百度CTO王海峰:文心一言用户规模破1亿

飞桨PaddlePaddle

人工智能 深度学习 WAVE SUMMIT

InterSystems 数据库的存储过程存在哪里

HoneyMoose

坚果的2023年终总结-激流勇进的一年

坚果

年终总结 坚果派

AI大模型时代下运维开发探索第二篇:基于大模型(LLM)的数据仓库

阿里云大数据AI技术

taobao.trade.memo.update( 修改交易备注 )丨淘宝店铺订单接口

tbapi

淘宝店铺订单接口 天猫店铺订单接口 淘宝店铺订单交易接口 淘宝店铺订单备注接口 天猫订单备注接口

Python笔记三之闭包与装饰器

Hunter熊

Python 装饰器 闭包 装饰器类 装饰器参数

摸鱼摸出来的vue3+element-plus毒蘑菇后台管理:新标签页的实现。

23朵

Vue3 element-plus 后台管理

中国中化、保利集团、中交集团、中国中车……2023年,更多央国企选择用友BIP

用友BIP

数智化转型

江铃晶马 X 袋鼠云:搭建企业级数据资产中心,推进打造“智数晶马”

袋鼠云数栈

大数据 数据中台 数字化转型 案例 大数据平台

爆红的PLM!

用友BIP

PLM

厦门钨业:智慧采购减少采购环节,构建高效产业链

用友BIP

智慧采购

英特尔锐炫显卡暴风成长:游戏领域大放光彩,AI应用表现抢眼

E科讯

携手开发者探索AI PC无限可能,英特尔人工智能创新应用大赛启动

E科讯

一个不会画画的我遇到AI绘画的时代

战场小包

AI AIGC AI绘画 Stable Diffusion controlnet

一文搞懂Go GC演进史,讲的太细致了!

王中阳Go

Go golang 面试题 垃圾回收 GC

观测云产品更新 | 智能监控、应用性能监测、场景图表等优化

观测云

APM 智能监控

LLM评估:通过7大指标监测并评估大语言模型的表现

Baihai IDP

程序员 AI ChatGPT LLM 白海科技

技术人的 2023 用QCon大会画上完美句号

IT蜗壳-Tango

Qcon

taobao.trades.sold.get( 查询卖家已卖出的交易数据)丨淘宝店铺订单接口

tbapi

淘宝API接口 淘宝店铺订单接口 天猫店铺订单接口 淘宝店铺交易接口 天猫店铺订单交易接口

一步一步教你写kubernetes sidecar

华为云开发者联盟

开发 华为云 华为云开发者联盟

基于大数据、大模型的应用总结与技术心得

joe

西部市场的无限潜力与成都的崛起“2024成都电子信息展会”

AIOTE智博会

电子展 电子信息展 成都电子展

软件开发

Geek_8da502

强大的磁盘分析:Disk Xray最新激活版

胖墩儿不胖y

Mac软件 磁盘分析软件 磁盘工具

记一次JSF异步调用引起的接口可用率降低 | 京东云技术团队

京东科技开发者

亚马逊云科技推出生成式AI新工具和服务_生成式 AI_Tina_InfoQ精选文章