写点什么

F5 搭载 NVIDIA BlueField-3 DPU:专为 Kubernetes 环境设计,加速 AI 应用交付

  • 2024-10-28
    北京
  • 本文字数:1177 字

    阅读完需:约 4 分钟

大小:616.30K时长:03:30
F5搭载NVIDIA BlueField-3 DPU:专为Kubernetes环境设计,加速AI应用交付

日前,F5 宣布推出 BIG-IP Next for Kubernetes,这是一项全新的创新 AI 应用交付和应用安全解决方案,旨在为服务提供商和大型企业提供集中控制点,以加速、保护和简化流入和流出大型人工智能(AI)基础设施的数据流量。

 

据介绍,该解决方案利用高性能NVIDIA BlueField-3 DPU提升对大型 AI 部署至关重要的数据中心流量效率。通过对网络、流量管理和安全性的集成视图,用户将能够最大化数据中心资源的利用率,同时实现最佳的 AI 应用性能。

 

F5 BIG-IP Next for Kubernetes 是专门为 Kubernetes 环境设计的解决方案,并已在大型电信云和 5G 基础设施中得到验证。通过 BIG-IP Next for Kubernetes,该技术现可提供针对领先 AI 用例的定制化服务,例如推理、检索增强生成(RAG)以及无缝的数据管理和存储。与 NVIDIA BlueField-3 DPU 的集成最小化了硬件占用空间,实现了细粒度的多租户,同时实现能源消耗优化,并提供高性能的网络、安全和流量管理。F5 BIG-IP Next for Kubernetes 具有以下特性:

 

  • 简化云规模 AI 服务的交付:BIG-IP Next for Kubernetes 可与客户的前端网络无缝集成,显著降低延迟,同时提供高性能的负载均衡,以处理上亿参数 AI 模型及高达万亿次运维操作的海量数据需求。

  • 加强对 AI 部署的控制:该解决方案为现代 AI 网络提供了集中集成点,具有丰富的可观测性和细粒度信息。BIG-IP Next for Kubernetes 支持 HTTP 之外的多项 L7 协议,确保在极高性能下实现增强的入站和出站控制。

  • 保护全新 AI 环境:客户可完全自动化 AI 训练和推理端点发现和安全功能。BIG-IP Next for Kubernetes 还可将 AI 应用与针对性的威胁进行隔离,加强数据完整性和主权,同时解决现代 AI 环境中至关重要的加密能力。

 

F5 与 NVIDIA 技术的集成将允许移动和固定线路电信服务提供商能够轻松过渡至云原生 Kubernetes 基础设施,以满足供应商日益增长的将服务功能适应至云原生网络功能(CNFs)模型的需求。F5 BIG-IP Next for Kubernetes 通过将数据密集型任务卸载至 BlueField-3 DPU,以释放 CPU 资源用于创收应用。该解决方案对于虚拟化 RAN(vRAN)或 MSO 的 DAA 以及核心网络中的 5G 尤为有益,并为未来释放 6G 通信潜力奠定基础。

 

“服务提供商和企业需要加速计算,以安全高效地在大规模云上交付高性能的 AI 应用。”NVIDIA 人工智能网络和安全合作伙伴高级总监 Ash Bhalgat 说道。

 

F5 首席技术官兼人工智能官 Kunal Anand 表示,“AI 的普及催生了对先进半导体和技术的空前需求。目前各大企业正在构建 AI 工厂,即为大规模训练 AI 模型及提供推理所需的强大处理能力而设计的高度优化环境,其速度惊人且具备最低延迟。而 F5 强大的应用交付和安全服务与 NVIDIA 的全栈加速计算形成了强大的生态系统。该集成解决方案覆盖从硬件加速层到应用界面的整个 AI 工作负载堆栈,为客户提供了增强的可观察性、精细化控制和性能优化。”

 

据悉,搭载 NVIDIA BlueField-3 DPU 的 F5 BIG-IP Next for Kubernetes 将于 2024 年 11 月上市。

2024-10-28 15:314072

评论

发布
暂无评论

前端面试题合集

loveX001

JavaScript

AngularJS进阶(三十一)AngularJS项目开发技巧之获取模态对话框中的组件ID

No Silver Bullet

项目开发 AngularJS 12月月更

vue面试之Composition-API响应式包装对象原理

bb_xiaxia1998

Vue

架构实战营第 10 期:模块一作业

kaizen

「架构实战营」

作业

金金

从源码角度看React-Hydrate原理

flyzz177

React

前端一面经典vue面试题(持续更新中)

bb_xiaxia1998

Vue

vue这些原理你都知道吗?(面试版)

bb_xiaxia1998

Vue

ELK-logstash使用总结

忙着长大#

ELK

极客时间运维进阶训练营第六周作业

Starry

Gradle入门基础一

派大星

Gradle

我与足球以及世界杯的过往

TiAmo

世界杯 12月月更 世界杯足球游戏

React循环DOM时为什么需要添加key

beifeng1996

React

细说react源码中的合成事件

flyzz177

React

对比Web3支付赛道主要项目,看为何Zebec生态被严重低估

西柚子

架构实战营10期-作业1

炮仗

React源码分析(一)Fiber

goClient1992

React

假如面试官问你Babel的原理该怎么回答

loveX001

JavaScript

React的useLayoutEffect和useEffect执行时机有什么不同

beifeng1996

React

react面试题总结一波,以备不时之需

beifeng1996

React

CDH+Kylin三部曲之三:Kylin官方demo

程序员欣宸

大数据 kylin 12月月更

架构实战营 2-1 可扩展随堂练习

西山薄凉

「架构实战营」

架构实战营 2-2 高性能随堂练习

西山薄凉

「架构实战营」

React源码分析(三):useState,useReducer

goClient1992

React

前端react面试题指北

beifeng1996

React

瓴羊Quick BI:多项自助分析功能提升企业数据分析能力

夏日星河

极客时间运维进阶训练营第六周作业

忙着长大#

极客时间

如何管理一群技术牛人?

HappyQQ

团队管理 管理 研发管理 技术管理

React源码分析(二)渲染机制

goClient1992

React

深入react源码看setState究竟做了什么?

flyzz177

React

做了一份前端面试复习计划,保熟~

loveX001

JavaScript

F5搭载NVIDIA BlueField-3 DPU:专为Kubernetes环境设计,加速AI应用交付_云计算_褚杏娟_InfoQ精选文章