【AICon】AI 大模型超全落地场景&最佳实践 了解详情
写点什么

EFS File Sync,向 Amazon EFS 文件系统更快传输文件

  • 2019-10-28
  • 本文字数:1270 字

    阅读完需:约 4 分钟

EFS File Sync,向 Amazon EFS 文件系统更快传输文件

8 月 16 - 19 日,与零一万物李开复、蔚来李斌、面壁智能李大海,及工商银行、交通银行、华夏银行等 100+ 行业专家相聚 FCon x AICon

我们在 AWS re:Invent 2017 举行前不久推出了 EFS File Sync,现在我终于有一点时间来讲讲它!


如果您需要将大量文件从本地或云文件系统移动到 Amazon Elastic File System,此工具正是为您量身打造。简单的单线程命令行工具 (例如 cprsync ) 产生于云时代以前,无法提供在不同地点之间大规模移动数据所需的吞吐能力。这些工具一般作为积木块的形式使用,常常在负责计划调度、编排管理和网络安全脚本中使用。


安全、并行处理


EFS File Sync 采用安全的高度并行数据传输机制,速度比我之前提到的工具快 5 倍。它作为 VMware ESXi 中或 EC2 实例上运行的代理提供,通过 NFS (v3 和 v4 版本) 访问源文件系统,可以在所有开放 EFS 的 AWS 区域使用。由于代理负责启动与 AWS 之间的所有通信,您无需搭建 VPN 或允许入站连接通过您的防火墙。


您可以从 AWS 管理控制台启动、控制和监控代理以及您的同步任务。作业可以指定传输整个文件系统或具体的目录树,此外还提供检测并跳过已经存在于目标文件夹中的文件的选项。此外还可以复制文件的元数据 (修改和访问权限、时间、POSIX 所有权和权限、符号链接、硬链接)。


使用 EFS File Sync


为了撰写此博文我启动了一个 EC2 实例,导出了一个 NFS 文件系统 (/data),然后使用 Linux 内核源代码填充该文件系统。


打开与我的实例位于同一区域的 EFS 控制台,然后单击文件同步



我单击开始使用,选择 Amazon EC2 作为我的主机平台,然后单击启动实例,然后单击 Connect to agent (连接到代理) 继续:



单击启动实例会在新的选项卡中打开 EC2 控制台。我选择一个内存优化实例类型 (xlarge 或更大的类型),为其配置一个公有 IP 地址和一个允许 80 端口入站流量的安全组,然后与其他 EC2 实例一样启动它。然后我会等待一两分钟 (可以浇浇花、看看狗),直到通过状态检查:



然后我会获取该实例的公有 IP 地址,返回 EFS 选项卡,输入该地址,然后单击 Activate agent (激活代理)



这一步骤会从同步代理检索激活密钥。完成后,我会为它输入一个名称,然后单击 Activate agent (激活代理) 继续:



现在代理正在运行并已激活,我会单击 Create sync task 以开始将一些文件移动到 EFS:



我会配置源位置 (我在这一部分开始时提到的 EC2 实例):



此外我还会选择目标 EFS 文件系统,并在该文件系统中为我的文件指定一个目标位置:



然后我选择同步选项并单击下一步以检查配置:



检查结果看似正常,然后单击 Create sync task 以开始复制我的文件:



创建同步任务并且其状态变为可用后, 我可以选中它并从 Actions 菜单选择 Start 以启动同步:



我调整在创建任务时建立的设置,然后单击 Start 继续:



我可以在 History 选项卡中跟踪同步任务的状态:



这会在几分钟内完成,我的 EFS 文件系统现在已经包含了新的文件:


B00526J31YB003U6VRXAB01LVZXDGB0140549889B076PZS694B000ASKN90B00GX3CUV0B002H09I0YB01N0ELGGPB002IPGXVAB0000CFN7L


现已推出


EFS File Sync 现已在支持 EFS 的所有 AWS 区域推出。您需要为所消费的 EFS 和 EC2 资源付费,价格为每 GB 的数据 0.01 USD (更多信息请参阅 EFS 定价页面)。


本文转载自 AWS 技术博客。


原文链接:


https://amazonaws-china.com/cn/blogs/china/efs-file-sync-faster-file-transfer-to-amazon-efs-file-systems/


2019-10-28 08:00651

评论

发布
暂无评论
发现更多内容

如何利用淘宝商品详情关键词搜索电商API接口,实现个人收藏的梦想?

联讯数据

软件工程全周期阶段支撑文件(全套原件)

金陵老街

每日一题:LeetCode-48. 旋转图像

乐鱼APP官网

面试 算法 矩阵 LeetCode 刷题

软件测试/人工智能丨GitHub Copilot: 改变编程体验的智能代码助手

测试人

人工智能 软件测试

外贸客户如何开发西班牙市场

九凌网络

Springboot+Vue3低代码开发框架

这我可不懂

Vue 低代码 springboot JNPF

从0到1手动搭建k8s集群-初始化master节点

doramingo

云计算 Kubernetes 云原生

如何用手机免费制作一张漂亮的电子贺卡?

景博

钱包开发:钱包基础设施赋能下一代 Dapp

区块链软件开发推广运营

dapp开发 区块链开发 链游开发 NFT开发 公链开发

面向对象编程,看这篇就够了

不在线第一只蜗牛

面向对象 依赖关系

支持原生鸿蒙操作系统的小程序容器框架

Onegun

鸿蒙 鸿蒙系统 小程序容器

【教程】浅谈ios混淆和加固加密

OpenHarmony人才生态大会|润开鸿分享全国智能物联行业产教融合共同体建设实践

新消费日报

软件测试/人工智能丨利用ChatGPT自动生成测试用例思维导图

测试人

人工智能 软件测试

高效编程“武功秘笈”,手把手教你写一波!

伤感汤姆布利柏

FQS:一种神奇的数仓查询优化技术

华为云开发者联盟

大数据 后端 华为云 华为云开发者联盟 华为云GaussDB(DWS)

如何在Python中使用ChatGPT API处理实时数据

高端章鱼哥

Python ChatGPT

发布jar包到maven中央仓库

不在线第一只蜗牛

Java 仓库 镜像仓库

8小时保姆级教程|鹅厂重磅图像生成训练营带你玩转AI绘画

牵着蜗牛去散步

腾讯云 腾讯 AIGC AI绘画 腾讯云AI绘画

AppLink+WMS,实现仓储管理一体化

RestCloud

wms APPlink

基于.NET Core + Quartz.NET+ Vue + IView开箱即用的定时任务UI

EquatorCoco

.net Vue 前端

IPQ6010 vs IPQ8072 What's the difference?|802.11AX WiFi6 Solution DR6018 DR8072

wallyslilly

IPQ6010 IPQ8072

1211 | 和PAI一起,每周玩转AI,活动开始了

阿里云大数据AI技术

#人工智能

为什么说低代码的出现是时代的选择?

互联网工科生

软件开发 低代码 JNPF

ThingsBoard 前端项目轮播图部件开发

echeverra

thingsboard

2023最新Go面经:百度滴滴小米360小红书展盟优咔科技......

王中阳Go

golang 面试题 面经 八股文 求职技巧

EFS File Sync,向 Amazon EFS 文件系统更快传输文件_语言 & 开发_亚马逊云科技 (Amazon Web Services)_InfoQ精选文章