写点什么

基于 S3 的图片处理服务

  • 2019-11-11
  • 本文字数:3559 字

    阅读完需:约 12 分钟

基于S3的图片处理服务

作者:高寅敬 徐榆

1.背景介绍

随着移动互联网的快速发展,各种移动终端设备爆发式的增长,社交类 APP 或者电商网站为了提升访问速度、提高用户体验,必须根据客户端的不同性能,不同屏幕尺寸和分辨率提供适当尺寸的图片。这样一来开发者通常需要预先提供非常多种不同分辨率的图片组合,而这往往导致管理难度的提升和成本的增加。


在这篇博客中,我们将探讨一种基于 S3 的图片处理服务,客户端根据基于 HTTP URL API 请求实时生成不同分辨率的图片。

2.解决方案架构


为了保证图片服务的高可用,我们会把所有的图片(包括原图和缩率图)储存于 AWS 的对象储存服务 S3 中,把图片处理程序部署于 AWS EC2 中。大部分的图片请求都会直接由 AWS S3 返回,只有当 S3 中不存在所需缩率图时才会去请求部署于 EC2 上的图片处理服务来生成对应分辨率图片。


业务流程:


  1. 用户客户端(通常是浏览器或者 APP)发起请求 200×200 像素的图片

  2. S3 中未存在该尺寸缩率图,于是返回 HTTP 302 Redirect 到客户端

  3. 客户端根据 HTTP 302 响应,继续请求部署于 EC2 上的图片处理服务

  4. 部署于 EC2 的图片处理服务,会从 S3 获取源图

  5. 图片处理服务,根据请求参数生成对应尺寸图片缩率图

  6. 图片处理服务将对应的图片返回给客户端

  7. 图片处理服务把缩率图存回到 S3 中,加速下一次客户访问

3.架构特点

相较于预先生成所有所需分辨率图片和传统的基于独立图片处理服务器,这种新的处理方式包含以下优点:

更高的灵活性:

当我们的前端开发人员对界面进行改版时,时常会涉及到修改图片尺寸。对所有原始图片进行缩放的批处理是十分耗时,高成本且易出错的。利用这种基于 URL API 的实时处理方式,前端开发者指定新的尺寸后,立即就能生成符合客户访问新的网页和应用对应的图片,提高了前端开发人员的开发效率。

更低的储存成本:

对于传统图片处理方式,在未使用之前预先批量生成所需分辨率图片,占用大量的储存空间,而且利用率并不高。


以按需方式生成图片,能减少不必要的储存空间,降低储存成本。


相对于独立图片处理服务器把图片完全储存于 EC2 的 EBS 卷,储存于 S3 的成本也更低。


我们知道缩率图是属于可再生数据,所以我们在程序上 会把缩率图储存为 S3 的去冗余储存类型,再次降低约 13% 的存储成本。

更高的服务可用性:

我们可以看到,独立地部署单台图片服务器,无法支持大并发负载。同时存在单点故障 无法保证服务的高可用性,高可扩展性。


而基于 S3 的解决方案,大量的图片请求,由 AWS S3 来完成,S3 会自动扩展性能,因此应用程序的运行速度在数据增加时不会减慢。


只有少量的未生成的图片尺寸才会用到部署于 EC2 的图片服务器,并且我们图片逻辑服务器与图片储存 S3 是解耦合关系,我们还可以针对 基于 EC2 的图片处理服务 进行横向扩展,比如把图片服务程序 加入到 Web 服务器层,配合 负载均衡器 ELB、自动伸缩组 AutoScaling 来实现自动伸缩。

4.服务部署

为了服务部署能更接近生产环境,我们以下所有步骤将以创建一个以域名为 images.awser.me 的图片服务为例,来详细介绍如何基于 AWS 来部署。


在 EC2 上部署图片处理服务


1.创建一台 EC2 服务器,并赋予 具有 S3 访问权限的IAM 角色,配置正确的安全组开启 HTTP 80 端口访问权限。



  1. 示例程序基于 PHP,所以需要确保服务器安装了 Apache 2.4 和 PHP 7.0 以上。以及 PHP 图片处理的相关的组件:ImageMagick、ImageMagick-devel 。


参考 基于 Amazon Linux 的安装命令:


yum -y install httpd24 php70 ImageMagick ImageMagick-devel php70-pecl-imagick php70-pecl-imagick-devel


  1. github 或者 从S3 下载图片处理程序,修改 根目录 resize.php 文件,bucketName 变量为你的域名或者是你的储存桶名称,例如:$bucketName=’images.awser.me’。


将程序部署于你的 web 目录底下,并且确保 能通过 EC2 公网 IP 进行访问。


例如:http://52.80.80.80/resize.php?src=test_200x200.jpg


最好为你的图片服务器设置一个域名,我们这里设置了 imgpro.awser.me。


例如: http://imgpro.awser.me/resize.php?src=test_200x200.jpg


这里记录下你的 EC2 Web 访问地址,在下一步的 S3 储存桶配置中会用到。


创建和配置 S3 储存桶


  1. 创建储存桶


由于我们在生产环境中,需要使用指定的域名来访问 S3 资源。所以我们需要在 S3 控制台 创建储存桶时,把储存桶名称设置为我们的域名,如: images.awser.me。


  1. 储存桶权限控制


在刚刚创建的 S3 储存桶,权限选项卡中 选择储存桶策略填写如下内容(注意修改 images.awser.me 为你的域名 或者 储存桶名称) 开启匿名访问


Java


{
"Version":"2012-10-17",
"Statement":[
{
"Sid":"AddPerm",
"Effect":"Allow",
"Principal": "*",
"Action":["s3:GetObject"],
"Resource":["arn:aws-cn:s3:::images.awser.me/*"]
}
]
}
复制代码


  1. 开启静态网站托管


在刚刚创建的 S3 储存桶,属性选项卡中 开启 静态网站托管 ,并配置 重定向规则 为以下示例内容(请修改 HostName 为上一步骤 所创建的 EC2 Web 访问地址):


Java


<RoutingRules>
<RoutingRule>
<Condition>
<KeyPrefixEquals/>
<HttpErrorCodeReturnedEquals>404</HttpErrorCodeReturnedEquals>
</Condition>
<Redirect>
<Protocol>http</Protocol>
<HostName>imgpro.awser.me</HostName>
<ReplaceKeyPrefixWith>resize.php?src=</ReplaceKeyPrefixWith>
<HttpRedirectCode>302</HttpRedirectCode>
</Redirect>
</RoutingRule>
</RoutingRules>
复制代码



记录终端节点名称 例如:images.awser.me.s3-website.cn-north-1.amazonaws.com.cn


在 DNS 服务商 添加一个 CNAME 记录 ,把你的自定义域名 如 images.awser.me 解析到 该终端节点上。


  1. 配置 S3 存储桶生命周期,自动清理缩率图


随时时间推移,我们会发现我们保存着在大量过时的缩率图,造成储存空间的浪费。其实我们可以利用 S3 存储桶的生命周期功能,来实现一定时间范围以外的缩率图自动清理。


在 S3 储存桶管理选项卡中,选择 添加生命周期规则



由于我们在图片缩放程序中,产生缩率图的过程,已经给所有缩率图打上了一个特殊标签 thumbnail = yes,那么我们就可以在生命周期规则中,把该标签作为过滤条件,这样才不会影响储存桶中的其他资源(如原图)。



然后在过期选项中设置,过期时间为 30 天。



这样配置完以后,所有缩率图生成三十天后会自动清理,来节省储存和管理成本。

5.测试图片缩放

首先上传一张测试图片至 S3 存储桶,我们选择一张经典的地球图片作为测试 命名为 earth.jpg。


1.测试使用 S3 终端节点访问,测试储存桶 权限是否配置正确:


http://images.awser.me.s3-website.cn-north-1.amazonaws.com.cn/earth.jpg


2.测试使用 自定义域名访问,测试储存桶命名以及 DNS 配置是否正确


http://images.awser.me/earth.jpg


3.测试图片缩放功能是否正常,尝试请求一张 200×200 像素的图片:


http://images.awser.me/earth_200x200.jpg


如果一切正常,我们可以看到浏览器 会自动跳转访问


http://imgpro.awser.me/resize.php?src=earth_200x200.jpg


并返回 200×200 像素的图片。


4.测试 S3 缓存是否生效,当我们第二次访问


http://images.awser.me/earth_200x200.jpg 如果一切正常,我们可以观察到 浏览器 没有做跳转。

6.总结

以上内容是对基于 S3 的图片处理服务解决方案的一个简单实现,也提到一部分生产环境可能遇到的问题,比如图片服务器的自定义域名、使用 S3 低冗余储存类型来降低成本、缩率图的自动清理等。


其实实际生产环境还可以对成本进行进一步优化,比如可以分析 S3 产生的访问日志,找出访问记录比较久远的对象 、调用 S3 API 对长久未使用的缩率图进行定时清理,甚至可以根据日志做分析 找出热门的图片格式需求,提前针对热门图片生产缩率图,提高用户体验。


另外通过以上的架构描述可以看出,由于 AWS 所提供的所有云服务都有丰富的 API 接口 和详细的配置选项,它就像一个乐高玩具一般,开发人员或者架构师可以脑洞大开随意去组合它成为自己想要的产品。


作者介绍:



高寅敬,AWS 解决方案架构师,负责基于 AWS 云计算方案架构的咨询和设计,在国内推广 AWS 云平台技术和各种解决方案。在加入 AWS 之前就职于美国虚拟运营商 Seawolf 海狼通讯,超过 7 年的互联网通信应用系统开发和架构经验。


超过 5 年的 AWS 实践经验, 精通基于 AWS 全球分布式 VoIP 系统的开发、运营及部署,深度理解 AWS 核心的计算、网络、存储以及云计算的弹性伸缩。



徐榆,AWS 实习架构师,研究生一年级对云计算/大数据和人工智能有一定研究。


本文转载自 AWS 技术博客。


原文链接:


https://amazonaws-china.com/cn/blogs/china/image-processing-service-based-on-s3/


2019-11-11 08:001464

评论

发布
暂无评论
发现更多内容

冷冷清清的双十一,电商促销节为何被消费者逐渐抛弃

石头IT视角

【愚公系列】2022年11月 微信小程序-app.json配置属性之其他属性

愚公搬代码

11月月更

2022下半年《软考-系统架构设计师》备考经验分享

劼哥stone

软考 系统架构师

算法题学习---单链表的排序

桑榆

算法题 11月月更

2022昇腾AI创新大赛圆满收官,看这届评委怎么说?

Geek_2d6073

2022-11-17:组合两个表。请写出sql语句,执行结果是{“headers“: [“first_name“, “last_name“, “city“, “state“], “values“: [

福大大架构师每日一题

数据库 福大大

应用链如何成为 Web3 的“潜力链”

One Block Community

区块链 开发者 区块链应用 云存储 web3

解读Web3公链发展格局

TinTinLand

区块链 以太坊 公链 多链

React源码分析7-state计算流程和优先级

goClient1992

React

简单时序逻辑电路

芯动大师

Verilog 11月月更 锁存器

对于Ajax在MUI框架中的用运以及单 webview 模式中的下拉刷新功能探究

恒山其若陋兮

mui 11月月更

为什么要做用户留存分析

穿过生命散发芬芳

用户留存 11月月更

uni-app 性能优化实战之逻辑层条件编译的生产环境

恒山其若陋兮

11月月更 uni

Postman工具介绍

阿泽🧸

Postman 11月月更

Python进阶(五十)浅析Flask运行原理

No Silver Bullet

Python flask 11月月更

Python进阶(五十二)Flask使用pymysql连接MySQL数据库

No Silver Bullet

Python MySQL pymysql 11月月更

MUI框架的上拉加载的深入探索和实战运用

恒山其若陋兮

mui 11月月更

东方通Tongweb中间件Linux环境部署

@下一站

技术 中间件 linux 文件权限控制 Java core 11月月更

【下】提高组件库Level必做好这六件事

小鑫同学

前端 组件库 11月月更

[力扣] 剑指 Offer 第三天 - 左旋转字符串

陈明勇

Go 数据结构与算法 力扣 11月月更

docker安装WordPress(一)

蜗牛也是牛

Helm部署的服务如何修改配置

程序员欣宸

Kubernetes Helm 11月月更

Python进阶(四十九)初识Flask Blueprint

No Silver Bullet

Python flask 11月月更 Blueprint

链路状态路由协议 OSPF (一)

我叫于豆豆吖.

11月月更

融云「百幄」之数字人,升级交互体验的「新同事」

融云 RongCloud

AI 通信 数字化

图解漏桶(LeakyBucket)限流器的实现原理

Go学堂

golang 程序员 个人成长 限流 漏桶

流程表单初体验

江南一点雨

Java spring springboot flowable

【上】提高组件库Level必做好这六件事

小鑫同学

前端 组件库 11月月更

「Go实战」一文带你搞懂从单队列到优先级队列的实现

Go学堂

golang 开源 程序员 优先级队列 11月月更

promise执行顺序面试题令我头秃,你能作对几道

loveX001

JavaScript

Flowable 外置的 HTML 表单怎么玩?

江南一点雨

Java spring flowable JavaEE

基于S3的图片处理服务_其他_亚马逊云科技 (Amazon Web Services)_InfoQ精选文章