速来报名!AICon北京站鸿蒙专场~ 了解详情
写点什么

Apache 拟在 Docker 中运行 Hadoop

  • 2014-09-04
  • 本文字数:840 字

    阅读完需:约 3 分钟

Apache 在其 Hadoop wiki 上整理了 Docker 中运行 Hadoop 的优势,以及要完全在 Docker 中运行 Hadoop 所需要完成的工作。在 Docker,或者说其它容器中运行 Hadoop YARN 有很多优势,具体如下:

  1. 软件依赖和配置的隔离:在 Docker 中运行的应用,其软件依赖和配置是与宿主机完全没有关系的,跟其其它行在 Docker 中的应用也没有关系;
  2. 安全性:运行在 Docker 中的应用,在没有主动配置的情况下,基本没有办法访问(即便是 Docker 镜像中的 root 权限)宿主文件系统的内容,这可以很好的保护宿主文件系统、设备等等;
  3. 性能隔离:Docker 可以对应用所需要的资源,如 CPU 计算资源、内存资源、存储资源、带宽等进行调控;
  4. 一致性:只要是源自同一个 Docker 镜像,所有的任务就具有完全一致的软件环境,跟宿主环境无关。比如一个 Ubuntu 镜像可以像使用真正 Ubuntu 系统一样利用其特性,哪怕宿主机器是 RHEL;
  5. 快速部署:Docker 有着强大的镜像存储和分发能力,开发者可以很方便的从镜像中心获取 Hadoop YARN 应用的镜像;
  6. 可编程:通过 Dockerfile,开发者可以非常方便地对 YARN 应用的文件系统、环境配置和运行的脚本进行设置;

虽然容器的优势是明显的,但是目前 Docker 和 YARN 的情况却无法支撑完全在 Docker 中运行 Hadoop YARN 任务,Apache 提出需要对 Docker 和 YARN 进行修改的想法,并给出了一些目前计划的工作:

  1. YARN 的 Docker 执行器;
  2. Docker 需要支持 user namespaces,以便可以将 Docker 镜像中的 root 用户映射到宿主机的普通用户,来控制用户对宿主文件系统的访问;
  3. 容器的网络配置:这项工作主要为了让 YARN 的主节点同其他节点通信,Docker 现有的 NAT IP 地址不允许运行在某个镜像中的任务访问另外一台物理宿主上运行的其他任务;
  4. 动态配置资源限制:目前 Docker 不支持动态对镜像资源进行配置;

感谢郭蕾对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ )或者腾讯微博( @InfoQ )关注我们,并与我们的编辑和其他读者朋友交流。

2014-09-04 03:483058
用户头像

发布了 268 篇内容, 共 123.0 次阅读, 收获喜欢 24 次。

关注

评论

发布
暂无评论
发现更多内容

Pencils Protocol 即将上线各大 CEX,我们缘何长线看好 $DAPP

加密眼界

Mybatis的<where>,<if>等标签用法

百度搜索:蓝易云

境外社交数据采集的8大问题 | 答疑

八爪鱼采集器︱RPA机器人

采集

Pencils Protocol 即将登录各大 CEX,依旧看好 $DAPP

西柚子

Pencils Protocol上线 Vaults 产品,为 $DAPP 深入赋能

加密眼界

在成都建“圈”五年,鲲鹏让智能化新风吹遍巴蜀大地

Alter

Pencils Protocol上线 Vaults 产品,为 $DAPP 深入赋能

西柚子

你的下一台手机会是眼镜吗?RTE 大会与你一同寻找下一代计算平台丨「空间计算和新硬件」论坛报名

声网

Pencils Protocol全面叙事为 $DAPP 深入赋能,上线 Vaults 产品

股市老人

征程6 上基于 DEB 工具实现包管理

地平线开发者

自动驾驶 算法

Arm架构Ubuntu使用Docker安装Gitlab并使用

百度搜索:蓝易云

linux三剑客之awk命令详解

百度搜索:蓝易云

Pencils Protocol 即将登录各大 CEX,依旧看好 $DAPP

石头财经

Pencils Protocol上线 Vaults 产品,为 $DAPP 深入赋能

大瞿科技

企业竞争情报实时获取,驱动企业打破市场桎梏

八爪鱼采集器︱RPA机器人

爬虫 采集

Pencils Protocol生态通证 $DAPP 将上线CEX,被大众看好

BlockChain先知

Pencils Protocol 即将登录各大 CEX,依旧看好 $DAPP

股市老人

若依vue前端 报错error:0308010C:digital envelope routines::unsupported

百度搜索:蓝易云

小白指南:如何使用谷歌云API

幂简集成

API 谷歌云

如何用八爪鱼采集与ChatGPT分析招投标数据?

八爪鱼采集器︱RPA机器人

爬虫 采集

实战!如何解决 MySQL 深分页问题

Chat2DB

数据库 sql 开源 AI

Pencils Protocol全面叙事为 $DAPP 深入赋能,上线 Vaults 产品

石头财经

从传统测试转向敏捷测试

FunTester

Llama 3.2 使用指南:工作原理及示例

陆通

centos编译安装的php多版本切换

百度搜索:蓝易云

挖掘汽车论坛数据,发现行业新商机

八爪鱼采集器︱RPA机器人

爬虫 采集

Pencils Protocol 即将上线各大 CEX,我们缘何长线看好 $DAPP

大瞿科技

Pencils Protocol上线 Vaults 产品,为 $DAPP 深入赋能

BlockChain先知

国庆出行指南:从大美中国到文明探源,“遇见心动目的地”

最新动态

未来医疗:从医技数字化2.0到全局变革

脑极体

AI

Apache拟在Docker中运行Hadoop_开源_张天雷_InfoQ精选文章