写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:00924

评论

发布
暂无评论
发现更多内容

开源公开课丨ChengYing安装原理剖析

袋鼠云数栈

JDK1.6中String类的坑,快让我裂开了…

华为云开发者联盟

开发

2022年无糖茶饮料发展洞察分析

易观分析

无糖茶 行业洞察

Quick Tracking「全域采集与增长分析」,破局全域营销之道

瓴羊企业智能服务

MockServer 服务框架设计

霍格沃兹测试开发学社

Pb协议的接口测试

霍格沃兹测试开发学社

node在大前端中的应用场景

达摩

nodejs

同时将博客部署到github和conding

Five

前端 博客搭建 8月月更

数字藏品系统开发:详细功能介绍

开源直播系统源码

NFT 数字藏品 数字藏品系统软件开发 NFT数字藏品系统

麦聪软件为云上客户提供DaaS服务,入驻国内Top3云市场

雨果

公有云私有云 DaaS数据即服务

Java培训需要多长时间

小谷哥

软件测试 | 测试开发 | app自动化测试之Appium 原理 与 JsonWP 协议分析

测吧(北京)科技有限公司

json

PageObject(PO)设计模式在 UI 自动化中的实践总结(以 QQ 邮箱登陆为例)

霍格沃兹测试开发学社

易观千帆 | 2022年7月苏州市手机银行应用活跃人数榜单

易观分析

金融 手机银行 榜单 苏州

大数据培训机构学习后就业前景如何

小谷哥

UI设计培训班出来后找工作吗?

小谷哥

前端高频面试题(三)(附答案)

helloworld1024fd

JavaScript 前端

Python 自动化测试(三): pytest 参数化测试用例构建

霍格沃兹测试开发学社

5 个 JavaScript 写法小技巧分享

掘金安东尼

JavaScript 前端 8月月更

开源治理:安全的关键

SEAL安全

开源 开源文化 开源安全 开源安全与治理

前端高频面试题(四)(附答案)

helloworld1024fd

JavaScript 前端

【算法实践】他山之石,可以攻玉--利用完全二叉树快速实现堆排序

迷彩

Python 数据结构 算法 二叉堆排序 8月月更

如何选择靠谱的Java培训

小谷哥

开源交流丨任务or实例 详解大数据DAG调度系统Taier任务调度

袋鼠云数栈

大学毕业后如何选择大数据培训机构

小谷哥

Junit5 架构、新特性及基本使用(常用注解与套件执行)

霍格沃兹测试开发学社

Python 自动化测试(五): Pytest 结合 Allure 生成测试报告

霍格沃兹测试开发学社

深度解读|关于SBOM最基础元素,你需要知道的(Part III)

安势信息

漏洞 漏洞扫描 代码安全 SBOM SBOM最基础元素

成长计划校园极客秀 | 玩转OpenHarmony开发智能煤气检测系统

OpenHarmony开发者

OpenHarmony

如何应对突发的流量激增和服务器过载问题

NGINX开源社区

nginx 流量控制 高速缓存

分布式协同AI基准测试项目Ianvs:工业场景提升5倍研发效率

华为云开发者联盟

云计算 云原生

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章