AICon 上海站|90%日程已就绪,解锁Al未来! 了解详情
写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:001037

评论

发布
暂无评论
发现更多内容

Discourse 清理存储空间的方法

HoneyMoose

python绘制一个时间的七段数码管实例基本的七段数码管绘制

BROKEN

8月日更 8月月更

开源一夏 | 云服务器ECS安装Mysql、JDK、RocketMQ

六月的雨在InfoQ

开源 8月月更

Nacos配置中心之客户端长轮询

急需上岸的小谢

8月月更

SRv6网络的安全解决方案

穿过生命散发芬芳

8月月更 SRv6

学生管理系统架构设计

张立奎

多个平台显示IP属地,必须大力推行互联网实名制

石头IT视角

开源一夏 | 基于若依springboot架构实现数据多维统计

六月的雨在InfoQ

开源 8月月更

那些年,在Linux指令上踩过的坑~

芒果酱

Linux 签约计划第三季

Service Mesh落地路径

阿泽🧸

Service Mesh 8月月更

动态内存开辟(C语言)

孤衫

编程语言 C语言 动态内存 8月月更

Axure9基本交互操作(一)

乔乔

8月月更

Android条件控制宏编译

桑榆

8月月更

手写柯里化 - toString 理解

掘金安东尼

JavaScript 前端 函数式 8月月更

前端常考react相关面试题(一)

helloworld1024fd

React

长达四年的减肥记录

Amazing_eve

#开源

git操作

Jason199

git 8月月更

Go 语言快速入门指南:什么是 TLS 安全传输层协议

宇宙之一粟

安全 Go 语言 8月月更

《MySQL入门很轻松》第2章:MySQL管理工具介绍

乌龟哥哥

8月月更

克服项目管理中恐惧心理

踏雪痕

项目管理 8月月更

区块链或者智能合约开发的 5 种最佳编程语言

devpoint

区块链 以太坊 8月月更

【python小游戏】用python写一款小游戏--贪吃蛇

BROKEN

8月日更 8月月更

七日算法先导(三)—— 快速排序,插入排序

工程师日月

8月月更

头脑风暴:完全背包

HelloWorld杰少

8月月更

工业物联网 —— 新型数据库的召唤

CnosDB

IoT 时序数据库 开源社区 CnosDB infra

开源一夏|OpenHarmony如何查询设备类型(eTS)

坚果

开源 HarmonyOS OpenHarmony 8月月更

【LeetCode】最大层内元素和Java题解

Albert

LeetCode 8月月更

C++对象的初始化和清理之构造函数和析构函数分析与实例(一)

CtrlX

c++ 面向对象 后端 代码 8月月更

手写分布式配置中心(1)

分享干货的你

java; spring-boot SpringCould 签约计划第三季

【数据挖掘概论】数据挖掘的简单描述

晴天

8月月更

2022前端秋招vue面试题

helloworld1024fd

Vue

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章