写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:00963

评论

发布
暂无评论
发现更多内容

荣誉|奇点云入选“2024爱分析·数据智能优秀厂商”

奇点云

主动写入流对@ResponseBody注解的影响

京东科技开发者

Docker运行环境安装

京东科技开发者

构建区块链生态系统:公链、浏览器、钱包与节点搭建全攻略

区块链软件开发推广运营

交易所开发 dapp开发 链游开发 钱包开发 代币开发

解锁热带雨林:Mint Expedition 第四季正式开启!

NFT Research

blockchain NFT\ #Web3

HDFS 统一存储实战经验|京东零售技术实践

京东零售技术

大数据 数据

【FAQ】HarmonyOS SDK 闭源开放能力 —Push Kit(4)

HarmonyOS SDK

HarmonyOS

ppt文字描边怎么设置?用这2个软件轻松制作!

职场工具箱

职场 PPT 办公软件 AI生成PPT

图像生成新范式:智源推出全能视觉生成模型 OmniGen

智源研究院

软件工程师如何有效推动大型项目:全面指南

爱吃小舅的鱼

软件工程 项目 软件工程师

拼多多的数字农业三部曲:新技术、新农人、新商路

Alter

数字农业

NFTScan | 10.21~10.27 NFT 市场热点汇总

NFT Research

NFT\

分布式服务高可用实现:复制

京东科技开发者

ApsaraMQ Serverless 能力再升级,事件驱动架构赋能 AI 应用

阿里巴巴云原生

阿里云 云原生 消息队列

Combination of IPQ5322 and QCN9274: Unlock the high performance potential of WiFi 7

wifi6-yiyi

WiFi7

威睿能源:赋能绿色转型,打造低碳未来

科技热闻

如何技术上配置对接Teams Direct Routing

cts喜友科技

通讯 云通讯 通讯通信

JVM 调优深度剖析:优化 Java 应用的全方位攻略(一)

王中阳Go

Java JVM

雷鸟发布 AR 眼镜雷鸟 Air 3:售价 1699 元;苹果 M4 版 iMac 发布 10999 元起丨 RTE 开发者日报

声网

Dropzone 4 for mac(文件拖拽增强工具)

Mac相关知识分享

文件管理工具

商家下载中心设计演进之路|得物技术

得物技术

Java 后端 架构设计

阿里云消息团队创新论文被软件工程顶会 FM 2024 录用

阿里巴巴云原生

阿里云 云原生 消息队列

淘宝商品评价API的获取与应用

科普小能手

API 接口 API 测试 淘宝API接口 淘宝API 淘宝商品评价接口

如何通过事件溯源实现百万TPS全内存撮合交易引擎

Damon

事件溯源 撮合交易系统 全内存

如何与上级保持良好关系

老张

职场 升职加薪 沟通方式

利用 EMQX ECP 实现边缘服务配置的版本管理与参数化下发

EMQ映云科技

边缘计算 智能IoT边缘服务 emqx EMQX ECP

无代码时代来临,程序员面临淘汰?

积木链小链

程序员 IT 无代码 无代码平台

1688跨境寻原通数据接口对接:跨境电商卖家必看!

tbapi

1688API 1688代采系统 1688跨境寻源通 1688跨境代采

公链实体矿机矿池搭建系统开发指南

区块链软件开发推广运营

交易所开发 dapp开发 链游开发 钱包开发 代币开发

基于纯血鸿蒙开发,微信适配情况如何?

博文视点Broadview

功能强大的文件查找工具Find Any File (FAF) for Mac

Mac相关知识分享

软件

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章