IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> HDFS中的块概念 -> 正文阅读

[大数据]HDFS中的块概念

  • 传统分布式文件系统中文件存储的缺点:

1.磁盘负载不均衡。

举例来说,在两台机器上的两个1TB的磁盘中,如果一个机器上存储了一个50MB的文件,另一个机器上存储了一个50GB的文件,就会导致这两台机器上的磁盘使用率有较大的差别,也即负载不均衡。

2.读取数据的速度受到限制。

举例来说,如果一个文件是1.3TB,那么该文件在存储时会被分割成1TB和0.3TB两个文件,而磁盘的大小为1TB,那么这两个拆分出来的文件就要被存储在两个机器上,当某个业务逻辑是需要读取这两个子文件进行计算时,就会出现0.3TB的这个子文件很快就被读完了,而1TB的这个文件要花较多的时间进行读取,使得读取0.3TB文件的这个程序要等待1TB文件的读取结果才能使整个业务逻辑进行下一步处理,这样就会造成资源的浪费。

  • HDFS中的块

HDFS中的块相对于传统文件存储系统的块大小来说是较大的,并且是可以自定义的。块是HDFS中的最小存储单位,在hadoop2.x中默认大小是128MB,在hadoop1.x中默认是64MB,在hadoop3.x中默认大小是256MB。在HDFS中存储文件时,会将文件拆分成块,以块为单位进行存储,如果一个文件按照128MB(块大小)进行拆分,可能最后一个文件拆分出来的大小不足128MB,此时该子文件不会将整个块的128MB都占用;拆分出来的块会有它相应的副本,块与其副本会存在不同的DataNode上以实现副本机制。拆分出来的多个块也尽可能地存储在不同的DataNode上以实现负载均衡,但块与其他块的副本可以存储在同一个节点上,因为他们本身就是互不相干的数据。

  • 为什么HDFS中的块大小远大于传统文件中的块大小?

1.因为在读取文件时寻址时间占用了较大的开销,也即想要读取某个文件时,花了较长的时间去寻找文件所在块的起始地址,找到起始位置后,读取文件时是顺序读取,用时开销较短。而近年来,随着硬盘的传输速度逐渐提高,块的大小也相应地增大了。

2.由于一个块的metedata大约在内存中占用150个字节,metadata的数据会存储在NameNode的内存中。无论这个块的大小是多少,它的metadata都是要占用150个字节,那么在大体量的数据存储集群中,将块的大小设置的相对大一些也是在提高数据的存储性能,能够存储更多的数据。

  • 块大小的配置

块大小的配置在$HADDOP_HOME/etc/hadoop/hdfs-site.xml中:

  • ?块的存储位置

在$HADDOP_HOME/etc/hadoop/core-site.xml中我们配置了一个目录,该目录下会存储NameNode和DataNode的数据。

在data目录下存储的是DataNode的数据:

?这里面的BP-XXXXXXX是表示BlockPool(块池),后面的一串id是要和集群的id保持一致的。

我们可以看到name目录下NameNode节点存储的集群id:

?再次进入到data目录下查看块池下面的内容,?这里可以看到很多blk(block)开头的文件,这就是块所存储的位置:

?参考视频:bilibili.com/video/BV18y4y1G7JA?p=9

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-04-04 12:18:09  更:2022-04-04 12:21:15 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 4:44:17-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码