四、HADOOP(HDFS)-05
NameNode 和 SecondaryNameNode(重点)
1、NameNode和SecondaryNameNode工作机制
1、NameNode的工作机制
(1)第一阶段：NameNode启动
a、第一次启动NameNode格式化后，创建Fsimage和Edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。
b、客户端对元数据进行增删改的请求。
c、NameNode 记录操作日志，更新滚动日志。
d、NameNode在内存中对数据进行增删改。
(2) 第二阶段：SecondaryName工作
a、SecondaryNameNode询问NameNode是否需要CheckPoint。直接带回NameNode是否检查结果。
b、SecondaryNameNode请求执行CheckPoint。
c、NameNode滚动正在写的Edits日志。
d、将滚动前的编辑日志和镜像文件拷贝到SecondaryNameNode。
e、SecondaryNameNode加载编辑日志和镜像文件到内存，并合并。
f、生成新的镜像文件fsimage.checkPoint。
g、拷贝fsimage.checkpoint到NameNode。
h、NameNode将fsimage.checkpoint重新命名成fsimage。
2、Fsimage和Edits解析
1、Fsimage和Edits概念
NameNode被格式化后，将在/opt/hadoop-2.7.2/data/tmp/dfs/name/current目录中产生如下文件。
fsimage_0000000000000000000
fsimage_0000000000000000000.md5
seen_txid
VERSION
(1) Fsimage文件：HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件inode的序列化信息。
(2) Edits文件：存放HDFS文件系统的所有更新操作的路径，文件系统客户端执行的所有写操作首先会被记录到Edits文件中。
(3) seen_txid文件保存的是一个数字，就是最后一个edits_的数字
(4) 每次NameNode启动的时候都会将Fsimage文件读内存，加载Edits里面的更新操作，保证内存中的元数据信息是最新的、同步的，可以看成NameNode启动的时候就将Fsimage和Edits和文件进行合并。
2、oiv查看Fsimage文件
(1) 查看oiv和oev命令
[lyinl@hadoop102 current]$ hdfs
oiv apply the offline fsimage viewer to an fsimage
oev apply the offline edits viewer to an edits file
(2) 基本语法
? hdfs oiv -p 文件类型 -i镜像文件 -o 转换后文件输出路径
(3) 案例
[lyinl@hadoop102 current]$ pwd
/opt/hadoop-2.7.2/data/tmp/dfs/name/current
[lyinl@hadoop102 current]$ hdfs oiv -p XML -i
fsimage_0000000000000000025 -o /opt/hadoop-
2.7.2/fsimage.xml
[lyinl@hadoop102 current]$ cat /opt/hadoop-
2.7.2/fsimage.xml
? 将显示的xml文件内容拷贝到idea中创建的xml文件中，并格式化。部分显示结果如下：
<inode>
<id>16386</id>
<type>DIRECTORY</type>
<name>user</name>
<mtime>1512722284477</mtime>
<permission>atguigu:supergroup:rwxr-xr-x</permission>
<nsquota>-1</nsquota>
<dsquota>-1</dsquota>
</inode>
<inode>
<id>16387</id>
<type>DIRECTORY</type>
<name>atguigu</name>
<mtime>1512790549080</mtime>
<permission>atguigu:supergroup:rwxr-xr-x</permission>
<nsquota>-1</nsquota>
<dsquota>-1</dsquota>
</inode>
<inode>
<id>16389</id>
<type>FILE</type>
<name>wc.input</name>
<replication>3</replication>
<mtime>1512722322219</mtime>
<atime>1512722321610</atime>
<perferredBlockSize>134217728</perferredBlockSize>
<permission>atguigu:supergroup:rw-r--r--</permission>
<blocks>
<block>
<id>1073741825</id>
<genstamp>1001</genstamp>
<numBytes>59</numBytes>
</block>
</blocks>
可以发现：Fsimage中没有记录块所对应DataNode。这是因为在集群启动后，要求DataNode上包数据块信息，并间隔一段时间后再次上报。
3、oev查看Edits文件
(1) 基本语法
hdfs oev -p 文件类型 -i 编辑日志 -o 转化后文件输出路径
(2) 案例操作
[lyinl@hadoop102 current]$ hdfs oev -p XML -i
edits_0000000000000000012-0000000000000000013 -o /opt/hadoop-2.7.2/edits.xml
[lyinl@hadoop102 current]$ cat /opt/hadoop-2.7.2/edits.xml
? 将显示的 xml 文件内容拷贝到 idea 中创建的 xml 文件中，并格式化。显示结果
如下:
<?xml version="1.0" encoding="UTF-8"?>
<EDITS>
<EDITS_VERSION>-63</EDITS_VERSION>
<RECORD>
<OPCODE>OP_START_LOG_SEGMENT</OPCODE>
<DATA>
<TXID>129</TXID>
</DATA>
</RECORD>
<RECORD>
<OPCODE>OP_ADD</OPCODE>
<DATA>
<TXID>130</TXID>
<LENGTH>0</LENGTH>
<INODEID>16407</INODEID>
<PATH>/hello7.txt</PATH>
<REPLICATION>2</REPLICATION>
<MTIME>1512943607866</MTIME>
<ATIME>1512943607866</ATIME>
<BLOCKSIZE>134217728</BLOCKSIZE>
<CLIENT_NAME>DFSClient_NONMAPREDUCE_-
1544295051_1</CLIENT_NAME>
<CLIENT_MACHINE>192.168.1.5</CLIENT_MACHINE>
<OVERWRITE>true</OVERWRITE>
<PERMISSION_STATUS>
<USERNAME>atguigu</USERNAME>
<GROUPNAME>supergroup</GROUPNAME>
<MODE>420</MODE>
</PERMISSION_STATUS>
<RPC_CLIENTID>908eafd4-9aec-4288-96f1- e8011d181561</RPC_CLIENTID>
<RPC_CALLID>0</RPC_CALLID>
</DATA>
</RECORD>
<RECORD>
<OPCODE>OP_ALLOCATE_BLOCK_ID</OPCODE>
<DATA>
<TXID>131</TXID>
<BLOCK_ID>1073741839</BLOCK_ID>
</DATA>
</RECORD>
<RECORD>
<OPCODE>OP_SET_GENSTAMP_V2</OPCODE>
<DATA>
<TXID>132</TXID>
<GENSTAMPV2>1016</GENSTAMPV2>
</DATA>
</RECORD>
<RECORD>
<OPCODE>OP_ADD_BLOCK</OPCODE>
<DATA>
<TXID>133</TXID>
<PATH>/hello7.txt</PATH>
<BLOCK>
<BLOCK_ID>1073741839</BLOCK_ID>
<NUM_BYTES>0</NUM_BYTES>
<GENSTAMP>1016</GENSTAMP>
</BLOCK>
<RPC_CLIENTID></RPC_CLIENTID>
<RPC_CALLID>-2</RPC_CALLID>
</DATA>
</RECORD>
<RECORD>
<OPCODE>OP_CLOSE</OPCODE>
<DATA>
<TXID>134</TXID>
<LENGTH>0</LENGTH>
<INODEID>0</INODEID>
<PATH>/hello7.txt</PATH>
<REPLICATION>2</REPLICATION>
<MTIME>1512943608761</MTIME>
<ATIME>1512943607866</ATIME>
<BLOCKSIZE>134217728</BLOCKSIZE>
<CLIENT_NAME></CLIENT_NAME>
<CLIENT_MACHINE></CLIENT_MACHINE>
<OVERWRITE>false</OVERWRITE>
<BLOCK>
<BLOCK_ID>1073741839</BLOCK_ID>
<NUM_BYTES>25</NUM_BYTES>
<GENSTAMP>1016</GENSTAMP>
</BLOCK>
<PERMISSION_STATUS>
<USERNAME>atguigu</USERNAME>
<GROUPNAME>supergroup</GROUPNAME>
<MODE>420</MODE>
</PERMISSION_STATUS>
</DATA>
</RECORD>
</EDITS >
NameNode启动的时候合并的是上次停机前正在写入的Edits，即edits_inprogress_xxx
根据seen_txid里面记录最新的Fsimage(镜像文件)的值去合并Edits(编辑日志)。
3、CheckPoint时间设置
(1) 通常情况下，SecondaryNameNode每隔一小时执行一次。
[hdfs-default.xml]
<property>
<name>dfs.namenode.checkpoint.period</name>
<value>3600</value>
</property>
(2) 一分钟检查一次操作次数，当操作次数达到1百万时，SecondaryNameNode执行一次。
<property>
<name>dfs.namenode.checkpoint.txns</name>
<value>1000000</value>
<description>操作动作次数</description>
</property>
<property>
<name>dfs.namenode.checkpoint.check.period</name>
<value>60</value>
<description> 1 分钟检查一次操作次数</description>
</property >
4、Name Node故障处理
NameNode故障后，可以采用如下两种方法恢复数据。
方法一：将SecondaryNameNode中数据拷贝到NameNode存储数据的目录；
1、kill -9 NameNode进程
2、删除NameNode存储的数据(/opt/hadoop-2.7.2/data/tmp/dfs/name)
[lyinl@hadoop102 hadoop-2.7.2]$ rm -rf /opt/module/hadoop-
2.7.2/data/tmp/dfs/name/*
3、拷贝SecondaryNameNodezhong数据到原NameNode存储数据目录
[lyinl@hadoop102 dfs]$ scp -r lyinl@hadoop104:/opt/hadoop-
2.7.2/data/tmp/dfs/namesecondary/* ./name/
4、重复启动NameNode
[lyinl@hadoop102 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start
namenode
方法二：使用-importCheckpoint 选项启动 NameNode 守护进程，从而将SecondaryNameNode中数据拷贝到NameNode目录中。
1、修改hdfs-site.xml中的
<property>
<name>dfs.namenode.checkpoint.period</name>
<value>120</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/opt/hadoop-2.7.2/data/tmp/dfs/name</value>
</property>
2、kill -9 NameNode进程
3、删除NameNode存储的数据(/opt/hadoop-2.7.2/data/tmp/dfs/name)
[lyinl@hadoop102 hadoop-2.7.2]$ rm -rf /opt/hadoop-2.7.2/data/tmp/dfs/name/*
4、如果SecondaryNameNode在一个主机节点上，需要将SecondaryNameNode存储数据的目录拷贝到NameNode存储数据的平级目录，并删除in_use.lock文件
[lyinl@hadoop102 dfs]$ scp -r
lyinl@hadoop104:/opt/hadoop-
2.7.2/data/tmp/dfs/namesecondary ./
[lyinl@hadoop102 namesecondary]$ rm -rf in_use.lock
[lyinl@hadoop102 dfs]$ pwd
/opt/hadoop-2.7.2/data/tmp/dfs
[lyinl@hadoop102 dfs]$ ls
data name namesecondary
5、导入检查点数据(等会ctrl+c结束)
[lyinl@hadoop102 hadoop-2.7.2]$ bin/hdfs namenode -
importCheckpoint
6、启动NameNode
[lyinl@hadoop102 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start
namenode
5、集群安全模式
1、概述
1、NameNode启动
? NameNode启动时，首先将镜像文件(Fsimage)载入内存，并执行编辑日志(Edits)中的各项操作。一旦在内存中成功建立文件系统元数据的镜像，则创建一个新的Fsimage文件和一个空的编辑日志。此时，NameNode开始监听DataNode请求。这个过程期间，NameNode一直运行在安全模式，即NameNode的文件系统对于客户端来说是只读的。
2、DataNode启动
? 系统中的数据块的位置并不由NameNode维护的，而是以块列表的形式存储在DataNode中。在系统的正常操作期间，NameNode会在内存中保留所有块位置的映射信息。在安全模式下，各个DataNode会向NameNode发送最新的块列表信息，NameNode了解到足够多的块位置信息之后，即可搞笑运行文件系统。
3、安全模式退出判断
? 当满足“最小副本条件”NameNode会在39秒钟之后就会退出安全模式。所谓的最小副本条件指的是在整个文件系统中99.9%的块满足最小副本级别(默认值：dfs.replication.min=1)。在启动一个刚刚格式化的HDFS集群时，因为系统中还没有任何块，所以NameNode不会进入安全模式。
2、基础语法
? 集群处于安全模式，不呢个执行重要操作(写操作)。集群启动完成后，自动退出安全模式。
? (1) bin/hdfs dfsadmin -safemode get (功能描述：查看安全模式状态)
? (2) bin/hdfs dfsadmin -safemode enter (功能描述：进入安全模式状态)
? (3) bin/hdfs dfsadmin -safemode leave (功能描述：离开安全模式状态)
? (4) bin/hdfs dfsadmin -safemode wait (功能描述：等待安全模式状态)
3、案例操作
? 模拟等待安全模式
? (1) 查看当前模式
[lyinl@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -safemode get
Safe mode is OFF
? (2) 先进入安全模式
[lyinl@hadoop102 hadoop-2.7.2]$ bin/hdfs dfsadmin -safemode enter
? (3) 创建并执行脚本
[lyinl@hadoop102 hadoop-2.7.2]$ touch safemode.sh
[lyinl@hadoop102 hadoop-2.7.2]$ vim safemode.sh
#!/bin/bash
hdfs dfsadmin -safemode wait
hdfs dfs -put /opt/hadoop-2.7.2/README.txt /
[lyinl@hadoop102 hadoop-2.7.2]$ chmod 777 safemode.sh
[lyinl@hadoop102 hadoop-2.7.2]$ ./safemode.sh
? (4) 再打开一个窗口，执行
[lyinl@hadoop102 hadoop-2.7.2]$ bin/hdfs dfsadmin -safemode
leave
? 然后，再观察上一个窗口，显示 Safe mode is OFF，此时HDFS集群上已经有上传的数据了。
6、NameNode多目录配置
1、NameNode的本地目录可以配置成多个，且每个目录存放内容相同，增加了可靠性
? 具体配置如下：
? (1) 在hdfs-site.xml文件增加如下内容
<property>
<name>dfs.namenode.name.dir</name>
<value>file:///${hadoop.tmp.dir}/dfs/name1,file:///${hadoop.tmp.dir}/dfs/name2</value>
</property>
? (2) 停止集群，删除data和logs中所有数据。
[lyinl@hadoop102 hadoop-2.7.2]$ rm -rf data/ logs/
[lyinl@hadoop103 hadoop-2.7.2]$ rm -rf data/ logs/
[lyinlgu@hadoop104 hadoop-2.7.2]$ rm -rf data/ logs/
? (3) 格式化集群并启动
[lyinl@hadoop102 hadoop-2.7.2]$ bin/hdfs namenode –format
[lyinl@hadoop102 hadoop-2.7.2]$ sbin/start-dfs.sh
? (4) 查看结果
[lyinl@hadoop102 dfs]$ ll
总用量 12
drwx------. 3 lyinl lyinl 4096 8 月 11 08:03 data
drwxrwxr-x. 3 lyinl lyinl 4096 8 月 11 08:03 name1
drwxrwxr-x. 3 lyinl lyinl 4096 8 月 11 08:03 name2