IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> ZooKeeper实现hadoop集群高可用 -> 正文阅读

[大数据]ZooKeeper实现hadoop集群高可用


【提示】实现hadoop集群HA,是在已实现master,node1,node2三节点集群的基础上进行重新新规划。首先需停止原先集群的运行:stop-all.sh

1. zookeeper搭建:

点这里

2. 集群搭建

2.1. 集群规划如下:

 		ZK	NN	DN	RM	NM	JN	ZKFC
master	1	1		1		1	1
node1	1	1	1	1	1	1	1
node2	1		1		1	1

2.2. node1免密配置

ssh-keygen -t rsa 
ssh-copy-id node1
ssh-copy-id node2

在这里插入图片描述

2.3. 更新修改hadoop,yarn 配置文件

文件已上传资源可直接下载

  • core-site.xml
  • hdfs-site.xml
  • yarn-site.xml
  • mapred-site.xml

直接上传覆盖
在这里插入图片描述

2.4. scp 复制到其他节点

scp -r hadoop/*  node1:/usr/local/soft/hadoop-2.7.6/etc/hadoop/
scp -r hadoop/*  node2:/usr/local/soft/hadoop-2.7.6/etc/hadoop/

2.5. 删除之前集群的tmp文件

 rm -rf /usr/local/soft/hadoop-2.7.6/tmp

2.6. 启动zookeeper

三台都需要启动

zkServer.sh start
zkServer.sh status

在这里插入图片描述

2.7. 启动 journalnode

# 三台JN上执行 启动命令:

hadoop-daemon.sh start journalnode

在这里插入图片描述

2.8. 格式化集群

  # 在master NN上执行
  hdfs namenode -format
  
  # 启动当前的NN
  hadoop-daemon.sh start namenode

在这里插入图片描述

2.9. 同步第二个namenode

这里第二namenode在node1上
在没有格式化的(node1)NN上执行 :

hdfs namenode -bootstrapStandby

2.10. 格式化ZK

在已经启动的(master)namenode上面执行

hdfs zkfc -formatZK

在这里插入图片描述

2.11.启动hdfs集群

在启动了namenode的节点(master)上执行

start-dfs.sh

在这里插入图片描述

2.12.yarn 高可用

  • 修改配置文件
    yarn-site.xml
    mapred-site.xml
    同步到所有节点
    前面已做过

2.13.启动yarn

2.13.1 在master启动

start-yarn.sh

2.13.2 在node1启动

在另外一台主节点(node1)上启动resourcemanager

yarn-daemon.sh start resourcemanager

2.14 最后jps查看结果

在这里插入图片描述

3.测试集群高可用

3.1. 登录web界面

3.1.1 master:50070

active
在这里插入图片描述

3.1.2.node1:50070

standby
在这里插入图片描述

3.2 停止master的namenode

在这里插入图片描述
在这里插入图片描述
查看 node1的web界面已经由standby变为active
在这里插入图片描述

3.3 重新启动master的namenode

hadoop-daemon.sh start namenode

在这里插入图片描述
重新查看master的web界面 已经变为standby
在这里插入图片描述

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-11-23 12:26:02  更:2021-11-23 12:28:17 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 8:49:38-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码