IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Hadoop集群配置及启动 -> 正文阅读

[大数据]Hadoop集群配置及启动

一、搭建完全分布式hadoop集群,我们先来实现如下集群的配置:
在这里插入图片描述
配置前我们介绍一下配置文件:
以下所有的配置文件都在hadoop安装目录下etc文件中,路径如下:
/opt/module/hadoop-3.1.3/etc/hadoop/
在这里插入图片描述
我们需要配置的文件如下:
在这里插入图片描述
core-site.xml :1、NameNode的地址 2、Hadoop数据存储目录
在这里插入图片描述

hdfs-site.xml :1、NameNode和2NN对外web访问地址
在这里插入图片描述

yarn-site.xml:1、指定MapReduce的协议 2、指定ResourceManger的地址 3、添加Maperd环境变量的继承(此项hadoop3.2以上版本可以无需指定)
在这里插入图片描述

mapred-site.xml :1、指定MapReduce程序运行在Yarn上
在这里插入图片描述

好了,到现在为止,我们搭建了一台服务器,其他两台的配置我们用集群分发脚本分发一下(脚本见之前的文章)。
在这里插入图片描述
二、启动集群

1、格式化NameNode

如果是第一次启动集群,我们在含有NameNode的服务器上先格式化NameNode( 注意 : 格 式 化 NameNode , 会 产 生 新的集群 id , 导 致 NameNode 和 DataNode 的集群 id 不 一 致 , 集群 找 不 到已 往 数据。 如果集群在 运 行过程中 报错 , 需 要 重 新 格 式 化 NameNode 的 话 , 一定要 先 停止 namenode 和 datanode 进程, 并 且 要 删 除所有 机 器的 data 和 logs 目 录 , 然后再 进行 格 式 化 。 及停服务、删文件、格式化)

 hdfs namenode  -format

结果展示:出现存数据的Data文件、logs日志文件
在这里插入图片描述

2、启动HDFS

sbin/start-dfs.sh
jps

结果如下:
hadoop001上启动NameNode、DataNode
在这里插入图片描述
hadoop002上启动ResourceManager、DataNoda
hadoop上启动YARN:

sbin/start-yarn.sh

在这里插入图片描述
hadoop003上启动了DataNade、SecondaryNode
在这里插入图片描述

3、查看Web端HDFS的NameNode和YARN的ResourceManager
首先关闭服务器防火墙

sudo systemctl stop firewalld.service

浏览器输入http://hadoop001:9870查看HDFS信息
在这里插入图片描述
浏览器输入http://hadoop002:8088查看ResourceManager信息
在这里插入图片描述
至此,hadoop完全分布式搭建完成!

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-05-18 17:42:19  更:2022-05-18 17:42:52 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 23:54:40-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码