IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> linux虚拟机上安装hadoop -> 正文阅读

[大数据]linux虚拟机上安装hadoop

设置账号:组 ??hadoop:hadoop

SSH免密登录

注意事项:

? ? ? 关闭防护墙

  • 显示状态:systemctl status firewalld.service
  • 关闭:systemctl stop firewalld.service
  • 开机时禁用:systemctl disable firewalld.service

1.上传文件

(以hadoop·2.7.2为例)

?2.解压

[hadoop@hadoop1 soft]$ tar zxvf hadoop-2.7.2.tar.gz -C /opt/module

?3.配置环境变量

[hadoop@hadoop1 soft]$ sudo vim /etc/profile

修改为:

?

export HADOOP_HOME=/opt/module/hadoop-2.7.2

export PATH=$PATH:$HADOOP_HOME/bin

export PATH=$PATH:$HADOOP_HOME/sbin

环境变量生效

[hadoop@hadoop1 soft]$ source /etc/profile

默认配置文件目录 $HADOOP_HOME/etc/hadoop

?

4.配置文件说明

默认的配置文件:

core-default.xml: Hadoop核心的参数

?hdfs-default.xml ??HDFS相关的参数!

?mapred-default.xml: ?MR程序在运行时的参数!

?yarn-default.xml: yarn: YARN在启动时需要的参数!

?

用户可以自定义的配置文件

core-site.xml: 用户自定义的设置hadoop核心的参数

hdfs-site.xml ??用户自定义的HDFS相关的参数

mapred-site.xml: 用户自定义的MR程序需要的参数

yarn-site.xml: 用户自定义的YARN在启动时需要的参数

?5.配置core-site.xml

[hadoop@hadoop1 hadoop]$ vi core-site.xml

<configuration>

?<!-- 指定HDFS中NameNode的地址 -->

?<property>

??????<name>fs.defaultFS</name>

??????<value>hdfs://hadoop1:9000</value>

?</property>

?<!-- 指定Hadoop运行时产生文件的存储目录 -->

?<property>

????????<name>hadoop.tmp.dir</name>

????????<value>/opt/module/hadoop-2.7.2/data/tmp</value>

?</property>

</configuration>

6.配置hadoop-env.sh

[hadoop@hadoop1 hadoop]$ vi hadoop-env.sh

?export JAVA_HOME=/opt/module/jdk1.8.0_144(或其他版本jdk)

?7.配置hdfs-site.xml

[hadoop@hadoop1 hadoop]$ vi hdfs-site.xml

<!—副本因子 -->

<configuration>

?<property>

???<name>dfs.replication</name>

???<value>3</value>

?</property>

<!-- 指定Hadoop辅助名称节点主机配置 -->

?<property>

??????<name>dfs.namenode.secondary.http-address</name>

??????<value>hadoop3:50090</value>

?</property>

</configuration>

?8.配置yarn-env.sh

[hadoop@hadoop1 hadoop]$ vi yarn-env.sh

?export JAVA_HOME=/opt/module/jdk1.8.0_144

9.配置yarn-site.xml

[hadoop@hadoop1 hadoop]$ vi yarn-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->

<!-- Reducer获取数据的方式 -->

??<property>

????????<name>yarn.nodemanager.aux-services</name>

????????<value>mapreduce_shuffle</value>

??</property>

??<!-- 指定YARN的ResourceManager的地址 -->

??<property>

????????<name>yarn.resourcemanager.hostname</name>

????????<value>hadoop2</value>

??</property>

</configuration>

10.配置mapred-env.sh

[hadoop@hadoop1 hadoop]$ vi mapred-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

?11.配置mapred-site.xml

[hadoop@hadoop1 hadoop]$ cp mapred-site.xml.template mapred-site.xml

[hadoop@hadoop1 hadoop]$ vi mapred-site.xml

?

<configuration>

?<!-- 指定MR运行在YARN上 -->

?<property>

????????<name>mapreduce.framework.name</name>

????????<value>yarn</value>

?</property>

??<!-- 配置 MapReduce JobHistory Server 地址,默认端口10020 -->

????<property>

????????<name>mapreduce.jobhistory.address</name>

????????<value>hadoop3:10020</value>

????</property>

????<!-- 配置 MapReduce JobHistory Server web ui 地址,默认端口19888 -->

????<property>

????????<name>mapreduce.jobhistory.webapp.address</name>

????????<value>hadoop3:19888</value>

????</property>

</configuration>

12.配置slaves

[hadoop@hadoop1 hadoop]$ vi slaves

?

?

?

?

?

?

?

?

?

?

?

?

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-10-16 19:42:31  更:2021-10-16 19:44:47 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 0:40:08-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码