IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Hadoop-01-安装 -> 正文阅读

[大数据]Hadoop-01-安装

安装文件?

网盘链接:https://pan.baidu.com/s/1HbfuayHexjCPGwlW3sX-zQ?

包含:hadoop-2.4.1.tar.gz、jdk-7u65-linux-i586.tar.gz、hadoop2.4.1伪分布式搭建步骤.txt

hadoop伪分布式安装步骤?

?环境准备

1.准备Linux环境
?? ?1.0点击VMware快捷方式,右键打开文件所在位置 -> 双击vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 设置网段:192.168.1.0 子网掩码:255.255.255.0 -> apply -> ok
?? ??? ?回到windows --> 打开网络和共享中心 -> 更改适配器设置 -> 右键VMnet1 -> 属性 -> 双击IPv4 -> 设置windows的IP:192.168.1.100 子网掩码:255.255.255.0 -> 点击确定
?? ??? ?在虚拟软件上 --My Computer -> 选中虚拟机 -> 右键 -> settings -> network adapter -> host only -> ok?? ?
?? ?1.1修改主机名
?? ??? ?vim /etc/sysconfig/network
?? ??? ?
?? ??? ?NETWORKING=yes
?? ??? ?HOSTNAME=itcast ? ?###

?? ?1.2修改IP
?? ??? ?两种方式:
?? ??? ?第一种:通过Linux图形界面进行修改(强烈推荐)
?? ??? ??? ?进入Linux图形界面 -> 右键点击右上方的两个小电脑 -> 点击Edit connections -> 选中当前网络System eth0 -> 点击edit按钮 -> 选择IPv4 -> method选择为manual -> 点击add按钮 -> 添加IP:192.168.1.101 子网掩码:255.255.255.0 网关:192.168.1.1 -> apply
?? ?
?? ??? ?第二种:修改配置文件方式(屌丝程序猿专用)
?? ??? ??? ?vim /etc/sysconfig/network-scripts/ifcfg-eth0
?? ??? ??? ?
?? ??? ??? ?DEVICE="eth0"
?? ??? ??? ?BOOTPROTO="static" ? ? ? ? ? ? ? ### 此处需要设为static
?? ??? ??? ?HWADDR="00:0C:29:3C:BF:E7"
?? ??? ??? ?IPV6INIT="yes"
?? ??? ??? ?NM_CONTROLLED="yes"
?? ??? ??? ?ONBOOT="yes"
?? ??? ??? ?TYPE="Ethernet"
?? ??? ??? ?UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"
?? ??? ??? ?IPADDR="192.168.1.101"? ? ? ? ? ? ?### 内网ip
?? ??? ??? ?NETMASK="255.255.255.0" ? ? ? ? ###
?? ??? ??? ?GATEWAY="192.168.1.1"? ? ? ? ? ? ?###
?? ??? ??? ?
?? ?1.3修改主机名和IP的映射关系? ?----? 后续配置根据域名请求服务地址
?? ??? ?vim /etc/hosts

?? ??? ?192.168.1.101?? ?itcast
?? ?
?? ?1.4关闭防火墙
?? ??? ?#查看防火墙状态
?? ??? ?service iptables status
?? ??? ?#关闭防火墙
?? ??? ?service iptables stop
?? ??? ?#查看防火墙开机启动状态
?? ??? ?chkconfig iptables --list
?? ??? ?#关闭防火墙开机启动
?? ??? ?chkconfig iptables off
?? ?
?? ?1.5重启Linux
?? ??? ?reboot

开始安装

2.安装JDK
?? ?2.1上传alt+p 后出现sftp窗口,然后put d:\xxx\yy\ll\jdk-7u_65-i585.tar.gz
?? ?
?? ?2.2解压jdk
?? ??? ?#创建文件夹
?? ??? ?mkdir /home/hadoop/app
?? ??? ?#解压
?? ??? ?tar -zxvf jdk-7u55-linux-i586.tar.gz -C /home/hadoop/app
?? ??? ?
?? ?2.3将java添加到环境变量中
?? ??? ?vim /etc/profile
?? ??? ?#在文件最后添加
?? ??? ?export JAVA_HOME=/home/hadoop/app/jdk-7u_65-i585
?? ??? ?export PATH=$PATH:$JAVA_HOME/bin
?? ?
?? ??? ?#刷新配置
?? ??? ?source /etc/profile
?? ??? ?
3.安装hadoop2.4.1
?? ?先上传hadoop的安装包到服务器上去/home/hadoop/
?? ?注意:hadoop2.x的配置文件在hadoop安装目录下的/etc/hadoop目录下
?? ?伪分布式需要修改5个配置文件
?? ?3.1配置hadoop
?? ?第一个:hadoop-env.sh
?? ??? ?vim hadoop-env.sh
?? ??? ?#第27行 指定jdk目录
?? ??? ?export JAVA_HOME=/usr/java/jdk1.7.0_65
?? ??? ?
?? ?第二个:core-site.xml

?? ??? ?<!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->
?? ??? ?<property>
?? ??? ??? ?<name>fs.defaultFS</name>
?? ??? ??? ?<value>hdfs://itcast:9000</value>? ? ?<!-- 本机ip:9000端口 -->
?? ??? ?</property>
?? ??? ?<!-- 指定hadoop运行时产生文件的存储目录 -->
?? ??? ?<property>
?? ??? ??? ?<name>hadoop.tmp.dir</name>
?? ??? ??? ?<value>/home/hadoop/hadoop-2.4.1/tmp</value>
? ? </property>
?? ??? ?
?? ?第三个:hdfs-site.xml ? hdfs-default.xml ?(3)
?? ??? ?<!-- 指定HDFS副本的数量 -->
?? ??? ?<property>
?? ??? ??? ?<name>dfs.replication</name>
?? ??? ??? ?<value>1</value>
? ? </property>
?? ??? ?
?? ?第四个:mapred-site.xml
?? ??? ?mv mapred-site.xml.template mapred-site.xml? ? ? -- 修改文件名
?? ??? ?vim mapred-site.xml
?? ??? ?<!-- 指定mr运行在yarn上 -->
?? ??? ?<property>
?? ??? ??? ?<name>mapreduce.framework.name</name>
?? ??? ??? ?<value>yarn</value>
? ? ? ? </property>
?? ??? ?
?? ?第五个:yarn-site.xml
?? ??? <!-- 指定YARN的老大(ResourceManager)的地址 -->
?? ???<property>
?? ??? ??? ?<name>yarn.resourcemanager.hostname</name>
?? ??? ??? ?<value>weekend-1206-01</value>
? ? ? </property>
?? ???<!-- reducer获取数据的方式 -->
? ? ? <property>
?? ??? ??? ?<name>yarn.nodemanager.aux-services</name>
?? ??? ??? ?<value>mapreduce_shuffle</value>
? ? ? ?</property>
? ? ??? ?
?? ?3.2将hadoop添加到环境变量
?? ?vim /etc/proflie? ?--? 修改环境变量文件


?? ??? ?export JAVA_HOME=/usr/java/jdk1.7.0_65
?? ??? ?export HADOOP_HOME=/home/hadoop/hadoop-2.4.1
?? ??? ?export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

?? ?source /etc/profile? ? ---? 让环境变量及时生效
?? ?
?? ?3.3格式化namenode(是对namenode进行初始化)
?? ??? ?hdfs namenode -format (hadoop namenode -format)
?? ??? ?
?? ?3.4启动hadoop
?? ??? ?先启动HDFS
?? ??? ?sbin/start-dfs.sh
?? ??? ?
?? ??? ?再启动YARN
?? ??? ?sbin/start-yarn.sh
?? ??? ?
?? ?3.5验证是否启动成功
?? ??? ?使用jps命令验证
?? ??? ?27408 NameNode
?? ??? ?28218 Jps
?? ??? ?27643 SecondaryNameNode
?? ??? ?28066 NodeManager
?? ??? ?27803 ResourceManager
?? ??? ?27512 DataNode
?? ?
?? ??? ?http://192.168.1.101:50070 (HDFS管理界面)
?? ??? ?http://192.168.1.101:8088 (MR管理界面)

?? ??? ?
4.配置ssh免登陆
?? ?#生成ssh免登陆密钥
?? ?#进入到我的home目录
?? ?cd ~/.ssh

?? ?ssh-keygen -t rsa (四个回车)
?? ?执行完这个命令后,会生成两个文件id_rsa(私钥)、id_rsa.pub(公钥)
?? ?将公钥拷贝到要免登陆的机器上
?? ?ssh-copy-id localhost
?? ?

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-07-11 16:42:24  更:2021-07-11 16:43:34 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/1 15:54:34-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码