| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> 大数据技能竞赛之hadoop完全分布式集群搭建(三) -> 正文阅读 |
|
[大数据]大数据技能竞赛之hadoop完全分布式集群搭建(三) |
以下命令除特殊说明都在三个节点上操作 一、将hadoop安装包解压到指定路径/usr/hadoopmkdir -p /usr/hadoop tar -zxvf hadoop-2.7.3.tar.gz -C /usr/hadoop 二、配置hadoop环境变量vi /etc/profile 添加以下内容 ?使文件生效 source /etc/profile 三、配置hadoop运行环境JAVA_HOME切换到/usr/hadoop/hadoop-2.7.3/etc/hadoop目录 cd?/usr/hadoop/hadoop-2.7.3/etc/hadoop vi hadoop-env.sh 修改如下内容 四、设置全局参数,指定NN的IP为master,端口为9000vi core-site.xml 在<configuration></configuration>中添加如下内容 ?五、指定存放临时数据的目录为hadoop安装目录下/hdfs/tmp(绝对路径,下同)vi core-site.xml 在<configuration></configuration>中添加如下内容 ?六、设置HDFS参数指定备份文本数量为2。 指定NN存放元数据信息的路径为hadoop安装目录下/hdfs/name。 指定DN存放元数据信息的路径为hadoop安装目录下/hdfs/data。 vi hdfs-site.xml 在<configuration></configuration>中添加如下内容 ?七、设置yarn运行环境JAVA_HOME参数vi yarn-env.sh 修改如下内容 八、设置yarn核心参数指定ResourceManager进程所在主机为master,端口为18141。 指定NodeManger上运行的附属服务为shuffle。 vi yarn-site.xml 九、设置计算框架参数,要求MR运行在yarn上hadoop集群中没有mapred-site.xml这个文件,因此需要把mapred-site.xml.template复制为mapred-site.xml。 cp mapred-site.xml.template mapred-site.xml vi mapred-site.xml 添加如下内容 十、设置节点文件,要求master为主节点,slave1、slave2为子节点vi master vi slaves 结果如下 注意:竞赛中slaves文件不加master也可通过测试点 ?十一、文件系统格式化仅在master节点执行 hadoop namenode -format 出现以下界面即为成功。 十二、启动hadoop集群仅在master节点执行,它会带动从节点的启动。 start-all.sh start |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 16:50:57- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |