IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Hadoop单机部署 -> 正文阅读

[大数据]Hadoop单机部署


原创申明: 未经许可,禁止以任何形式转载,若要引用,请标注链接地址
全文共计2698字,阅读大概需要3分钟
欢迎关注我的个人公众号:不懂开发的程序猿

一、 任务描述

本实验任务主要完成基于ubuntu环境的Hadoop单机部署、配置和调试工作。通过完成本实验任务,要求学生熟练掌握Hadoop单机部署方法,为后续实验的开展奠定Hadoop平台基础,也为从事大数据平台运维工程师、大数据技术支持工程师等岗位工作奠定夯实的技能基础。

二、 任务目标

掌握Hadoop单机环境的搭建、用途和调试。

三、 任务环境

本次环境是:Ubuntu16.04 + jdk1.8.0_73 +hadoop-2.7.3

四、 任务分析

hadoop的单击部署主要步骤为解压,配置环境变量,配置hadoop-env.sh文件。

五、 任务实施

步骤1、安装所需软件

右击Ubuntu操作系统桌面,从弹出菜单中选择【Open in Terminal】命令打开终端。在终端中输入命令【cd /simple/soft】进入软件包的所在文件夹中,并通过【ls】查看文件夹下所有软件。如图1所示。
图1 进入软件所在目录

Hadoop是使用JAVA写的,所以需要先安装JAVA环境。在simple目录下执行命令【tar -zxvf jdk-8u73-linux-x64.tar.gz -C /simple】解压JAVA的tar包。如图2所示
图2 解压java的jar包

Java解压完成之后,然后开始安装Hadoop,首先在simple目录下执行解压命令【tar -zxvf hadoop-2.7.3.tar.gz -C /simple】。如图3所示
图3 解压hadoop的jar包

压缩包解压之后,需要配置环境变量,执行命令【vim /etc/profile】修改配置。把Java和Hadoop的安装目录配置到环境变量中。如图4所示
图4 配置环境变量

然后让配置文件生效:【在这里插入代码片】。如图5所示
图5 使配置生效

? 知识链接
环境变量的意义
??环境变量是在操作系统中一个具有特定名字的对象,它包含了一个或者多个应用程序所将使用到的信息。例如Windows和DOS操作系统中的path环境变量,当要求系统运行一个程序而没有告诉它程序所在的完整路径时,系统除了在当前目录下面寻找此程序外,还应到path中指定的路径去找。用户通过设置环境变量,来更好的运行进程。
当我们安装完一个工具后,需要在/etc/profile中设置该工具的环境变量,然后查看是否安装成功。例如:查看Hadoop是否安装成功就用命令Hadoop -version

步骤2、配置hadoop的配置文件

切换到操作目录下查看配置文件,执行编辑命令【vim hadoop-env.sh】来进入到配置文件命令行模式。如图6所示
图6 进入操作目录

在命令行模式下,按i键之后进入编辑状态(此时文件下方出现了”INSERT”的字样),找到【#export JAVA_HOME=…】的语句,把注释符号”#”去掉(”#”表示把内容注释掉了),把路径修改为本机JAVA的安装目录: 【export JAVA_HOME=/simple/jdk1.8.0_73】。如图7所示
图7 配置hadoop的java路径

? 知识链接
单机模式
??单机模式:默认情况下运行为一个单独机器上的独立Java进程,主要用于调试环境
六、 任务测试
??在Hadoop的安装目录下,创建input目录,然后把目录下的所有以xml结尾的文件拷贝到input目录中,如图8所示。
图8 拷贝文件

我们要运行的例子在hadoop的安装目录下,名称叫做hadoop-mapreduce-examples-2.7.3.jar。运行命令如下:
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar grep input output “[a-z.]+”】。该命令是使用Hadoop的自带的样例,在input中统计含有字母“a-z“的单词的个数。如图9所示。
??其中,output是输出文件夹,它由程序自动创建
图9 测试hadoop自带例子

图10 执行结果

cd output】到创建好的输出目录output进行查看,output目录下产生有两个文件。我们使用cat命令来查看文件内容【cat part-r-00000】。如图11所示

图11 查看结果

在这里插入图片描述

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-06-29 19:08:56  更:2022-06-29 19:10:11 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年4日历 -2024/4/25 23:14:05-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码