IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> linux虚拟机下,Sqoop的安装与配置 -> 正文阅读

[大数据]linux虚拟机下,Sqoop的安装与配置

安装准备:在安装Sqoop前,我已经事先已经安装好了,java jdk,hadoop,zookeeper,hive,hbase,安装目录在/opt/soft/ 目录下,并且,已经将sqoop的安装和mysql的jar包置于/opt/install目录下,soft和install目录都是自己创建的(mkdir -p /opt/soft;mkdir -p /opt/install)

sqoop安装包版本:sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz

mysql的版本:?mysql-connector-java-5.1.25.jar?

?安装及配置步骤:

第一步,解压并重命名sqoop的解压包

tar -zxf?/opt/intall/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /opt/soft/

mv /opt/soft/sqoop-1.4.6.bin__hadoop-2.0.4-alpha /opt/softsqoop146

?第二步,配置sqoop解压包中conf的文件sqoop-env.sh

配置前需要先重命名sqoop-env-template.sh文件

mv /opt/soft/sqoop146/conf/sqoop-env-template.sh?/opt/soft/sqoop146/conf/sqoop-env.sh

打开文件,配置内容如下 vi?/opt/soft/sqoop146/conf/sqoop-env.sh,

#hadoop的安装目录

export HADOOP_COMMON_HOME=/opt/soft/hadoop260
export HADOOP_MAPRED_HOME=/opt/soft/hadoop260

#hbase的安装目录
export HBASE_HOME=/opt/soft/hbase120

#hive的安装目录
export HIVE_HOME=/opt/soft/hive110

#zookeeper的配置文件目录
export ZOOCFGDIR=/opt/soft/zookeeper345/conf

?第三步,将mysql的jar包拷贝到sqoop解压包lib目录下

cp /opt/install/mysql-connector-java-5.1.25.jar /opt/soft/sqoop146/lib/

?第四步,配置/etc/profile文件,在末尾加入

#sqoop
export SQOOP_HOME=/opt/soft/sqoop146
export PATH=$PATH:$SQOOP_HOME/bin

?保存退出后

source /etc/profile

第五步,验证

先开启hadoop,zookeeper,成功开启后再输入sqoop version,验证是否成功安装配置sqoop

如下图,则成功了

?自动安装脚本内容如下:

#!/bin/bash
#sqoop

sqoop=true
if [ `$sqoop`=true ]; then
    echo '------------sqoop安装中-------------'
    tar -zxf /opt/install/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /opt/soft/
    mv /opt/soft/sqoop-1.4.6.bin__hadoop-2.0.4-alpha /opt/soft/sqoop146
    mv /opt/soft/sqoop146/conf/sqoop-env-template.sh /opt/soft/sqoop146/conf/sqoop-env.sh

    sqoop_env_path=/opt/soft/sqoop146/conf/sqoop-env.sh
    sed -i "/^#export HADOOP_COMMON_HOME=/cexport HADOOP_COMMON_HOME=/opt/soft/hadoop260/" $sqoop_env_path
    sed -i "/^#export HADOOP_MAPRED_HOME=/cexport HADOOP_MAPRED_HOME=/opt/soft/hadoop260/" $sqoop_env_path
    sed -i "/^#export HBASE_HOME=/cexport HBASE_HOME=/opt/soft/hbase120/" $sqoop_env_path
    sed -i "/^#export HIVE_HOME=/cexport HIVE_HOME=/opt/soft/hive110/" $sqoop_env_path
    sed -i "/^#export ZOOCFGDIR=/cexport ZOOCFGDIR=/opt/soft/zookeeper345/conf/" $sqoop_env_path

    cp /opt/install/mysql-connector-java-5.1.25.jar /opt/soft/sqoop146/lib/

    echo '#sqoop' >>/etc/profile
    echo 'export SQOOP_HOME=/opt/soft/sqoop146' >>/etc/profile
    echo 'export PATH=$PATH:$SQOOP_HOME/bin' >>/etc/profile

    source /etc/profile
    echo '------------sqoop安装完毕-------------'
fi
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-11-24 08:01:04  更:2021-11-24 08:03:35 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 9:14:50-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码