IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Hadoop(一) -> 正文阅读

[大数据]Hadoop(一)

目录

Hadoop运行环境搭建

模板虚拟机环境准备

克隆虚拟机

编写集群分发脚本

SSH无密登录配置


Hadoop运行环境搭建

模板虚拟机环境准备

1.关闭防火墙,关闭防火墙开机自启

[doudou@localhost ~]$ su root
Password: 
[root@localhost doudou]# systemctl stop firewalld
[root@localhost doudou]# systemctl disable firewalld.service
Removed symlink /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed symlink /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.

小贴士:

在xshell中怎样添加复制粘贴功能

1.点击工具,选择里面的按键对应

2.点击新建,输入组合键,类型选择菜单,菜单选择复制或粘贴

?

2.创建一个用户,并修改用户密码

[root@localhost hadoop100]# useradd doudou
[root@localhost hadoop100]# passwd doudou
更改用户 doudou 的密码 。
新的 密码:
无效的密码: 密码少于 8 个字符
重新输入新的 密码:
passwd:所有的身份验证令牌已经成功更新。

?3.配置用户具有root权限,方便后期加sudo执行root命令

[root@localhost doudou]# vim /etc/sudoers
## Allow root to run any commands anywhere 
root    ALL=(ALL)       ALL
doudou  ALL=(ALL)       NOPASSWD:ALL

4.在/opt目录下创建文件夹,并修改所属组和用户组

[root@localhost doudou]# mkdir /opt/module
[root@localhost doudou]# mkdir /opt/software
[root@localhost doudou]# chown doudou:doudou /opt/module
[root@localhost doudou]# chown doudou:doudou /opt/software
[root@localhost doudou]# cd /opt/
[root@localhost opt]# ll
total 0
drwxr-xr-x. 2 doudou doudou 6 Aug  1 08:07 module
drwxr-xr-x. 2 root   root   6 Oct 30  2018 rh
drwxr-xr-x. 2 doudou doudou 6 Aug  1 08:08 software

5.卸载虚拟机自带的JDK

[root@localhost opt]# cd ~
[root@localhost ~]# rpm -qa | grep -i java | xargs -nl rpm -e --nodeps
xargs: invalid number for -n option
Usage: xargs [OPTION]... COMMAND INITIAL-ARGS...
Run COMMAND with arguments INITIAL-ARGS and more arguments read from input.

Mandatory arguments to long options are mandatory for short options too.
Non-mandatory arguments are indicated by [square brackets]
  -0, --null                   Items are separated by a null, not whitespace.
                               Disables quote and backslash processing
  -a, --arg-file=FILE          Read arguments from FILE, not standard input
  -d, --delimiter=CHARACTER    Input items are separated by CHARACTER, not by
                               blank space. Disables quote and backslash
                               processing
  -E END                       If END occurs as a line of input, the rest of
                               the input is ignored.
  -e [END], --eof[=END]        Equivalent to -E END if END is specified.
                               Otherwise, there is no end-of-file string
  --help                       Print a summary of the options to xargs.
  -I R                         same as --replace=R (R must be specified)
  -i,--replace=[R]             Replace R in initial arguments with names
                               read from standard input. If R is
                               unspecified, assume {}
  -L,-l, --max-lines=MAX-LINES Use at most MAX-LINES nonblank input lines per
                               command line
  -l                           Use at most one nonblank input line per
                               command line
  -n, --max-args=MAX-ARGS      Use at most MAX-ARGS arguments per command
                               line
  -P, --max-procs=MAX-PROCS    Run up to max-procs processes at a time
  -p, --interactive            Prompt before running commands
  --process-slot-var=VAR       Set environment variable VAR in child
                               processes
  -r, --no-run-if-empty        If there are no arguments, run no command.
                               If this option is not given, COMMAND will be
                               run at least once.
  -s, --max-chars=MAX-CHARS    Limit commands to MAX-CHARS at most
  --show-limits                Show limits on command-line length.
  -t, --verbose                Print commands before executing them
  --version                    Print the version number
  -x, --exit                   Exit if the size (see -s) is exceeded

Report bugs to <bug-findutils@gnu.org>.

6.重启虚拟机

[root@localhost ~]# reboot

克隆虚拟机

1.克隆模板虚拟机,注意要选择完整克隆

2.修改克隆机的IP和名称

[doudou@localhost ~]$ su root
密码:
[root@localhost doudou]# ifconfig
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.149.131  netmask 255.255.255.0  broadcast 192.168.149.255
        inet6 fe80::fe9e:c2f3:2656:bcbd  prefixlen 64  scopeid 0x20<link>
        inet6 fe80::b406:2768:a50c:e991  prefixlen 64  scopeid 0x20<link>
        inet6 fe80::afc4:b77f:4ea9:33af  prefixlen 64  scopeid 0x20<link>
        ether 00:0c:29:01:27:af  txqueuelen 1000  (Ethernet)
        RX packets 287  bytes 61246 (59.8 KiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 192  bytes 31239 (30.5 KiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

lo: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
        inet 127.0.0.1  netmask 255.0.0.0
        inet6 ::1  prefixlen 128  scopeid 0x10<host>
        loop  txqueuelen 1000  (Local Loopback)
        RX packets 64  bytes 5568 (5.4 KiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 64  bytes 5568 (5.4 KiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

virbr0: flags=4099<UP,BROADCAST,MULTICAST>  mtu 1500
        inet 192.168.122.1  netmask 255.255.255.0  broadcast 192.168.122.255
        ether 52:54:00:ae:e3:4b  txqueuelen 1000  (Ethernet)
        RX packets 0  bytes 0 (0.0 B)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 0  bytes 0 (0.0 B)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

[root@localhost doudou]# vim /etc/hostname
[root@localhost doudou]# reboot

编写集群分发脚本

[doudou@hadoop101 ~]$ cd
[doudou@hadoop101 ~]$ cd bin
[doudou@hadoop101 bin]$ vim xsync
#脚本内
#!/bin/bash
if [ $# -lt 1 ]
then
  echo Not Enough Arguement!
  exit
fi

for host in hadoop101 hadoop102 hadoop103
do
  echo =================== $host ==================
  for file in $@
  do
    if [ -e $file ]
    then
      pdir=$(cd -P $(dirname $file); pwd)
      fname=$(basename $file)
      ssh $host "mkdir -p $pdir"
      rsync -av $pdir/$fname $host:$pdir
    else
      echo $file does not exists!
    fi
  done    
done     
          
[doudou@hadoop101 bin]$ chmod 777 xsync
[doudou@hadoop101 bin]$ ll
total 4
-rwxrwxrwx. 1 doudou root 431 Aug  2 02:46 xsync

SSH无密登录配置

[doudou@hadoop101 ~]$ cd .ssh/
[doudou@hadoop101 .ssh]$ ssh-keygen -t rsa
[doudou@hadoop101 .ssh]$ ssh-copy-id hadoop101
[doudou@hadoop101 .ssh]$ ssh-copy-id hadoop102
[doudou@hadoop101 .ssh]$ ssh-copy-id hadoop103

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-08-06 10:50:33  更:2022-08-06 10:54:17 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/20 1:36:15-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码