IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> CDH6.3.1安装指南 -> 正文阅读

[大数据]CDH6.3.1安装指南

CDH安装指南!!!!

CDH简介

CDH基于Web的用户界面,支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、 HBase、Zookeeper、Sqoop,简化了大数据平台的安装、使用难度。
Cloudera Manager的功能:
管理:对集群进行管理,如添加、删除节点等操作。
监控:监控集群的健康情况,对设置的各种指标和系统运行情况进行全面监控。
诊断:对集群出现的问题进行诊断,对出现的问题给出建议解决方案。
集成:多组件进行整合

CDH架构图

《准备工作》

CDH安装包网盘资源:
链接:https://pan.baidu.com/s/1tWRgfpJ4rL00WaW5NXNjeg
提取码:7moe

CDH安装过程

一、环境初始化
1、修改主机名

vi /etc/hosts

2、关闭集群防火墙
每个节点上执行

systemctl stop firewalld && systemctl disable firewalld && iptables -F

3、关闭集群selinux

vi /etc/selinux/config
   SELINUX=disabled

修改成disabled之后 重启linux系统生效

4、设置集群时钟同步
所有节点设置指定地区时区(时区根据业务需求而定)

timedatectl set-timezone Asia/Shanghai
timedatectl set-timezone Asia/Shanghai
timedatectl set-timezone Asia/Shanghai

5.所有节点安装ntp

yum install -y ntp

选取node06为ntp的主节点

vi /etc/ntp.conf
#time
server 0.centos.pool.ntp.org iburst
server 1.centos.pool.ntp.org iburst
server 2.centos.pool.ntp.org iburst
server 3.centos.pool.ntp.org iburst

当外部时间不不可?用时,可使?用本地硬件时间
server 127.127.1.0 iburst local clock
允许哪些?网段的机器?来同步时间
restrict 172.31.33.0 mask 255.255.255.0 nomodify notrap
restrict 172.31.35.0 mask 255.255.255.0 nomodify notrap

6.开启ntpd及查看状态

systemctl start ntpd
systemctl status ntpd

7.每个节点部署JDK

mkdir /usr/java
tar -zxf cdh/jdk-8u101-linux-x64.tar.gz -C /usr/java/
chown -R root:root /usr/java/jdk1.8.0_101
echo "export JAVA_HOME=/usr/java/jdk1.8.0_101" >> /etc/profile
echo "export PATH=/usr/java/jdk1.8.0_101/bin:${PATH}" >> /etc/profile 
source /etc/profile
java -version
java version "1.8.0_101"
Java(TM) SE Runtime Environment (build 1.8.0_101-b13)
Java HotSpot(TM) 64-Bit Server VM (build 25.101-b13, mixed mode)

8.主节点部署MySQL
MySQL8安装十分简单,这里就不多写了,自己去翻翻

9.主节点部署JDBC

mkdir -p /usr/share/java
cp cdh/mysql-connector-java-8.0.13.jar /usr/share/java/
cd /usr/share/java/
mv mysql-connector-java-8.0.13.jar mysql-connector-java.jar

(注意:这里我们部署的是MySQL8,jdbc也必须是8)

二、CDH部署
1、离线部署CM server及agent
1.1【所有节点】 创建软件目录解压软件

cd /opt
mkdir cloudera-manager
cd
cd cdh
tar -zxf cm6.3.1-redhat7.tar.gz -C/opt/cloudera-manager

1.2【主节点执行】 选择一个节点为主节点作为cm server,直接部署

cd /opt/cloudera-manager/cm6.3.1/RPMS/x86_64/
rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force
rpm -ivh cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

1.3【所有节点(包含主节点)】 选择所有节点作为cm agent,直接部署

cd /opt/cloudera-manager/cm6.3.1/RPMS/x86_64
rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force
rpm -ivh cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

1.4【所有节点】修改agent配置,指向server主节点

sed -i "s/server_host=localhost/server_host=主节点主机名
" /etc/cloudera-scm-agent/config.ini

1.5【修改主节点】的server配置

vim /etc/cloudera-scm-server/db.properties

com.cloudera.cmf.db.type=mysql

com.cloudera.cmf.db.host=node06.research.com

com.cloudera.cmf.db.name=cmf

com.cloudera.cmf.db.user=cmf

com.cloudera.cmf.db.password=www.research.com

com.cloudera.cmf.db.setupType=EXTERNAL

2、主节点部署离线parcel源
2.1 安装httpd

yum install -y httpd

2.2 部署离线parcel源

mkdir -p /var/www/html/cdh6_parcel
cp cdh/CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel /var/www/html/cdh6_parcel/
mv cdh/CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha1 /var/www/html/cdh6_parcel/CDH-6.3.1
mv cdh/CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha1 /var/www/html/cdh6_parcel/CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha
mv cdh/manifest.json /var/www/html/cdh6_parcel/
systemctl start httpd

2.3 页面访问http://ip/cdh6_parcel/

3、06主节点启动server

systemctl start cloudera-scm-server
ll /var/log/cloudera-scm-server/
total 20
-rw-r----- 1 cloudera-scm cloudera-scm 16679 Dec 10 18:27 cloudera-scm-server.log
-rw-r----- 1 cloudera-scm cloudera-scm 0 Dec 10 18:27 cmf-server-nio.log
-rw-r----- 1 cloudera-scm cloudera-scm 0 Dec 10 18:27 cmf-server-perf.log
tail /var/log/cloudera-scm-server/cloudera-scm-server.log

4、所有节点启动agent

systemctl start cloudera-scm-agent

5、web页面操作
登录界面,默认登录用户名和密码都是admin
在这里插入图片描述
啊!!!又是碌碌无为的一天

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-04-22 18:43:14  更:2022-04-22 18:46:42 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 3:38:59-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码