| |
|
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
| -> 大数据 -> CDH部署Hive、Spark、oozie、hue、sqoop等 -> 正文阅读 |
|
|
[大数据]CDH部署Hive、Spark、oozie、hue、sqoop等 |
|
CDH安装好后,需要进一步设置hive及spark,CDH安装部署参考 1、hive安装1.1 添加服务
1.2 添加hive服务
1.3 将hive服务添加到集群
1.4 配置hive元数据
1.5 自动启动hive进程
2 spark安装
2.1 安装spark
3 oozie配置
4 配置hue
5 sqoop配置和其余组件一样 6 其余配置6.1 HDFS配置域名访问
6.2设置物理核与虚拟核占比
6.3 修改单个容器下最大cpu申请资源
6.4 设置每个任务容器内存大小和单节点大小将每个任务容器默认大小增大,物理内存为8的情况下 设置每个yarn可用内存为7 6.5 关闭spark动态分配资源参数关闭此配置spark.dynamicAllocation.enabled 6.6 修改hdfs副本数修改为1即可 修改复制因子 6.7 设置容量调度器CDH默认公平调度,虽然在生成环境最好使用公平 ,但是测试环境容量调度会更有优势
6.8 增加队列暂时通过页面直接增加hive、flink、spark队列,后续可使用api的方式增加 |
|
|
|
|
| 上一篇文章 下一篇文章 查看所有文章 |
|
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
| 360图书馆 购物 三丰科技 阅读网 日历 万年历 2025年12日历 | -2025/12/3 7:24:30- |
|
| 网站联系: qq:121756557 email:121756557@qq.com IT数码 |