| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> Yarn资源调度 -> 正文阅读 |
|
[大数据]Yarn资源调度 |
目录 1、web界面查看yarn集群的监控管理界面:
根据具体设置来定 2、Yarn介绍yarn是hadoop集群当中的资源管理系统模块,从hadoop2.x开始引入yarn来进行管理集群当中的资源(主要是服务器的各种硬件资源,包括CPU,内存)以及运行在yarn上面的各种任务。
yarn的官网文档说明: Apache Hadoop 2.7.5 – Apache Hadoop YARN 3、Yarn的主要组件介绍与作用3.1、yarn当中的各个主要组件的介绍
yarn的发展历程以及详细介绍: 3.2、yarn当中各个主要组件的作用resourceManager主要作用
NodeManager主要作用
ApplicationMaster主要作用
Container主要作用
3.3、yarn的架构3.4、yarn当中的调度器
yarn当中的调度器介绍: 第一种调度器:FIFO Scheduler? (队列调度器)
第二种调度器:capacity? scheduler(容量调度器,apache版本默认使用的调度器)
第三种调度器:Fair Scheduler(公平调度器,CDH版本的hadoop默认使用的调度器)
使用哪种调度器取决于yarn-site.xml当中的 yarn.resourcemanager.scheduler.class? 这个属性的配置 3.5、yarn常用参数设置container分配最小内存 yarn.scheduler.minimum-allocation-mb?? ? ?1024 ? 给应用程序container分配的最小内存 container分配最大内存 yarn.scheduler.maximum-allocation-mb?? ? ?8192?? ?给应用程序container分配的最大内存 每个container的最小虚拟内核个数 yarn.scheduler.minimum-allocation-vcores?? ? ?1?? ? ?每个container默认给分配的最小的虚拟内核个数 每个container的最大虚拟内核个数 yarn.scheduler.maximum-allocation-vcores?? ? ?32 ?每个container可以分配的最大的虚拟内核的个数 nodeManager可以分配的内存大小 yarn.nodemanager.resource.memory-mb?? 8192? nodemanager可以分配的最大内存大小,默认8192Mb 在我们浏览yarn的管理界面的时候会发现一个问题 ?我们可以在yarn-site.xml当中修改以下两个参数来改变默认值 定义每台机器的内存使用大小
定义每台机器的虚拟内核使用大小
定义交换区空间可以使用的大小(交换区空间就是讲一块硬盘拿出来做内存使用) 这里指定的是nodemanager的n内存的2.1倍
|
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 23:21:36- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |