IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Yarn调度配置__容量调度器 -> 正文阅读

[大数据]Yarn调度配置__容量调度器

一、介绍

  • 类名:容量调度器
  • org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.CapacityScheduler
  • 配置文件:capacity-scheduler.xml

二、配置文件解析

<configuration>
	<!-- 最多支持多少个job同时执行 -->
	<property>
		<name>yarn.scheduler.capacity.maximum-applications</name>
		<value>10000</value>
	</property>

	<!-- 最多能使用多少资源 -->
	<property>
		<name>yarn.scheduler.capacity.maximum-am-resource-percent</name>
		<value>0.1</value>
	</property>

	<!-- 如何计算资源,需要提供一个类 -->
	<property>
		 <name>yarn.scheduler.capacity.resource-calculator</name>
		 <value>org.apache.hadoop.yarn.util.resource.DefaultResourceCalculator</value>
	</property>

	<!-- 定义根队列,root队列 -->
	<property>
		<name>yarn.scheduler.capacity.root.queues</name>
		<value>default</value>
	</property>

	<!-- root队列占用多少资源 -->
	<property>
		 <name>yarn.scheduler.capacity.root.default.capacity</name>
		 <value>100</value>
	</property>

	<!-- 设置用户在使用一个队列时能使用的资源占队列资源量的倍数 -->
	<property>
		<name>yarn.scheduler.capacity.root.default.user-limit-factor</name>
		<value>1</value>
	</property>

	<!-- 设置root队列能使用资源的最大比例,默认是100% -->
	<property>
		<name>yarn.scheduler.capacity.root.default.maximum-capacity</name>
		<value>100</value>
	</property>
</configuration>

三、实例讲解

  1. 添加3个队列,名字为a,b,c,这三个队列必须放在root队列中

    <property>
    	<name>yarn.scheduler.capacity.root.queues</name>
    	<value>a,b,c</value>
    </property>
    
  2. 指定这3个队列占用资源的比例,他们的和必须是100%

    <property>
    	<name>yarn.scheduler.capacity.root.a.capacity</name>
    	<value>40</value>
    </property>
    <property>
    	<name>yarn.scheduler.capacity.root.b.capacity</name>
    	<value>20</value>
    </property>
    <property>
    	<name>yarn.scheduler.capacity.root.c.capacity</name>
    	<value>40</value>
    </property>
    
  3. 定义2个子队列a1和a2,设置他们的资源比例

    <property>
    	<name>yarn.scheduler.capacity.root.a.queues</name>
    	<value>a1,a2</value>
    </property>
    <property>
    	<name>yarn.scheduler.capacity.root.a.a1.capacity</name>
    	<value>40</value>
    </property>
    <property>
    	<name>yarn.scheduler.capacity.root.a.a2.capacity</name>
    	<value>60</value>
    </property>
    
  4. 结果
    在这里插入图片描述

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-10-12 23:31:26  更:2021-10-12 23:32:27 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 0:44:21-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码