IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> YARN设计理念与基本架构 -> 正文阅读

[大数据]YARN设计理念与基本架构

设计思想

第一代和第二代MapReduce的差距在于,下一代将JobTracker的两个主要功能,资源管理和作业控制,拆分成两个独立的进程。资源管理进程与具体应用程序无关,且每个作业控制进程只负责管理一个作业。实现了将原有JobTracker中与应用程序相关和无关的模块分开,减轻了JobTracker负载,也使得Hadoop支持更多的计算框架。

下一代MapReduce实际上衍生出了一个资源统一管理平台YARN,使得Hadoop不止支持MapReduce,还可以融入其他更多计算框架。

基本架构

在这里插入图片描述
总体上仍是Master/Slave结构。
ResourceManager是master,负责资源统一管理和调度。用户提交一个应用程序时,需要提供一个用来跟踪和管理这个程序的ApplicationMaster,负责向ResourceManager申请资源,并要求NodeManager启动可以占用一定资源的任务。
NodeManager是slave。

ResourceManager(RM)

全局资源管理器,由两个组件构成:调度器Scheduler和应用程序管理器Aoolications Manager (ASM)。

调度器
负责资源分配,资源分配单位使用一个抽象概念”资源容器(Resource Container简称Container)表示,Container是一个动态资源分配单位,将内存、CPU、磁盘、网络等资源封装在一起,从而限定每个任务使用的资源量。
调度器是可插拔的,用户可以自定义

应用程序管理器
负责管理系统中所有应用程序,包括应用程序提交、与调度器协商资源以启动ApplicationMaster,监控ApplicationMaster运行状态并在失败时重新启动它。

ApplicationMaster(AM)

用户提交的每个应用程序都包含有个AM,主要负责:

  • 和RM调度器协商以获取资源(用Container表示)
  • 将得到的任务进一步分配到内部的任务
  • 与NN通信以启动、停止惹怒我
  • 监控所有任务运行状态,在任务失败时重新申请资源以重启任务。

NodeManager(NM)

每个节点上的资源和任务管理器,定时向RM汇报本节点上的资源使用情况和各个Container的运行状态,也会接收和处理来自AM的Container启动、停止等各种请求。

Container

是YARN中的资源抽象, 封装了多维度资源比如CPU、内存、磁盘、网络等,AM向RM申请资源时,RM返回的就是Container表示的。
是一个动态资源划分单位,根据应用 程序的需求动态生成的。

工作流程

在这里插入图片描述
两阶段运行,第一阶段是启动ApplicationMaster,第二个阶段是由ApplicationMaster创建应用程序,为它申请资源,监控它的整个运行流程直到运行完成。

步骤:

  • 用户向YARN中提交应用程序,包括ApplicatonMaster程序、启动ApplicatonMaster的命令、用户程序等。
  • RM为该用户程序分配第一个Container,并与对应的NM通信,要求它在这个Container中启动应用程序的AM
  • AM向RM注册,这样用户就可以直接通过RM查看应用程序的运行状态,然后它将为各个任务申请资源,并监控它的运行状态,直到运行结束,即重复后面的步骤
  • AM采用轮询的方式通过RPC协议向RM申请和领取资源
  • 一旦AM申请到资源,便与对应的NM通信,要求它启动任务
  • NM为任务设置好运行环境(包括环境变量、JAR包、二进制程序等)后,将任务启动命令写到一个脚本中,并通过运行该脚本启动任务。。
  • 各个任务通过某个RPC协议向AM汇报自己的状态和进度,以让AM随时掌握各个任务的运行状态,从而在任务失败时重新启动任务。
  • 应用程序完成后,AM向RM注销并关闭自己。
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-12-04 13:30:42  更:2021-12-04 13:32:31 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 10:53:27-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码