IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Hadoop中hdfs与yarn命令大全 -> 正文阅读

[大数据]Hadoop中hdfs与yarn命令大全

前言

随着大数据平台的不断发展,我们对hadoop使用也越来越多。同时hadoop许多命令在使用时会产生遗忘和参数选择的问题出现。本文将hadoop平台上的hdfs与yarn常用命令进行汇总解释。

一? hdfs基本语法

hadoop中hdfs命令格式分为两种,一种为hadoop fs 具体命令或者是 hdfs dfs 具体命令。两种格式都能够实现对hdfs进行操作,且实现效果是完全相同。

二? hdfs常用命令

2.1 文件的上传与下载

文件的上传与下载
命令解释示例
-moveFromLocal从本地剪切到HDFS文件系统hadoop fs? -moveFromLocal dir1 dir2
-copyFromLocal从本地拷贝(复制)到HDFS文件系统hadoop fs? -copyFromLocal dir1 dir2
-put从本地拷贝(复制)到HDFS文件系统hadoop fs -put dir1 dir2
-appendToFile追加一个文件到已经存在的文件末尾hadoop fs -appendToFile dir1 dir2
-copyToLocal

从HDFS下载文件到本地系统

hadoop fs -copyToLocal dir1 dir2
-get从HDFS下载文件到本地系统hadoop fs -get dir1 dir2

2.2 HDFS对文件直接操作

文件直接操作
命令解释示例
-ls显示目录信息hadoop fs -ls dir1
-cat显示文件内容hadoop fs -cat dir1
-chgrp,-chomd,-chown

修改文件权限(与liunx

系统使用方式一样)

hadoop fs -chmod 777
-mkdir创建路径hadoop fs -mkdir dir1
-cp从一个位置复制文件到另一个位置hadoop fs -cp dir1 dir2
-mv在HDFS目录中移动文件hadoop fs -mv dir1 dir2
-tail

显示一个文件的末尾

1kb的数据

hadoop fs -tail dir1
-rm删除文件或文件夹hadoop fs -rm dir1
-rm -r递归删除目录及目录里面的内容hadoop fs -rm -r dir1
-du统计文件夹的大小信息hadoop fs -du dir1
-setrep设置HDFS中文件的副本数量hadoop fs -setrep 10 dir1

二? ?Yarn常用命令

????????Yarn状态的查询,可以在对应的客户端页面进行查看,还可以通过命令操作,常用命令如下所示。

2.1 yarn application 查看任务

yarn application 查看任务命令
命令解释
yarn application -list列出所有的Application

yarn application -list -appStates

状态有(ALL、NEW、NEW_SAVING、SUBMITTED、ACCEPTED、RUNNING、FINISHED、FAILED、KILLED)

根据Application状态进行过滤展示
yarn application -kill <ApplicationId>根据applicationid号kill掉application

2.2 yarn logs查看日志

yarn logs查看日志
命令解释
yarn logs -applicationId <ApplicationId>查看对应的application日志

yarn logs -applicationId <ApplicationId>

-containerId <ContainerId>

查看对应container日志

2.3?yarn applicationattempt查看尝试运行的任务

yarn applicationattempt查看尝试运行的任务
命令解释
yarn applicationattempt -list <ApplicationId>列出所有Application尝试的列表
yarn applicationattempt -status <ApplicationAttemptId>打印ApplicationAttemp状态

2.4? yarn container查看容器

yarn container查看容器
命令解释
yarn container -list <ApplicationAttemptId>列出所有Container
yarn container -status <ContainerId>打印Container状态

2.5??yarn node查看节点状态

yarn node查看节点状态
命令解释
yarn node -list -all列出所有节点信息

2.6??yarn rmadmin更新配置?yarn queue查看队列

命令解释
yarn rmadmin -refreshQueues加载队列配置
yarn queue -status <QueueName>打印队列信息

yarn的主要使用还是在客户端页面8088对其进行直接操作。

hdfs文件系统很多命令与liunx命令的使用方式相同,可以在客户端进行操作也可以在命令行进行操作。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-08-06 10:50:33  更:2022-08-06 10:55:21 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/20 0:56:18-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码