IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> HDFS命令 -> 正文阅读

[大数据]HDFS命令

用法

1.hadoop xxx

  • hadoop fs命令可用于其他文件系统,不止是hdfs文件系统内
  • 也就是说该命令的使用范围更广,可以用于HDFS、Local FS等不同的文件系统

2.hdfs xxx

  • hdfs dfs命令只用于hdfs文件系统

命令

1.用户命令

  • fsck:磁盘检查
  • dfs这个命令很重要,单独讲
  • version:版本
  • classpath:类路径
  • jar
  • job:运行mapreduce任务

2.管理命令

  • namenode -format:格式化namenode
  • secondarynamenode:运行secondarynamenode
  • namenode:运行namenode
  • journalnode:运行journalnode
  • zkfc:故障迁移
  • dfsadmin:登录DFS客户端
  • datanode:运行datanode
  • haadmin:登录DFS HA客户端
  • balancer:run a cluster balancing utility
  • daemonlog
  • jobtracker

3.其他运维命令

  • 不重要,先不展示了,需要思维导图内有,也可以百度

用户命令之dfs

1.查看文件结构

  • 没有cd命令:hdfs dfs -cd /
    在这里插入图片描述
  • 查看hdfs根目录下文件:hdfs dfs -ls /
    在这里插入图片描述
  • 查看hdfs某个目录下的所有文件:hdfs dfs -ls -R /
    在这里插入图片描述

2.创建文件

  • 在根目录下创建文件:hdfs dfs -mkdir /test
    在这里插入图片描述
  • 递归创建多级目录:hdfs dfs -mkdir -p /test/test1/…
    在这里插入图片描述

3.移动文件

  • 本地文件移动上传hdfs某个目录:hdfs dfs -moveFromLocal /本地文件 /hdfs文件
    在这里插入图片描述
  • hdfs文件移动到本地
hdfs dfs -moveToLocal /hdfs文件/ /本地目录/
  • hdfs内部进行文件移动:hdfs dfs -mv /hdfs文件1 /hdfs文件2
    在这里插入图片描述

4.上传文件

  • 本地文件放到hdfs某个目录:hdfs dfs -put /本地文件/ /hdfs目录/在这里插入图片描述

5.下载文件

  • 将hdfs文件下载到linux本地
hadoop dfs -get /hdfs文件/

6.文件内容

  • 如果数据量比较大,不能使用
  • 查看hello.txt文件内容:hdfs dfs -cat /test/hello.txt
    在这里插入图片描述
  • 查看文件末尾,一直等待查看:hdfs dfs -tail -f /path
  • 查看文件的大小:hdfs dfs -du -h /path
  • 追加一个或者多个文件到hdfs指定文件中:hdfs dfs -appendToFile /test/aa.txt /bb.txt /test/hello.txt在这里插入图片描述

7.复制文件

  • 本地文件复制到hdfs某个目录
hdfs dfs -copyFromLocal /本地文件 /hdfs文件
  • hdfs文件复制到本地
hdfs dfs -copyToLocal /hdfs文件/ /本地目录/
  • hdfs间文件拷贝,可以覆盖,可以保留原有权限信息
    在这里插入图片描述

8.删除文件

  • 删除文件或者目录:hdfs dfs -rmr /test/a
    在这里插入图片描述
  • 这样做其实并没有真正删除文件,只是将文件放到了回收站(/user/root/.Trash/Current)中 ; 每一个用户都有一个回收站

文件永久删除

  • 回收站自动清理:fs.trash.interval 1440
  • 手动删除回收站:hdfs dfs -rmr /user/root/.Trash/Current
  • 强制删除:dfs -rmr -skipTrash /a

9.安全模式

  • 查看当前hadoop安全模式的开关状态
hdfs dfsadmin -safemode get
  • 打开安全模式
hdfs dfsadmin -safemode enter
  • 离开安全模式
hdfs dfsadmin -safemode leave
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-06-14 22:40:05  更:2022-06-14 22:40:22 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/19 23:50:08-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码