HDFS命令对HDFS进行操作
HDFS命令与linux命令类似
所有命令有/bin/hadoop脚本引发,可以使用命令查看帮助文档
hadoop fs-help
使用HDFS命令之前,必须启动hadoop集群,且命令执行在master节点上
hadoop常用命令
格式:
hadoop fs -命令 [-选项] [文件/目录]
命令 | 说明 | 补充 |
---|
hadoop fs -mkdir | 创建HDFS目录 | -p选项,可以一次性创建多级目录 | hadoop fs -ls | 列出HDFS目录 | -R选项,查看目录下所有的文件(递归Recursive) hadoop fs –ls /查看HDFS根目录 hadoop fs –ls –R /查看HDFS所有子目录 | hadoop fs -copyFromLocal | 上传本地文件到HDFS | -f选项,强制复制(存在则替换文件) | hadoop fs -put | 上传本地文件到HDFS | -f选项,强制复制(存在则替换文件),特别的可以写入内容 | hadoop fs -copyToLocal | 将HDFS文件下载到本地 | | hadoop fs -get | 将HDFS文件下载到本地 | | hadoop fs -cp | 复制HDFS文件 | | hadoop fs -rm | 删除HDFS文件 | -R选项,删除目录 | hadoop fs -cat | 查看HDFS目录下的文件内容 | (只有文本文件的内容可以查看,其它类型会乱码) hadoop fs –test查看文件 hadoop fs –tail查看文件 |
Linux本机和HDFS之间文件传输
即虚拟机linux的文件与hadoop的HDFS文件之间的文件共享
上传文件(linux—>hdfs)
hadoop fs -copyFromLocal [linux] [hdfs] hadoop fs -put [linux] [hdfs]
可以进行文件重命名 hdfs没有写文件名,默认为原来的命名 linux上传的文件必须存在 hdfs已经存在文件,不会上传,使用下面选项,强制上传 -f选项,强制复制(存在则替换文件) 可以上传多个文件 可以上传目录
-put命令,还可以接收输入stdin
将指定内容显示在屏幕上:echo [内容] 通过"|"(管道符pipe)将屏幕的内容传递存入文件
echo abc | hadoop fs -put - /test/echoin.txt ls ./hadoop—/etc/hadoop | hadoop fs -put - /test/hadoopetc.txt
文件下载(hdfs—>linux)
hadoop fs -copyToLocal [hdfs] [linux] hadoop fs -get [hdfs] [linux]
可以进行文件重命名 hdfs下载的文件必须存在 可以下载目录
linux命令
命令 | 说明 |
---|
cd 目录 | 进入目录(.表示当前目录,…表示上层目录) | ls [选项] 目录或文件 | 列出目录[-l -a -R -d -i -h] | cat [选项] 文件名 | 查看文件内容[-n -b -s] | mkdir [选项] 目录名 | 创建文件夹[-p] | rm [选项] 文件或目录 | 删除文件夹[-f -r -i] | cp [选项] 源文件或目录 目标文件或目录 | 复制文件夹[-p -f -r -i] | mv [选项] 源文件或目录 目标文件或目录 | 移动文件夹[-f -i -u] | pwd | 显示当前工作目录的绝对路径 |
|