Hadoop shell 一查就会
Hadoop shell 命令有三种格式
- hdfs + dfs (必须是dfs)
- Hadoop + dfs
- Hadoop + df
| 命令 | 说明 |
|---|---|
| hadoop 版本查看 | hadoop version |
| hadoop 显示命令信息 | hadoop dfs |
| 列出 HDFS 目录 | Hadoop fs -ls / |
| 递归列出 / 下的所有目录(包括子目录) | Hadoop fs -lsr / |
| hdfs 查看文件内容 | hdfs dfs -cat /output/part-00000 |
| hdfs 查看文件内容,并进行分页显示 | hdfs dfs -cat /output/part-00000 | more |
| hdfs 查看文件内容 | hdfs dfs -text /output/part-00000 |
| Hdfs 查看指定文件大小 | hdfs dfs -du /output/part-00000 |
| 将 HDFS 上的文件复制到本地 | hdfs dfs -get /output/part-00000 /usr/local/load.txt |
| 将 HDFS 上的文件复制到本地(二) | hdfs dfs -copyToLocal /output/part-00000 /usr/local/load.txt |
| 在 HDFS 上创建文件目录 | hadoop fs -mkdir /data |
| 在 HDFS 上一次性创建多级目录 | hadoop fs -mkdir -p /data/child1/child2 |
| 复制本地文件或HDFS文件到HDFS 指定路径 | hadoop fs -put /usr/local/load.txt /data/ |
| 复制本地文件到HDFS 指定路径,更严格(二) | hadoop fs -copyFromLocal /usr/local/load.txt /data/ |
| 移除HDFS 指定目录文件 | hadoop fs -rm |
| 移除HDFS 指定目录文件和其子目录 | hadoop fs -rmr |
| 将文件尾部1K字节的内容输出 | hdfs dfs -tail /data/load.txt |
更详细的 shell 说明请点击查看,可以在集群浏览器中输入 http://yarn00:50070 浏览和操作HDFS的目录和文件。
路径浏览

对应 http://yarn00:50070 中的界面如下:

Hadoop shell 一查就会的更多相关文章
- Hadoop Shell命令大全
hadoop支持命令行操作HDFS文件系统,并且支持shell-like命令与HDFS文件系统交互,对于大多数程序猿/媛来说,shell-like命令行操作都是比较熟悉的,其实这也是Hadoop的极大 ...
- 【转】shell速查表
shell速查表 转自:https://www.jianshu.com/p/a98a334bfb25 1. 变量 #!/bin/bash msg="hello world" ech ...
- Hadoop Shell 操作
此随笔仅记录一下常用的Hadoop shell 操作的命令 参考官方文档 http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html FS S ...
- Hadoop Shell命令字典(可收藏)
可以带着下面问题来阅读: 1.chmod与chown的区别是什麽?2.cat将路径指定文件的内容输出到哪里?3.cp能否是不同之间复制?4.hdfs如何查看文件大小?5.hdfs如何合并文件?6.如何 ...
- hadoop shell 操作命令
shell操作命令: hdfs的路径,在core-site.xml中定义 <property> <name>fs.default.name</name> <v ...
- hadoop shell 详解
概述 所有的hadoop命令均由bin/hadoop脚本引发.不指定参数运行hadoop脚本会打印所有命令的描述. 用法: hadoop [--config confdir] [COMMAND] ...
- Hadoop Shell命令(基于linux操作系统上传下载文件到hdfs文件系统基本命令学习)
Apache-->hadoop的官网文档命令学习:http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html FS Shell 调用文件系统( ...
- Hadoop shell命令
1.FS Shell 调用文件系统(FS)shell命令应使用bin/hadoop fs <args>的形式.所有的的FS shell命令使用URI路径作为参数.URI格式是scheme: ...
- Hadoop Shell
1.常用的一些Shell 再好的博客,都不如官方文档好用: http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html
随机推荐
- RabbitMQ广播模式
广播模式:1对多,produce发送一则消息多个consumer同时收到.注意:广播是实时的,produce只负责发出去,不会管对端是否收到,若发送的时刻没有对端接收,那消息就没了,因此在广播模式下设 ...
- 上云、微服务化和DevOps,少走弯路的办法
本文由 网易云发布. 作者:张亮 如果说一个项目的发展历程就像一段未知的旅程,那<云原生应用架构实践>就像一张地图,基于前人的探索标明了在这段旅途中将会碰到的障碍,并注明了越过这些障碍的 ...
- python远程执行命令
def run(): try: ssh = paramiko.SSHClient() ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy()) ...
- 《Python绝技:运用Python成为顶级黑客》 Python实用小工具
1.实现简单探测 使用socket模块,connect()方法建立与指定IP和端口的网络连接:revc(1024)方法将读取套接字中接下来的1024B数据 mport socket import sy ...
- Linux core 文件 gdb
http://blog.csdn.net/mr_chenping/article/details/13767609 在程序不寻常退出时,内核会在当前工作目录下生成一个core文件(是一个内存映像,同时 ...
- UUID,加密解密算法的使用
注意的地方: Base64Encoder,Base64Decoder并不属于JDK标准库范畴,但是又包含在了JDK中 解决方法:按照如下方法设置Eclipse导入%JAVA_HOME%\jre\lib ...
- 使用git工具将本地电脑上的代码上传至GitHub
本文教你如果使用git工具将本地电脑上的代码上传至GitHub 1.安装git工具 安装git链接 2.使用git工具上传自己的代码到GitHub中 安装完git工具之后,我们会得到两个命令行工具,一 ...
- java基本语法一
1 关键字和保留字 1.1 关键字 关键字的定义:被java语言赋予了特殊含义,用做专门用途的字符串(单词). 关键字的特点:关键字中的所有字母都是小写. 1.2 保留字 java保留字:现有Java ...
- TCP与UDP的差别以及TCP三次握手、四次挥手
UDP: 1.UDP面向报文,无需建立连接,不可靠,数量小,高层就解决差错重传,无需拥塞控制 2.支持音频.视频传输 3.检查和检验UDP包头和数据和伪首部 4.分组开销小(头部8个字节),提供最大努 ...
- hbase集群中其中某个regionserver 没有启动
第一步: date命令查看各个机器的时间 发现linux02机器时间差了2个多小时 第二步:ntpdate pool.ntp.org 修改错误时间的机器 第三步: 重启 hbase