hdfs-03-hdfs客户端操作
1, hdfs中两种连接方式
1), 网页
2), 客户端
文件的切块大小和存储的副本数量,都是由客户端决定!
所谓的由客户端决定,是通过配置参数来定的
hdfs的客户端会读以下两个参数,来决定切块大小、副本数量:
切块大小的参数: dfs.blocksize
副本数量的参数: dfs.replication
<property>
<name>dfs.blocksize</name>
<value>64m</value>
</property> <property>
<name>dfs.replication</name>
<value></value>
</property>
切块后的文件会在hdfs的目录中存在, 通过cat命令将replace拼接后, 文件恢复原始文件
即, hdfs只对文件进行啦按大小的简单切割
2, 常用的命令操作
1, 查看目录
hadoop fs -ls -R /目录 # -R 递归显示
hadoop fs -mkdir -p /hdfs目录。 -p 支持多级创建
2, 上传文件
Hadoop fs -put /本地目录。/hdfs 目录
hadoop fs -copyFromLocal /本地目录 /hdfs目录
hadoop fs -moveFormLocal /本地目录 /hdfs目录 会从本地目录中移除
3, 下载文件
hadoop fs -get /hdfs目录 /本地目录
hadoop fs -copyToLocal /hdfs目录 /本地目录
hadoop fs -moveToLocal /hdfs目录 /本地目录 会从hdfs中删除原文件
4, 移动hdfs中的文件, 改名
hadoop fs -mv /hdfs目录 /hdfs目录
hadoop fs -cp /hdfs文件1 /hdfs文件2 /hdfs目录
可复制一个, 也可复制多个, 当复制多个的时候, 目的地必须是目录
5, 删除文件或文件夹
Hadoop fs -rm -r /hdfs目录
6, 修改文件权限
hadoop fs -chgrp [-R] wenbronk /hdfs目录
hadoop fs -chown wenbronk:wenbronk /hdfs目录
hadoop fs -chmod /hdfs目录
7, 追加内容到已有的文件
hadoop fs -appenToFile /本地文件 /hdfs目录
hadoop fs -appendToFile ./zookeeper.out hdfs://node1:8020/data/test/yarn-site.xml
8, 显示文件内容
hadoop fs -cat /hdfs文件
hadoop fs -tail /hdfs 文件
hadoop fs -text /hdfs文件 # 以文本格式输出
hadoop fs -touchz /hdfs文件 # 创建一个空文件, 文件长度为0
9, 显示文件校验码
hadoop fs -checksum /data/test/zookeeper.out
10, 对文件进行统计大小, 配额, 等
hadoop fs -count -h hdfs://node1:8020/data/test/zookeeper.out
11, 统计目录大小, 文件大小等
hadoop fs -du -h /hdfs目录 # 统计目录大小
hadoop fs -df -h /hdfs 目录 # 查看剩余空间大小
剩余, 遇到在慢慢补充...
hdfs-03-hdfs客户端操作的更多相关文章
- HDFS的Java客户端操作代码(HDFS的查看、创建)
1.HDFS的put上传文件操作的java代码: package Hdfs; import java.io.FileInputStream; import java.io.FileNotFoundEx ...
- HDFS的java客户端操作代码(Windows上面打jar包,提交至linux运行)
1.通过java.net.URL实现屏幕显示demo1文件的内容 package Hdfs; import java.io.InputStream; import java.net.URL; impo ...
- HDFS的Java客户端操作代码(HDFS删除文件或目录)
1.HDFS删除文件或目录 package Hdfs; import java.io.IOException; import java.net.URI; import org.apache.hadoo ...
- HDFS的Java客户端操作代码(查看HDFS下所有的文件存储位置信息)
1.查看HDFS下所有的文件存储位置信息 package Hdfs; import java.net.URI; import org.apache.hadoop.conf.Configuration; ...
- HDFS的Java客户端操作代码(查看HDFS下所有的文件或目录)
1.查看HDFS下所有的文件或目录 package Hdfs; import java.io.IOException; import java.net.URI; import org.apache.h ...
- HDFS的Java客户端操作代码(查看HDFS下的文件是否存在)
1.查看HDFS目录下得文件是否存在 package Hdfs; import java.io.IOException; import java.net.URI; import org.apache. ...
- 03 HDFS的客户端操作
服务器和客户端的概念 hdfs的客户端有多种形式 1.网页形式 2.命令行形式 3.客户端在哪里运行,没有约束,只要运行客户端的机器能够跟hdfs集群联网 参数配置 文件的切块大小和存储的副本数量,都 ...
- Hadoop HDFS的shell(命令行客户端)操作实例
HDFS的shell(命令行客户端)操作实例 3.2 常用命令参数介绍 -help 功能:输出这个命令参数手册 -ls 功能:显示目录信息 示例: hadoop fs ...
- Hadoop JAVA HDFS客户端操作
JAVA HDFS客户端操作 通过API操作HDFS org.apache.logging.log4jlog4j-core2.8.2org.apache.hadoophadoop-common${ha ...
- 大数据学习——hdfs客户端操作
package cn.itcast.hdfs; import org.apache.commons.io.IOUtils; import org.apache.hadoop.conf.Configur ...
随机推荐
- VS2015 提示 无法启动 IIS Express Web 服务器
好久没有写东西了,不是没的写,是没时间了,今天快下班了,正好遇到这个一个问题,我就记录下来,以防忘记. 我定义了一个项目,Demo代码也写好了,然后,我们就把写好的项目代码加入到了源代码管理工具里.然 ...
- Pandas plot出图
1.创建一个Series 这是一个线性的数据,我们随机生成1000个数据,Series 默认的 index 就是从0开始的整数,但是这里我显式赋值以便让大家看的更清楚 >>> imp ...
- Luogu1613 跑路-倍增+Floyd
Solution 挺有趣的一道题, 仔细想想才想出来 先用$mp[i][j][dis]$ 是否存在一条 $i$ 到 $j$ 的长度为 $2^{dis}$ 的路径. 转移 : ; dis < ba ...
- Docker Hello World
Docker 允许你在容器内运行应用程序,使用docker run命令来在容器内运行一个个应用程序. 输出Hello World docker run ubuntu:15.10 ./bin/echo ...
- Django获取数据库数据时根据id筛选
filter(id__in=models.Teacher.objects.all()[0:5]) teacher_list = models.Teacher.objects.filter(id__in ...
- Spring MVC 的国际化和本地化
国际化: i18n 本地化: l10n java.util.Locale 类表示一个语言区域.一个 Locale 对象包含 3 个主要元件:language.country.variant java. ...
- 在JSP页面获取集合的长度
在jsp页面上经常遇到得到集合长度.字符长度.字符切取等应用需,在2.0以前这种需是许多程序员对JSTL及为不满意的地方之一.为此在2.0 中添加了functions标签,其提供对以上需求的支持. 使 ...
- Django的学习进阶(二)———— name
一.问题: 在做完第一个demo的时候,由于只是基础学习,所以对于name的使用并不需要很熟练,也不用理解的很深.但是在做音乐网站的时候遇到了关于如何使用name的内容. 由于一个app中会使用到另一 ...
- /bin/bash: /bin/java: Is a directory 解决
Hadoop执行 mapreduce报错 -- ::, INFO mapreduce.Job: map % reduce % -- ::, INFO mapreduce.Job: Job job_15 ...
- 1.开始学习ASP.NET MVC
Hello,大家好! 好久没有开始记录博客了,是时候开始分享一下了,这个系列主要为零基础的同学,量身打造的.废话不多说,我们开干! 什么是ASP.NET MVC MVC(Model-View-Cont ...