1, hdfs中两种连接方式

1), 网页

2), 客户端

文件的切块大小和存储的副本数量,都是由客户端决定!
所谓的由客户端决定,是通过配置参数来定的
hdfs的客户端会读以下两个参数,来决定切块大小、副本数量:
切块大小的参数: dfs.blocksize
副本数量的参数: dfs.replication
<property>
<name>dfs.blocksize</name>
<value>64m</value>
</property> <property>
<name>dfs.replication</name>
<value></value>
</property>

切块后的文件会在hdfs的目录中存在, 通过cat命令将replace拼接后, 文件恢复原始文件

即, hdfs只对文件进行啦按大小的简单切割

2, 常用的命令操作

1, 查看目录

hadoop fs -ls -R /目录      # -R 递归显示
hadoop fs -mkdir -p /hdfs目录。 -p 支持多级创建

2, 上传文件

Hadoop fs -put /本地目录。/hdfs 目录
hadoop fs -copyFromLocal /本地目录 /hdfs目录
hadoop fs -moveFormLocal /本地目录 /hdfs目录    会从本地目录中移除

3, 下载文件

hadoop fs -get /hdfs目录 /本地目录
hadoop fs -copyToLocal /hdfs目录 /本地目录
hadoop fs -moveToLocal /hdfs目录 /本地目录    会从hdfs中删除原文件

4, 移动hdfs中的文件, 改名

hadoop fs -mv /hdfs目录 /hdfs目录
hadoop fs -cp /hdfs文件1 /hdfs文件2 /hdfs目录
可复制一个, 也可复制多个, 当复制多个的时候, 目的地必须是目录

5, 删除文件或文件夹

Hadoop fs -rm -r /hdfs目录

6, 修改文件权限

hadoop fs -chgrp [-R] wenbronk /hdfs目录
hadoop fs -chown wenbronk:wenbronk /hdfs目录
hadoop fs -chmod /hdfs目录

7, 追加内容到已有的文件

hadoop fs -appenToFile /本地文件  /hdfs目录

hadoop fs -appendToFile ./zookeeper.out hdfs://node1:8020/data/test/yarn-site.xml

8, 显示文件内容

hadoop fs -cat /hdfs文件
hadoop fs -tail /hdfs 文件
hadoop fs -text /hdfs文件  # 以文本格式输出
hadoop fs -touchz /hdfs文件  # 创建一个空文件, 文件长度为0

9, 显示文件校验码

hadoop fs -checksum /data/test/zookeeper.out

10, 对文件进行统计大小, 配额, 等

hadoop fs -count -h hdfs://node1:8020/data/test/zookeeper.out

11, 统计目录大小, 文件大小等

hadoop fs -du -h /hdfs目录    # 统计目录大小
hadoop fs -df -h /hdfs 目录    # 查看剩余空间大小

剩余, 遇到在慢慢补充...

hdfs-03-hdfs客户端操作的更多相关文章

  1. HDFS的Java客户端操作代码(HDFS的查看、创建)

    1.HDFS的put上传文件操作的java代码: package Hdfs; import java.io.FileInputStream; import java.io.FileNotFoundEx ...

  2. HDFS的java客户端操作代码(Windows上面打jar包,提交至linux运行)

    1.通过java.net.URL实现屏幕显示demo1文件的内容 package Hdfs; import java.io.InputStream; import java.net.URL; impo ...

  3. HDFS的Java客户端操作代码(HDFS删除文件或目录)

    1.HDFS删除文件或目录 package Hdfs; import java.io.IOException; import java.net.URI; import org.apache.hadoo ...

  4. HDFS的Java客户端操作代码(查看HDFS下所有的文件存储位置信息)

    1.查看HDFS下所有的文件存储位置信息 package Hdfs; import java.net.URI; import org.apache.hadoop.conf.Configuration; ...

  5. HDFS的Java客户端操作代码(查看HDFS下所有的文件或目录)

    1.查看HDFS下所有的文件或目录 package Hdfs; import java.io.IOException; import java.net.URI; import org.apache.h ...

  6. HDFS的Java客户端操作代码(查看HDFS下的文件是否存在)

    1.查看HDFS目录下得文件是否存在 package Hdfs; import java.io.IOException; import java.net.URI; import org.apache. ...

  7. 03 HDFS的客户端操作

    服务器和客户端的概念 hdfs的客户端有多种形式 1.网页形式 2.命令行形式 3.客户端在哪里运行,没有约束,只要运行客户端的机器能够跟hdfs集群联网 参数配置 文件的切块大小和存储的副本数量,都 ...

  8. Hadoop HDFS的shell(命令行客户端)操作实例

    HDFS的shell(命令行客户端)操作实例 3.2 常用命令参数介绍 -help 功能:输出这个命令参数手册 -ls                  功能:显示目录信息 示例: hadoop fs ...

  9. Hadoop JAVA HDFS客户端操作

    JAVA HDFS客户端操作 通过API操作HDFS org.apache.logging.log4jlog4j-core2.8.2org.apache.hadoophadoop-common${ha ...

  10. 大数据学习——hdfs客户端操作

    package cn.itcast.hdfs; import org.apache.commons.io.IOUtils; import org.apache.hadoop.conf.Configur ...

随机推荐

  1. Java最小化镜像制作

    下载Oracle官网的JRE包,最终下载的包如下: jre-8u181-linux-x64.tar.gz 解压JRE包并删除不必要的文件 #解压 tar xf jre-8u181-linux-x64. ...

  2. github管理项目

    1.在GitHub上创建一个项目,然后拷贝git地址. 2.在本地打开GIT CMD,然后建立一个文件夹,输入git clone 上面拷贝的git地址. 3.文件夹下会多出一个以你创建的项目名字的文件 ...

  3. 学习UI设计书籍推荐

    在学习UI设计的过程当中,特别想学或者零基础的人来说,需要学习到很多知识,比如软件 PS AI ,理论 色彩 排版 规范 UE 等,这些都是一名UI设计师需要学习的知识,而学习到这些知识,可以通过视频 ...

  4. JavaBean四个作用域范围

    使用 useBeans的scope属性可以用来指定javabean的作用范围 page //仅在当前页面有效 request //可以通过HttpRequest.getAttribute()方法取得J ...

  5. python中None与0、Null、false区别

    None是Python中的一个关键字,None本身也是个一个数据类型,而这个数据类型就是None,它可0.空字符串以及false均不一样,这些都只是对象,而None也是一个类. 给个bool测试: v ...

  6. 你会跟谁结婚zz

    正文 咱们日课去年有篇文章叫<你会跟谁结婚?>,提到经济学家的数据显示,现在美国的婚姻中“强强联合”的现象越来越严重,高收入者和高收入者结婚,高学历者和高学历者结婚. 经济学家很无奈,我们 ...

  7. centos7 安装搜狗输入法

    1.root权限,卸载 ibus : yum remove ibus 2.加入EPEL源   sudo yum install epel-release 3.添加mosquito-myrepo源 su ...

  8. 获取sql 时间时分秒

    select DATE_FORMAT(now(),'%Y-%m-%d %T') from dual;  年月日时分秒 select DATE_FORMAT(now(),'%T') from dual; ...

  9. 无网情况下linux安装django

    创建虚拟环境~/project/hanqin/django> virtualenv monitor2~/project/hanqin/django/monitor2> cd bin~/pr ...

  10. PowerShell工作流学习-3-挂起工作流

    关键点: a)可使用Suspend-Job或Suspend-Workflow(从工作流中)挂起工作流,无法从工作流中恢复工作流. 例a: Workflow Test-Suspend { $a = Ge ...