【实验目的】
    1)熟练hdfs shell命令操作
    2)理解hdfs shell和linux shell命令
【实验原理】
    安装好hadoop环境之后,可以执行hdfs shell命令对hdfs 的空间进行操作。我们通过命令行和HDFS打交道,进一步增加对HDFS的认识,HDFS命令行接口是一种最直接,也比较简单的一种方式。
    调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。也可以使用其他形式:
    hadoop dfs {args}
    hdfs dfs {args}
    所有的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。HDFS的scheme是hdfs,对本地文件系统,scheme是file。其中scheme和authority参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme。
【实验环境】
    本次环境是:centos6.5 + jdk1.7.0_79 + hadoop2.4.1
    工具包在/simple/soft目录下
【实验步骤】
    一、hdfs shell命令
        1.1 在任意目录下(需要配置hadoop环境变量),执行命令:start-dfs.sh启动hdfs服务。如图1所示

图1

1.2 启动hdfs之后,通过jps查看hdfs服务是否启动,执行命令:jps 。如图2所示

图2

1.3 在任意目录下执行如下命令(配置hadoop环境变量):hdfs dfs -help,查看到所有hdfs shell命令解释。如图3所示

图3

1.4 appendToFile的使用:假如hdfs上已经存在一个文件words.txt,具有一些信息,假如不存在words.txt,先在本地通过touch /simple/words.txt在simple下创建words.txt文件,并通过cd /simple 命令进入simple目录下执行vim words.txt命令进行编译,编译完成通过esc退出编辑状态,再:wq保存退出。然后通过hdfs dfs -put /simple/words.txt /上传到hdfs根目录并通过cat命令进行查看,如图4:

图4

在本地simple文件夹中建立words.txt,把指定的本地文件中(/simple/words.txt)的内容追加到到hdfs系统的words.txt文件。执行命令:`hdfs dfs -appendToFile /simple/words.txt  /words.txt `。从下面的命令可以看出,hdfs中的文件words.txt中的内容多一部分。如图5所示

图5

1.5 rmr循环删除hdfs系统中的目录。执行命令:hdfs dfs -rmr /words.txt 可以把hdfs根目录下的words.txt文件删除。如图6所示

图6

1.6 touchz的使用:在hdfs系统指定的目录下创建一个文件。执行命令:hdfs dfs -touchz /newword.txt。如图7所示

图7

1.7 mkdir的使用:在hdfs系统的指定位置创建一个目录,执行命令:hdfs dfs -mkdir -p /aa/bb。如图8所示

图8

1.8 moveFromLocal的使用:把指定的本地的文件移到hdfs系统指定的位置,执行命令:hdfs dfs -moveFromLocal /simple/words.txt /aa 。如图9所示

图9

1.9 chgrp的使用:修改hdfs系统中指定文件或文件夹的用户所属组 ,执行命令:hdfs dfs -chgrp -R root /。如图10所示

图10

1.10 chmod的使用:改变指定目录文件的权限,如果指定R表示递归进行改变所有文件目录和文件的权限.用户必须是文件所有者或超级用户,执行命令:hdfs dfs -chmod -R 777 /。如图11所示

图11

1.11  chown的使用:改变文件的所有者,用户必须是超级用户,执行命令:hdfs dfs -chown -R root:supergroup /。如图12所示

图12

 

Linux实验:hdfs shell基本命令操作(二)的更多相关文章

  1. Linux实验:hdfs shell基本命令操作(一)

    [实验目的] 1)熟练hdfs shell命令操作 2)理解hdfs shell和linux shell命令 [实验原理] 安装好hadoop环境之后,可以执行hdfs shell命令对hdfs 的空 ...

  2. Spark环境搭建(二)-----------HDFS shell 常用操作

    配置好HDFS,也学习了点HDFS的简单操作,跟Linux命令相似 1)  配置Hadoop的环境变量,类似Java的配置 在 ~/.bash_profile 中加入 export HADOOP_HO ...

  3. 云计算与大数据实验:Hbase shell基本命令操作

    [实验目的] 1)了解hbase服务 2)学会启动和停止服务 3)学会进入hbase shell环境 [实验原理] HBase是一个分布式的.面向列的开源数据库,它利用Hadoop HDFS作为其文件 ...

  4. HDFS Shell命令操作与java代码操作

    (一)编程实现以下功能,并利用 Hadoop 提供的 Shell 命令完成相同任务: (1)     向 HDFS 中上传任意文本文件,如果指定的文件在 HDFS 中已经存在,则由用户来指定是追加到原 ...

  5. Linux下的shell编程(二)BY 四喜三顺

    Ctrl + Alt + T 打开终端, $代表普通用户,#代表超级用户(root user)如:    xiangqi@xiangqi ~$           root@xiangqi ~# ec ...

  6. H3CNE实验:Comware基本命令操作

    第1步:Comware命令视图及切换操作 <H3C>system-view System View: return to User View with Ctrl+Z. [H3C]quit ...

  7. Linux/Unix下Shell快捷键操作集合

    本人收集整理了一些Bash或其他Shell中常用的快捷键,使用技巧以及Ubuntu中一些常用操作的快捷键,希望大家能从中受益,提高工作效率. 使用”!”从历史中执行命令 有时候,我们需要在 Bash ...

  8. 记录linux系统用户shell终端操作记录

    在 /etc/profile 最后添加 export HISTTIMEFORMAT='[%F %T]: ' export PROMPT_COMMAND='{ msg=$(history 1 | { r ...

  9. linux云计算集群架构学习笔记:rhel7基本命令操作

     1-3-RHEL7基本命令操作 1.1Linux终端介绍 Shell提示符 Bash Shell基本语法. 1.2基本命令的使用:ls.pwd.cd. 1.3查看系统和BIOS硬件时间. 1.4 L ...

随机推荐

  1. 【GMT43智能液晶模块】例程二十二:USB_CDC实验——高速数据传输

    源代码下载链接: 链接:https://pan.baidu.com/s/10KOWONWbNYlonyuX0W0Mcg 提取码:ggpo 复制这段内容后打开百度网盘手机App,操作更方便哦 GMT43 ...

  2. 【GMT43智能液晶模块】例程十六:LAN_TCPS实验——以太网数据传输

    源代码下载链接: 链接:https://pan.baidu.com/s/1e5Qp-xASjlA0pje3S7TdIg提取码:9v37 复制这段内容后打开百度网盘手机App,操作更方便哦 GMT43购 ...

  3. .net framework msbuild环境搭建 (不装vs)

    1. 安装 .net framework sdk 小于等于 .net framework 4.5 版本的 .net framework sdk 通过 windows sdk 工具安装 从下面额链接找到 ...

  4. js 动态加载 jq

    var script=document.createElement("script"); script.type="text/javascript"; scri ...

  5. aps.net StateServer设置

    1.在 system.web节点 加 <sessionState mode="StateServer" stateConnectionString="tcpip=1 ...

  6. Jmetal设置Solution Variables

    Jmetal设置Solution Variables 觉得有用的话,欢迎一起讨论相互学习~Follow Me 首先每个solution都必须使用Problemset初始化 ProblemSet pro ...

  7. 双写mq后碰到没有消费问题记录

    上周双写mq后碰到遇到个问题,mq双写的一台机器有produce,另一台一直没有,但是有的那台机器没有消费者,导致另一个服务 一直没有可以消费的mq.原因是 mq在双写初始化配置的时候两个类文件重复了 ...

  8. OTP详解

    OTP(One Time Programmable)是单片机的一种存储器类型,意思是一次性可编程:程序烧入单片机后,将不可再次更改和清除. 随着嵌入式应用的越来越广泛,产品的安全也显得越来越重要.一方 ...

  9. Java高频面试题--单例设计模式

  10. 迪杰斯特拉算法(Dijkstra) (基础dij+堆优化) BY:优少

    首先来一段百度百科压压惊... 迪杰斯特拉算法(Dijkstra)是由荷兰计算机科学家狄克斯特拉于1959 年提出的,因此又叫狄克斯特拉算法.是从一个顶点到其余各顶点的最短路径算法,解决的是有权图中最 ...