今天学习过程和小结

1.列举Linux常用命令

shutdown now Linux关机

rebot重启

mkdir

mkdir -p递归创建

vi/touth filename

rm -r filename删除文件

rm -rf file删除一个文件夹

vi编辑一个文件

i可编辑状态

esc-->:-->wq保存退出

q!不保存

wq!强制保存退出

ifconfig查看ip

pingip是否联通

cat查看文件内容

grep在文件中搜索某些内容

useradd增加一个用户

修改用户权限

chmod  读写权限777 filename

more

cp复制文件

mv移动文件,重命名

tar -zxvf解压缩

ls查看目录

ls -a查看隐藏文件。

pwd查看当前文件目录绝对路径

filewall:防火墙

service iptables start/stop/status/restart

修改网络配置文件

/etc/sysconfig/network-scripts/ifcfg-eth1

配置环境变量

/etc/profile

~/.bash_profile

/etc/profile.d/x.sh

java

export JAVA_HOEM=JAVA解压缩目录

export PATH=$JAVA_HOME/bin:$PATH

配置文件生效

soure -/.bash_profile

查看java安装目录

ecah $JAVA_HOME

hash函数特点是什么?

代码论道

字符串--->固定位数的hash值。

1.确定性

2.单向性

str---hash()--->hash值

3.防篡改

4.防碰撞

haprereduce分区默认实现

hash(key)%reduce task

hash实现:

SHA系列

MD系列

区块链

3.HDFS如何实现文件的存储

namenote存放文件原数据

接收客户端的请求。

操作原数据(修改文件名,打开文件,关闭文件、DataNode info)

DataNode

存储文件数据block.blocksize=128MB

发生心跳信息。将自身所有储存的block信息,健康状况发送给namenode。

4.HDFS副本存放机制?

block默认3份。

5.HDFS主要进程,yarn 的主要进程

namenote

datanote

Secondnamenote

资源导读框架

7.搭建伪分布式步骤

1.前置准备

java

tar --zxvf

配置环境变量

ssh

1.安装ssh服务器

openserver -ssh

2.ssh-keygen -t rsa

cd -/.ssh

id_rsa id_rsa.pub

cp id_rsa.pub authorized

130MB-->128MB block+2M block

HDFS

1.查看hdfs上的文件hdfs dfs -ls /查看文件

2.hdfs dfs -put 本地目录 /

3.查看hdfs上的文件内容 hdfs dfs -cat /

hdfs dfs -text /

4.在hdfs上创建目录,

hdfs dfs -mkdir /

5.递归创建目录

hdfs dfs -mkdir -p /test/a/b

6.递归查询目录

hdfs dfs -ls -p /test

7.将hdfs上的文件下载到本地。

hdfs dfs -get/hello.txt

8.将本地文件拷贝到hdfs上/test/a/b

hdfs dfs -copyFromLoacl hello.txt /test/a/b/h.text

9删除hdfs上的目录

hdfs dfs -rm -R /hello

10.删除hdfs上的文件

hdfs dfs -rm /hello.txt

 遇到的问题

  1. 今天重新学习了Linux的基本命令,觉得还有很多常用的命令不熟悉,要继续加强记忆。
  2. 今天学了一个新的开发软件idea,还有很多不懂的地方,要多多练习。

3.对于用idea操作HDFS也很方便,但要学习如何调用方法。

学习技能思维导图

7月16号day8总结的更多相关文章

  1. 2014年10月16号--for语句实例

    Console.WriteLine("一对小兔一个月之后长成大兔,再过一个月后生新的一对兔子,且两年之后有多少对兔子,就是三兔子幼兔,小兔,成兔"); Console.WriteL ...

  2. 关于ros stage与navigation仿真总结5月16号

    主要总结内容 在costmap里是怎么判断机器人和障碍物碰撞了 stage_ros包输入输出,stage是怎么回事 rviz 中footprint和stage中position怎么联系到一起 voxe ...

  3. 宁波Uber优步司机奖励政策(8月10号-16号)

    本周奖励: 8月10日-8月16日: 滴滴快车单单2.5倍,注册地址:http://www.udache.com/如何注册Uber司机(全国版最新最详细注册流程)/月入2万/不用抢单:http://w ...

  4. psp进度(11月25号-31号)

    本周psp进度 11月25号 内容 开始时间 结束时间 打断时间 净时间 处理数据集  9:27  11:34  12m  115m 11月27号 内容 开始时间 结束时间 打断时间 净时间  scr ...

  5. 第四组 12月8号sprint会议

    会议时间:12月8号,16:30会议地点:蛙鸣湖旁小树林 会议进程:   1.首先对到场人员进行点名   2.对程序主要功能进行讨论,每人都可以自由发言,然后分配每个成员的任务,并决定实现第一个功能: ...

  6. 补psp进度(11月4号-9号)

    这周psp进度 11月4号 内容 开始时间 结束时间 打断时间 净时间 小伙伴聊天实现 9:45 10:49 0 64m 学习HttpURLConnection 14:13 15:48 10m 85m ...

  7. 《Genesis-3D开源游戏引擎-FQA常见问题解答》2014年01月10号版本

    1.Genesis-3D开源游戏引擎主要面向哪些用户人群?有限制吗? 1.我们的引擎没有限制,只要您想了解和使用我们的引擎,就可以加入Genesis-3D的大家庭.2.我们的主要用户群是各个相关的企业 ...

  8. 12月16日广州.NET俱乐部下午4点爬白云山活动

    正如我们在<广州.NET微软技术俱乐部与其他技术群的区别>和<广州.NET微软技术俱乐部每周三五晚周日下午爬白云山活动>里面提到的, 我们会在每周三五晚和周日下午爬白云山.   ...

  9. 9月16日,base 福州,2018MAD技术论坛邀您一起探讨最前沿AR技术!

    “ 人工智能新一波浪潮带动了语音.AR等技术的快速发展,随着智能手机和智能设备的普及,人机交互的方式也变得越来越自然. 9月16日,由网龙网络公司.msup联合主办的MAD技术论坛将在福州举行.本次论 ...

随机推荐

  1. HBase-site.xml 常见重要配置参数

    HBase 常见重要配置参数 (1) Hbase.rpc.timeout rpc 的超时时间,默认 60s,不建议修改,避免影响正常的业务,在线上环境刚开始配置的是 3 秒,运行半天后发现了大量的 t ...

  2. 不同编译器下,定义一个地址按x字节对齐的数组

    以前一直用MDK,用__align(4)就可以定义一个首地址被4整除.地址按4字节对齐的数组,但今天用IAR发现这么写编译报错. 搜了一下才发现,原来不同的编译器,需要用不同的表达方式: #if de ...

  3. Coap协议学习笔记-第一篇

    1. 物联网应用上一般使用单片机(或者其他SOC),单片机的RAM内存一般只有20KB~~128KB左右,然而一个TCP协议栈可能就20KB,所以只能用UDP,因为UDP相对小很多,然后在UDP上加了 ...

  4. crm踩坑记(一)

    目录 antd es6 Object.entries() Object.keys() Object.getOwnPropertyNames() 很神奇的用法!!! eslint 傻逼 其他 参考 an ...

  5. 30分钟快速搭建Web CRUD的管理平台--django神奇魔法

    加上你的准备的时间,估计30分钟完全够用了,因为最近在做爬虫管理平台,想着快速开发,没想到python web平台下有这么非常方便的框架,简洁而优雅.将自己的一些坑总结出来,方便给大家的使用. 准备环 ...

  6. (1)分布式下的爬虫Scrapy应该如何做-安装

    关于Scrapy的安装,网上一搜一大把,一个一个的安装说实话是有点麻烦,那有没有一键安装的?答案显然是有的,下面就是给神器的介绍: 主页:http://conda.pydata.org/docs/ 下 ...

  7. Google序列化库FlatBuffers 1.1发布,及与protobuf的比较

    个人总结: FlatBuffer相对于Protobuffer来讲,优势如下: 1. 由于省去了编解码的过程,所以从速度上快于Protobuffer,个人测试结果100w次编解码,编码上FlatBuff ...

  8. 12-Mysql数据库----多表查询

    本节重点: 多表连接查询 符合条件连接查询 子查询 准备工作:准备两张表,部门表(department).员工表(employee) create table department( id int, ...

  9. 创建vpc网络

    vpc相关功能点: 模块 功能点 描述 备注 VPC 创建vpc网络 创建vpc网络,指定vpc网络名称   修改vpc网络 修改vpc网络名称   删除vpc网络 删除vpc网络   vpc相关命令 ...

  10. PyQt5图像全屏显示

    Windows装这个:https://pypi.python.org/pypi/PyQt5Ubuntu输入这个:sudo apt-get install python3-pyqt5 或者直接输入:pi ...