7月16号day8总结
今天学习过程和小结
1.列举Linux常用命令
shutdown now Linux关机
rebot重启
mkdir
mkdir -p递归创建
vi/touth filename
rm -r filename删除文件
rm -rf file删除一个文件夹
vi编辑一个文件
i可编辑状态
esc-->:-->wq保存退出
q!不保存
wq!强制保存退出
ifconfig查看ip
pingip是否联通
cat查看文件内容
grep在文件中搜索某些内容
useradd增加一个用户
修改用户权限
chmod 读写权限777 filename
more
cp复制文件
mv移动文件,重命名
tar -zxvf解压缩
ls查看目录
ls -a查看隐藏文件。
pwd查看当前文件目录绝对路径
filewall:防火墙
service iptables start/stop/status/restart
修改网络配置文件
/etc/sysconfig/network-scripts/ifcfg-eth1
配置环境变量
/etc/profile
~/.bash_profile
/etc/profile.d/x.sh
java
export JAVA_HOEM=JAVA解压缩目录
export PATH=$JAVA_HOME/bin:$PATH
配置文件生效
soure -/.bash_profile
查看java安装目录
ecah $JAVA_HOME
hash函数特点是什么?
代码论道
字符串--->固定位数的hash值。
1.确定性
2.单向性
str---hash()--->hash值
3.防篡改
4.防碰撞
haprereduce分区默认实现
hash(key)%reduce task
hash实现:
SHA系列
MD系列
区块链
3.HDFS如何实现文件的存储
namenote存放文件原数据
接收客户端的请求。
操作原数据(修改文件名,打开文件,关闭文件、DataNode info)
DataNode
存储文件数据block.blocksize=128MB
发生心跳信息。将自身所有储存的block信息,健康状况发送给namenode。
4.HDFS副本存放机制?
block默认3份。
5.HDFS主要进程,yarn 的主要进程
namenote
datanote
Secondnamenote
资源导读框架
7.搭建伪分布式步骤
1.前置准备
java
tar --zxvf
配置环境变量
ssh
1.安装ssh服务器
openserver -ssh
2.ssh-keygen -t rsa
cd -/.ssh
id_rsa id_rsa.pub
cp id_rsa.pub authorized
130MB-->128MB block+2M block
HDFS
1.查看hdfs上的文件hdfs dfs -ls /查看文件
2.hdfs dfs -put 本地目录 /
3.查看hdfs上的文件内容 hdfs dfs -cat /
hdfs dfs -text /
4.在hdfs上创建目录,
hdfs dfs -mkdir /
5.递归创建目录
hdfs dfs -mkdir -p /test/a/b
6.递归查询目录
hdfs dfs -ls -p /test
7.将hdfs上的文件下载到本地。
hdfs dfs -get/hello.txt
8.将本地文件拷贝到hdfs上/test/a/b
hdfs dfs -copyFromLoacl hello.txt /test/a/b/h.text
9删除hdfs上的目录
hdfs dfs -rm -R /hello
10.删除hdfs上的文件
hdfs dfs -rm /hello.txt
遇到的问题
- 今天重新学习了Linux的基本命令,觉得还有很多常用的命令不熟悉,要继续加强记忆。
- 今天学了一个新的开发软件idea,还有很多不懂的地方,要多多练习。
3.对于用idea操作HDFS也很方便,但要学习如何调用方法。
学习技能思维导图

7月16号day8总结的更多相关文章
- 2014年10月16号--for语句实例
Console.WriteLine("一对小兔一个月之后长成大兔,再过一个月后生新的一对兔子,且两年之后有多少对兔子,就是三兔子幼兔,小兔,成兔"); Console.WriteL ...
- 关于ros stage与navigation仿真总结5月16号
主要总结内容 在costmap里是怎么判断机器人和障碍物碰撞了 stage_ros包输入输出,stage是怎么回事 rviz 中footprint和stage中position怎么联系到一起 voxe ...
- 宁波Uber优步司机奖励政策(8月10号-16号)
本周奖励: 8月10日-8月16日: 滴滴快车单单2.5倍,注册地址:http://www.udache.com/如何注册Uber司机(全国版最新最详细注册流程)/月入2万/不用抢单:http://w ...
- psp进度(11月25号-31号)
本周psp进度 11月25号 内容 开始时间 结束时间 打断时间 净时间 处理数据集 9:27 11:34 12m 115m 11月27号 内容 开始时间 结束时间 打断时间 净时间 scr ...
- 第四组 12月8号sprint会议
会议时间:12月8号,16:30会议地点:蛙鸣湖旁小树林 会议进程: 1.首先对到场人员进行点名 2.对程序主要功能进行讨论,每人都可以自由发言,然后分配每个成员的任务,并决定实现第一个功能: ...
- 补psp进度(11月4号-9号)
这周psp进度 11月4号 内容 开始时间 结束时间 打断时间 净时间 小伙伴聊天实现 9:45 10:49 0 64m 学习HttpURLConnection 14:13 15:48 10m 85m ...
- 《Genesis-3D开源游戏引擎-FQA常见问题解答》2014年01月10号版本
1.Genesis-3D开源游戏引擎主要面向哪些用户人群?有限制吗? 1.我们的引擎没有限制,只要您想了解和使用我们的引擎,就可以加入Genesis-3D的大家庭.2.我们的主要用户群是各个相关的企业 ...
- 12月16日广州.NET俱乐部下午4点爬白云山活动
正如我们在<广州.NET微软技术俱乐部与其他技术群的区别>和<广州.NET微软技术俱乐部每周三五晚周日下午爬白云山活动>里面提到的, 我们会在每周三五晚和周日下午爬白云山. ...
- 9月16日,base 福州,2018MAD技术论坛邀您一起探讨最前沿AR技术!
“ 人工智能新一波浪潮带动了语音.AR等技术的快速发展,随着智能手机和智能设备的普及,人机交互的方式也变得越来越自然. 9月16日,由网龙网络公司.msup联合主办的MAD技术论坛将在福州举行.本次论 ...
随机推荐
- (数据科学学习手札29)KNN分类的原理详解&Python与R实现
一.简介 KNN(k-nearst neighbors,KNN)作为机器学习算法中的一种非常基本的算法,也正是因为其原理简单,被广泛应用于电影/音乐推荐等方面,即有些时候我们很难去建立确切的模型来描述 ...
- SIMD数据并行(一)——向量体系结构
在计算机体系中,数据并行有两种实现路径:MIMD(Multiple Instruction Multiple Data,多指令流多数据流)和SIMD(Single Instruction Multip ...
- SQL 公用表表达式(CTE)
1.概念 公用表表达式(Common Table Expression)是SQL SERVER 2005版本之后引入的一个特性.CTE可以看作是一个临时的结果集,可以在接下来的一个SELECT,INS ...
- Sql Server 游标概念与实例
引言 先不讲游标的什么概念,看如下Sql Server2008 图例: 需求:两张表的O_ID是一一对应的,现在求将加薪的工资+原来的工资=现在的工资,也就是O_Salary=O_Salary+A_S ...
- 对C语言连等式的学习
例子如下 [pgsql@localhost soft]$ cat test1.c #include <stdlib.h> #include <stdio.h> int main ...
- LeetCode:5. Longest Palindromic Substring(Medium)
原题链接:https://leetcode.com/problems/longest-palindromic-substring/description/ 1. 题目要求:找出字符串中的最大回文子串 ...
- web框架与爬虫
所有的web框架 http://www.cnblogs.com/wupeiqi/articles/5341480.html 爬虫技术 http://www.cnblogs.com/wupeiqi/ar ...
- Micro Average vs Macro average Performance in a Multiclass classification setting
整理摘自 https://datascience.stackexchange.com/questions/15989/micro-average-vs-macro-average-performanc ...
- 计算机概念总结5-阿里云的了解-ecs
1.ecs 1.1ecs 云服务器Elastic Compute Service(ECS)是阿里云提供的一种基础云计算服务.使用云服务器ECS就像使用水.电.煤气等资源一样便捷.高效.您无需提前采购硬 ...
- mysql 查询表的字段数目
select column_name from information_schema.`COLUMNS` where TABLE_NAME ='tcm_head'