hadoop(五)scp命令copy文件和配置(完全分布式准备二)|7
机器的克隆参考centos7克隆ip|机器名|映射关系|别名配置(hadoop完全分布式准备一)
那么问题来了,如果我们有30台机器,之间可以互相访问,那我们如何快速安装配置环境如jdk hadoop等?
可通过scp命令将配置、下载好的工具等直接copy到我们新的机器上就可以了。
scp(secure copy)安全copy
Scp定义:
Scp可以实现服务器与服务器之间的数据copy。(from server1 to server2)
基本语法
Scp -r $pair/$fname $user@hadoop&host:$pdir/$fname
命令 递归 要copy的文件路径/名称 目标用户@主机:目标路径名称
操作实例
在hadoop101上,将hadoop101中/opt/module目录下的软件copy到hadoop102上。
scp/opt/module shaozhiqi@hadoop102:/opt
实际操作时发现报错了:
[shaozhiqi@hadoop101 ~]$ scp -r /opt/module shaozhiqi@hadoop102: /opt
^Z
[1]+ Stopped scp -r /opt/module shaozhiqi@hadoop102: /opt/
[shaozhiqi@hadoop101 ~]$ scp -r /opt/module shaozhiqi@hadoop102:/opt/
ssh: Could not resolve hostname hadoop102: Name or service not kno
lost connection
那就去修改hadoop101的/etc/hosts
添加上与102/103/104等机器的映射配置,否则在执行命令时只能使用ip
[shaozhiqi@hadoop101 ~]$ vi /etc/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.1.101 hadoop101
192.168.1.102 hadoop102
192.168.1.103 hadoop103
192.168.1.104 hadoop104
192.168.1.105 hadoop105
192.168.1.106 hadoop106
192.168.1.107 hadoop107
192.168.1.108 hadoop108
Reboot后
再次执行scp
[shaozhiqi@hadoop101 ~]$ scp -r /opt/module shaozhiqi@hadoop102: /opt/module
[shaozhiqi@hadoop102 module]$ ll
total 8
drwxr-xr-x. 15 shaozhiqi shaozhiqi 4096 Jun 22 22:04 hadoop-3.1.2
drwxr-xr-x. 7 shaozhiqi shaozhiqi 4096 Jun 22 21:59 jdk1.8.0_211
[shaozhiqi@hadoop102 module]$
在103上将101的数据copy过来 ./表示当前目录
[shaozhiqi@hadoop103 module]$ scp –r shaozhiqi@hadoop101:/opt/module ./
[shaozhiqi@hadoop103 module]$ ll
total 8
drwxr-xr-x. 15 shaozhiqi shaozhiqi 4096 Jun 22 22:41 hadoop-3.1.2
drwxr-xr-x. 7 shaozhiqi shaozhiqi 4096 Jun 22 22:26 jdk1.8.0_211
[shaozhiqi@hadoop103 module]$
在103copy 102module到104,执行命令输入102和104的密码
[shaozhiqi@hadoop103 module]$ scp -r shaozhiqi@hadoop102:/opt/module shaozhiqi@hadoop104:/opt/
如果之前没有module,需要用root用户执行scp
那么执行结束后就需要执行chown进行授权
[shaozhiqi@hadoop103 opt]$ cd module/
[shaozhiqi@hadoop103 module]$ ll
total 8
drwxr-xr-x. 15 root root 4096 Jun 23 00:21 hadoop-3.1.2
drwxr-xr-x. 7 root root 4096 Jun 23 00:19 jdk1.8.0_211
[shaozhiqi@hadoop103 opt]$ sudo chown shaozhiqi:shaozhiqi module/ -R
[shaozhiqi@hadoop103 opt]$ ll
total 0
drwxr-xr-x. 4 shaozhiqi shaozhiqi 44 Jun 23 00:19 module
drwxr-xr-x. 2 shaozhiqi shaozhiqi 6 Jun 18 05:58 software
将101上配置的环境变量copy过来
cat /etc/profile
[shaozhiqi@hadoop101 ~]$ scp /etc/profile root@hadoop102:/etc/profile
root@hadoop102's password:
profile 100% 1985 1.9KB/s 00:00
[shaozhiqi@hadoop101 ~]$ scp /etc/profile root@hadoop103:/etc/profile
root@hadoop103's password:
profile 100% 1985 1.9KB/s 00:00
[shaozhiqi@hadoop101 ~]$ scp /etc/profile root@hadoop104:/etc/profile
root@hadoop104's password:
profile 100% 1985 1.9KB/s 00:00
[shaozhiqi@hadoop101 ~]$
重新加载环境配置
source /etc/profile
java –version
如果是openJKD则可删除
删除方式参考[Hadoop学习(一) centos7 jdk安装,hadoop安装
删除后再次
source /etc/profile
验证
[shaozhiqi@hadoop103 ~]$ java -version
java version "1.8.0_211"
Java(TM) SE Runtime Environment (build 1.8.0_211-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.211-b12, mixed mode)
[shaozhiqi@hadoop103 ~]$
hadoop(五)scp命令copy文件和配置(完全分布式准备二)|7的更多相关文章
- Linux使用scp命令进行文件远程拷贝详解
前言 scp是 secure copy的缩写, scp是Linux系统下基于ssh登陆进行安全的远程文件拷贝命令.Linux的scp命令可以在Linux服务器之间复制文件和目录. 使用语法: scp ...
- linux 下使用scp命令传输文件
scp -P 1234 /home/wakasann/test.txt wakasann@192.168.1.30:/var/www/html/ 使用 1234端口,将 test.txt文件传输到服务 ...
- Linux sudo命令——sudoers文件的配置
Linux sudo命令与其配置文件/etc/sudoers 对linux有一定了解的人多少也会知道点关于sudo命令.sudo命令核心思想是权限的赋予 ,即某个命令的所属用户不是你自己,而你却有 ...
- 两台centos之间使用scp命令传输文件
1.将本地文件copy到远程 (1)复制文件 scp local_file remote_username@remote_ip:remote_folder 例如:将/usr/local/aa.png文 ...
- 执行SCP命令拷贝文件失败
scp是我最常用的远程文件拷贝工具,今天发现突然不能用了: svan-mac:hive-tools xiean$ scp -Pxx target/urs-hive-tools-jar-with-de ...
- hadoop(五): shell命令
hdfs dfs -cat URI : 查看文件内容 hdfs dfs -cat hdfs dfs -cat hdfs://mycluster/user/root/rcc1 hdfs dfs -cat ...
- Linux使用scp命令实现文件的上传和下载
上传本地/data/project/test.zip 文件至远程服务器192.168.1.2的 /root 目录下,代码如下: scp /home/project/test.zip root@192 ...
- 使用scp命令传输文件
1. 从远端复制文件到本地: sudo scp root@192.168.0.1:remote_path/remote_file . 2. 从本地复制文件到远端: sudo scp local_fil ...
- linux采用scp命令拷贝文件到本地,拷贝本地文件到远程服务器
// 假设远程服务器IP地址为 192.168.1.100 1.从服务器复制文件到本地: scp root@192.168.1.100:/data/test.txt /home/myfile/ roo ...
随机推荐
- qt creator源码全方面分析(3-5)
目录 qtcreatorlibrary.pri 使用实例 上半部 下半部 结果 qtcreatorlibrary.pri 上一章节,我们介绍了src.pro,这里乘此机会,把src目录下的所有项目文件 ...
- MyBatis框架——动态SQL
MyBatis 作为⼀个“半⾃动化”的 ORM 框架,需要开发者⼿动定义 SQL 语句. 在业务需求⽐较复杂的情 况下,⼿动拼接 SQL 语句的⼯作量会⾮常⼤,为了适⽤于不同的业务需求,往往需要做很多 ...
- MyBatis框架——逆向工程
什么是逆向工程? 逆向工程师MyBatis提供的一种自动化配置方案,针对数据表自动生成MyBatis所需的各种资源,包括实体类.Mapper接口.Mapper.xml,但是逆向工程的缺陷在于只能针对单 ...
- Redis 的键命令、HyperLogLog 命令、脚本命令、连接命令、服务器命令
Redis 的键命令.HyperLogLog 命令.脚本命令.连接命令.服务器命令 Redis 的键命令 Redis 的键命令主要用于管理 Redis 的键,如删除键.查询键.修改键及设置某个键等. ...
- JS中iframe子页面与父页面之间通信
iframe子页面与父页面通信根据iframe中src属性是同域链接还是跨域链接,通信方式也不同. 一.同域下父子页面的通信 父页面parent.html <html> <head& ...
- 贪心-最大相容区间-Maximum Number of Events That Can Be Attended
2020-02-16 16:24:19 问题描述: 问题求解: 看起来就像是sort + 贪心,但是具体如何做呢? 实际上本题是最大相容区间的变种题,在最大相容区间里,我们按照结束时间对interva ...
- python逐行读取文本
一.使用open打开文件后一定要记得调用文件对象的close()方法.比如可以用try/finally语句来确保最后能关闭文件. 二.需要导入import os 三.下面是逐行读取文件内容的三种方法: ...
- Ceph学习笔记(2)- CRUSH数据分布算法
前言: 分布式存储系统需要让数据均匀的分布在集群中的物理设备上,同时在新设备加入,旧设备退出之后让数据重新达到平衡状态尤为重要.新设备加入后,数据要从不同的老设备中迁移过来.老设备退出后,数据迁移 ...
- Swagger2 初始用
1.结合Spring-Boot 引入 pom 依赖 <dependency> <groupId>io.springfox</groupId> <artifa ...
- 数据库(sqlserver 2005)优化排查之路
查找问题过程是痛苦的,解决完问题是快乐! 兄弟帮助一个公司开发了一个旅游网站(asp.net+sqlsever2005),一直还算稳定,但是最近网站却慢的可以,让人头疼.登录服务器,进入任务管理器,发 ...