大数据学习——shell编程
03/ shell编程综合练习
自动化软件部署脚本
3.1 需求
1、需求描述
公司内有一个N个节点的集群,需要统一安装一些软件(jdk)
需要开发一个脚本,实现对集群中的N台节点批量自动下载、安装jdk
2、思路
1/ 编写一个启动脚本,用来发送一个软件安装脚本到每一台机器
2/ 然后启动每台机器上的软件安装脚本来执行软件下载和安装
3、expect的使用
痛点:使用scp命令远程拷贝文件时,会有人机交互的过程,如何让脚本完成人机交互?
妙药: expect
用法示例:
先观察 ssh localhost 的过程
再看expect的功能
| #!/bin/bash/expect ## exp_test.sh set timeout -1; spawn ssh localhost; expect { "(yes/no)" {send "yes\r";exp_continue;} "password:" {send "hadoop\r";exp_continue;} eof {exit 0;} } | 
执行: expect -f exp_test.sh
3.2 准备内网软件下载服务器
选择一台服务器(比如mini)作为软件源服务器
1、安装httpd (如果已有,可跳过)
yum install -y httpd
service httpd start
chkconfig --level 35 httpd on
2、制作局域网yum源
1/ 挂载centos安装光盘到/mnt/cdrom (如果已有,可跳过)
mkdir /mnt/cdrom
mount -t iso9660 -o loop /dev/cdrom /mnt/cdrom
2/ 将本地yum库放入httpd服务器
ln -s /mnt/cdrom /var/www/html/centos
检查点:用浏览器访问 http://mini/centos 看能否看到光盘内容
3、编写repo配置
vi /etc/yum.repos.d/centos.repo
| [c6-httpd] name=CentOS-httpd baseurl=http://192.168.33.3/centos gpgcheck=0 enabled=1 | 
4、分发repo配置到局域网
从母鸡shizhan01上把centos.repo拷贝给所有需要自动安装软件的服务器(仔鸡mini1/mini2)
cd /etc/yum.repos.d/
scp /etc/yum.repos.d/innet.repo mini1:$PWD
scp /etc/yum.repos.d/innet.repo mini2:$PWD
5、准备一个jdk安装包放在内网web服务器上
3.3 脚本开发
1、启动脚本
vi boot.sh
| #!/bin/bash SERVERS="mini1 mini2" PASSWORD=hadoop BASE_SERVER=192.168.33.11 ## 实现免密登陆配置的函数 auto_ssh_copy_id() { expect -c "set timeout -1; spawn ssh-copy-id $1; expect { *(yes/no)* {send -- yes\r;exp_continue;} *assword:* {send -- $2\r;exp_continue;} eof {exit 0;} }"; } ssh_copy_id_to_all() { for SERVER in $SERVERS do auto_ssh_copy_id $SERVER $PASSWORD done } ## 调用免密登陆配置函数,实现母鸡到各仔鸡的免密登陆配置 ssh_copy_id_to_all ## 完成分发install.sh到各仔鸡的操作 ## 并让仔鸡启动install.sh for SERVER in $SERVERS do scp install.sh root@$SERVER:/root ssh root@$SERVER /root/install.sh done | 
2、安装执行脚本
vi install.sh
| #!/bin/bash BASE_SERVER=192.168.33.11 ## 为本机安装wget命令 yum install -y wget ## 使用wget从母鸡的web服务器上下载jdk压缩包 wget $BASE_SERVER/soft/jdk-7u67-linux-x64.gz ## 将下载的压缩包解压 tar -zxvf jdk-7u67-linux-x64.gz -C /usr/local ## 修改profile配置文件 cat >> /etc/profile << EOF export JAVA_HOME=/usr/local/jdk1.7.0_67 export PATH=\$PATH:\$JAVA_HOME/bin EOF | 
3、启动脚本
只要在baseServer即mini上启动boot.sh即可
大数据学习——shell编程的更多相关文章
- 大数据学习day20-----spark03-----RDD编程实战案例(1 计算订单分类成交金额,2 将订单信息关联分类信息,并将这些数据存入Hbase中,3 使用Spark读取日志文件,根据Ip地址,查询地址对应的位置信息
		1 RDD编程实战案例一 数据样例 字段说明: 其中cid中1代表手机,2代表家具,3代表服装 1.1 计算订单分类成交金额 需求:在给定的订单数据,根据订单的分类ID进行聚合,然后管理订单分类名称, ... 
- 大数据学习——actor编程
		1 概念 Scala中的Actor能够实现并行编程的强大功能,它是基于事件模型的并发机制,Scala是运用消息(message)的发送.接收来实现多线程的.使用Scala能够更容易地实现多线程应用的开 ... 
- 大数据学习笔记——Hadoop编程实战之HDFS
		HDFS基本API的应用(包含IDEA的基本设置) 在上一篇博客中,本人详细地整理了如何从0搭建一个HA模式下的分布式Hadoop平台,那么,在上一篇的基础上,我们终于可以进行编程实操了,同样,在编程 ... 
- 大数据学习笔记——Linux完整部署篇(实操部分)
		Linux环境搭建完整操作流程(包含mysql的安装步骤) 从现在开始,就正式进入到大数据学习的前置工作了,即Linux的学习以及安装,作为运行大数据框架的基础环境,Linux操作系统的重要性自然不言 ... 
- 大数据学习路线,来qun里分享干货,
		一.Linux lucene: 全文检索引擎的架构 solr: 基于lucene的全文搜索服务器,实现了可配置.可扩展并对查询性能进行了优化,并且提供了一个完善的功能管理界面. 推荐一个大数据学习群 ... 
- 大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)
		引言 在大数据学习系列之一 ----- Hadoop环境搭建(单机) 成功的搭建了Hadoop的环境,在大数据学习系列之二 ----- HBase环境搭建(单机)成功搭建了HBase的环境以及相关使用 ... 
- 大数据学习系列之九---- Hive整合Spark和HBase以及相关测试
		前言 在之前的大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 中介绍了集群的环境搭建,但是在使用hive进行数据查询的时候会非常的慢,因为h ... 
- 大数据学习:storm流式计算
		Storm是一个分布式的.高容错的实时计算系统.Storm适用的场景: 1.Storm可以用来用来处理源源不断的消息,并将处理之后的结果保存到持久化介质中. 2.由于Storm的处理组件都是分布式的, ... 
- 大数据学习(一) | 初识 Hadoop
		作者: seriouszyx 首发地址:https://seriouszyx.top/ 代码均可在 Github 上找到(求Star) 最近想要了解一些前沿技术,不能一门心思眼中只有 web,因为我目 ... 
随机推荐
- POJ1961(kmp中Next数组的性质)
			对于某个位置i,i - Next[i]是循环节长度,i整除(i - Next[i])时是完整的几个循环元. ; int n, kase, Next[maxn]; char ch[maxn]; inli ... 
- Codeforces Round #322 (Div. 2)
			水 A - Vasya the Hipster /************************************************ * Author :Running_Time * C ... 
- BFS Codeforces Round #297 (Div. 2) D. Arthur and Walls
			题目传送门 /* 题意:问最少替换'*'为'.',使得'.'连通的都是矩形 BFS:搜索想法很奇妙,先把'.'的入队,然后对于每个'.'八个方向寻找 在2*2的方格里,若只有一个是'*',那么它一定要 ... 
- DP+埃氏筛法 Codeforces Round #304 (Div. 2) D. Soldier and Number Game
			题目传送门 /* 题意:b+1,b+2,...,a 所有数的素数个数和 DP+埃氏筛法:dp[i] 记录i的素数个数和,若i是素数,则为1:否则它可以从一个数乘以素数递推过来 最后改为i之前所有素数个 ... 
- linux常用的shell命令
			1.shell介绍 shell(外壳)是linux系统的最外层,简单的说,它就是用户和操作系统之间的一个命令解释器. 2.shell命名的使用 ls :查看当前目录的信息,list . ... 
- php,json数据传输(无刷新)
			废话不说直接上关键代码: js代码: <script language="javascript"> $(".login").live('click' ... 
- LINUX 文件夹打包
			tar -zcvf /data/www.tar.gz data/www tar -zcvf 打包后生成的文件名全路径 要打包的目录 压缩: 压缩当前的文件夹 zip -r ./xahot.zip ./ ... 
- 组件的 render 方法
			React.js 中一切皆组件,用 React.js 写的其实就是 React.js 组件.我们在编写 React.js 组件的时候,一般都需要继承 React.js 的 Component(还有别的 ... 
- P1720 月落乌啼算钱
			题目背景 (本道题目木有以藏歌曲……不用猜了……) <爱与愁的故事第一弹·heartache>最终章. 吃完pizza,月落乌啼知道超出自己的预算了.为了不在爱与愁大神面前献丑,只好还是硬 ... 
- C#中构造函数和析构函数区别
			把对象的初始化工作放在构造函数中,把清除工作放在析构函数中.当对象被创建时,构造函数被自动执行.当对象消亡时,析构函数被自动执行.这样就不用担心忘记对象的初始化和清除工作. 析构函数是由垃圾回收器控制 ... 
