一. etcd服务的安装和使用

1.安装etcd应用：

wget https://github.com/coreos/etcd/releases/download/v2.2.5/etcd-v2.2.5-linux-amd64.tar.gz -O etcd-v2.2.5-linux-amd64.tar.gz

tar -zxvf etcd-v2.2.5-linux-amd64.tar.g

cp etcd etcdctl /usr/local/bin/

2.启动etcd服务：

mkdir -p /data/etcd    #创建数据存储目录

nohup etcd -name auto_scale --data-dir /data/etcd/ \

     --listen-peer-urls 'http://172.16.1.211:2380,http://172.16.1.211:7001' \

     --listen-client-urls 'http://172.16.1.211:2379,http://172.16.1.211:4001' \

     --advertise-client-urls 'http://172.16.1.211:2379,http://172.16.1.211:4001' &

3.提交key到etcd中：

curl -s http://172.16.1.211:2379/v2/keys/message -XPUT -d value="hello world" | python -m json.tool   #结果通过python的json模块转义输出，增加可读性。

4.获取刚才提交的key值：

curl -s http://172.16.1.211:2379/v2/keys/message | python -m json.tool

5.删除刚才提交的key：

curl -s http://172.16.1.211:2379/v2/keys/message -XDELETE | python -m json.tool

6.提交带10秒过期时间的key：

curl -s http://172.16.1.211:2379/v2/keys/ttl_use -XPUT -d value="hello world 1" -d ttl=10 | python -m json.tool

二. 实现Salt自动化让Haproxy扩容

1.配置salt的pillar连接etcd：

yum install python-pip

pip install python-etcd #安装python的etcd包

vim /etc/salt/master

#底部添加

etcd_pillar_config:

  etcd.host: 172.16.1.211

  etcd.port: 4001

ext_pillar:

  - etcd: etcd_pillar_config root=/salt/haproxy/   #root参数是指定etcd里面的目录

2.测试通过salt获取pillar:

curl -s http://172.16.1.211:2379/v2/keys/salt/haproxy/backend_www_wmj_com/web-node1 -XPUT -d value="172.16.1.213:8080" | python -m json.tool

salt '*' pillar.item

3.让salt模板自动添加haproxy的backend：

vim /srv/salt/prod/cluster/files/haproxy-outside.cfg

#server web-node1  172.16.1.213:8080 check inter 2000 rise 30 fall 15

#使用for循环获取etcd的key值

{% for web,web_ip in pillar.backend_www_wmj_com.iteritems() %} server {{ web }} {{ web_ip }} check inter 2000 rise 30 fall 15 {% endfor %}

4.添加一台haproxy的节点：

curl -s http://172.16.1.211:2379/v2/keys/salt/haproxy/backend_www_wmj_com/web-node3 -XPUT -d value="172.16.1.215:8080" | python -m json.tool

salt '*' state.sls cluster.haproxy-outside env=prod

5.简单的自动化扩容脚本：

#!/bin/bash

create_host(){

        echo "create host"

}

deploy_service(){

        salt '*' state.sls nginx.install env=prod

}

deploy_code(){

        echo "deploy code ok"

}

service_check(){

        STATUS=$(curl -s --head http://172.16.1.213:8080/ | grep '200 OK')

        if [ -n "$STATUS" ];then

                echo "HTTP ok"

        else

                echo "HTTP not ok"

                exit 1

        fi

}

etcd_key(){

        curl -s http://172.16.1.211:2379/v2/keys/salt/haproxy/backend_www_wmj_com/web-node4 -XPUT -d value="172.16.1.213:8080"

}

sync_state(){

        salt '*' state.sls cluster.haproxy-outside env=prod

}

main(){

        create_host

       deploy_service

        deploy_code

        service_check

        etcd_key

        sync_state

}

main

############################################################################################

案例：当nginx的并发达到3000，并持续了一段时间时，通过自动化创建一台虚拟机，部署应用最后添加到集群提供服务：

　　zabbix监控（nginx并发量）-------》action-------》创建了一台主机/docker容器-------》部署服务--------》部署应用代码-------》测试状态--------》加入到集群---------》加入监控----------》通知

简单实现上面中的某些步骤：为集群添加一个后端节点以提供服务

为了实现上面功能，这里采用salstack+etcd

安装etcd：

[root@node1 src]# tar xf etcd-v3.2.9-linux-amd64.tar.gz

cd etcd-v3.2.9-linux-amd64

cp etcd etcdctl /usr/local/bin/

然后开启etcd集群：

　　1、首先创建数据目录：mkdir /data/etcd -p

　　2、开启服务：

1	`nohup` `etcd --name auto_scale --data-dir` `/data/etcd/` `--listen-peer-urls http://192.168.44.134:2380,http://192.168.44.134:7001 --listen-client-urls http://192.168.44.134:2379,http://192.168.44.134:4001 --advertise-client-urls http://192.168.44.134:2379,http://192.168.44.134:4001 &`

[root@node1 ~]# netstat -tunlp|grep etcd

tcp        0      0 192.168.44.134:2379         0.0.0.0:*                   LISTEN      52094

/etcd

tcp        0      0 192.168.44.134:2380         0.0.0.0:*                   LISTEN      52094

/etcd

tcp        0      0 192.168.44.134:7001         0.0.0.0:*                   LISTEN      52094

/etcd

tcp        0      0 192.168.44.134:4001         0.0.0.0:*                   LISTEN      52094

/etcd

1、创建一个key/value

1	`[root@node1 ~]# curl -s http://192.168.44.134:2379/v2/keys/key1 -XPUT -d value="Hello world"`

2、获取创建的key/value

1	`[root@node1 ~]# curl -s http://192.168.44.134:2379/v2/keys/salt/haproxy/backend_www/www1`

3、删除创建的key/value

1	`[root@node1 ~]# curl -s http://192.168.44.134:2379/v2/keys/key1 -XDELETE`

或者将上面的输出结果以json格式输出：

[root@node1 ~]# curl -s http://192.168.44.134:2379/v2/keys/salt/haproxy/backend_www/www1|python -m json.tool

{

"action": "get",

"node": {

"createdIndex": 9,

"key": "/salt/haproxy/backend_www/www1",

"modifiedIndex": 9,

"value": "192.168.44.134:8080"

}

将etcd配置在saltstack中，结合使用：

1、首先需要安装依赖包：

　　yum install python-pip

　　pip install python-etcd

2、将etcd配置在salt中：在master配置文件中设置

####config etcd

my_etcd_config:

etcd.host: 192.168.44.134

etcd.port: 4001

ext_pillar:

- etcd: my_etcd_config root=/salt/haproxy

3、重启master

1	`[root@node1 ~]# /etc/init.d/salt-master restart`

[root@node1 ~]# salt '*' pillar.items

node2:

----------

backend_www:

----------

zabbix-agent:

----------

Zabbix_Server:

192.168.44.134

zabbix-agent-host:

----------

zabbix_host:

node2

现在通过添加etcd的key来增加haproxy后端的节点服务器：

1、设置etcd的key

1	`curl -s http://192.168.44.134:2379/v2/keys/salt/haproxy/backend_www/www1` `-XPUT -d value="192.168.44.134:8081"\|python -m json.tool`

2、查看pillar

[root@node1 ~]# salt '*' pillar.items

node1:

----------

backend_www:

----------

www1:

192.168.44.134:8081

3、修改haproxy配置文件：vim /srv/salt/prod/cluster/files/haproxy-outside.cfg

{% for www,www_ip in pillar.backend_www.iteritems() %}

server {{ www }} {{ www_ip }} check inter 1000

{% endfor %}

4、修改haproxy状态配置文件：vim /srv/salt/prod/cluster/haproxy-outside.sls

haproxy-service:

file.managed:

- name: /etc/haproxy/haproxy.cfg

- source: salt://cluster/files/haproxy-outside.cfg

- user: root

- group: root

- mode: 644

- template: jinja 新增一行，使用jinja模板，使用变量

测试并验证：

由于etcd仅仅只是设置了一个key：

www1:192.168.44.134:8081

所以后端只有一个节点：

现在为haproxy后端新增节点www2和www3：

[root@node1 ~]

# curl -s http://192.168.44.134:2379/v2/keys/salt/haproxy/backend_www/www2 -XPUT -d value="192.168.44.134:8080"|python -m json.tool

{

"action": "set",

"node": {

"createdIndex": 14,

"key": "/salt/haproxy/backend_www/www2",

"modifiedIndex": 14,

"value": "192.168.44.134:8080"

}

[root@node1 ~]

# curl -s http://192.168.44.134:2379/v2/keys/salt/haproxy/backend_www/www3 -XPUT -d value="192.168.44.135:8080"|python -m json.tool

{

"action": "set",

"node": {

"createdIndex": 15,

"key": "/salt/haproxy/backend_www/www3",

"modifiedIndex": 15,

"value": "192.168.44.135:8080"

}

查看设置的pillar：

[root@node1 ~]# salt '*' pillar.items

node2:

----------

backend_www:

----------

www1:

192.168.44.134:8081

www2:

192.168.44.134:8080

www3:

192.168.44.135:8080

执行salt状态配置文件：

添加完成后，默认不会进行增加，需要执行状态配置文件（随着配置文件修改会reload服务）

salt '*' state.highstate

然后进行查看节点状态以及个数：

###################################################################################################

自动化运维-基于etcd加saltstack的自动化扩容

# tar -xf etcd-v2.2.1-linux-amd64.tar.gz

# cd etcd-v2.2.1-linux-amd64

# cp etcd etcdctl /usr/local/bin/

查看版本

# etcd --version

创建数据目录

# mkdir -p /data/etcd

后台运行进程

# nohup etcd --name auto_scale --data-dir /data/etcd/ --listen-peer-urls 'http://192.168.3.12:2380,http://192.168.3.12:7001' --listen-client-urls 'http://192.168.3.12:2379,http://192.168.3.12:4001' --advertise-client-urls 'http://192.168.3.12:2379,http://192.168.3.12:4001' &

创建key和value

# curl -s http://192.168.3.12:2379/v2/keys/message -XPUT -d value="hello world" | python -m json.tool

结果

{

"action": "set",

"node": {

"createdIndex": 5,

"key": "/message",

"modifiedIndex": 5,

"value": "hello world"

}

}

查看key和value

# curl -s http://192.168.3.12:2379/v2/keys/message | python -m json.tool

结果

{

"action": "get",

"node": {

"createdIndex": 5,

"key": "/message",

"modifiedIndex": 5,

"value": "hello world"

}

}

删除key，可以看到查不到了

# curl -s http://192.168.3.12:2379/v2/keys/message -XDELETE | python -m json.tool

结果

{

"action": "delete",

"node": {

"createdIndex": 5,

"key": "/message",

"modifiedIndex": 6

},

"prevNode": {

"createdIndex": 5,

"key": "/message",

"modifiedIndex": 5,

"value": "hello world"

}

}

查看删除

# curl -s http://192.168.3.12:2379/v2/keys/message | python -m json.tool

结果

{

"cause": "/message",

"errorCode": 100,

"index": 6,

"message": "Key not found"

}

建一个只存在25秒的键值，25秒后发现该键值查不到了

# curl -s http://192.168.3.12:2379/v2/keys/ttl_use -XPUT -d value='hello world 1' -d ttl=25 | python -m json.tool

结果

{

"action": "set",

"node": {

"createdIndex": 9,

"expiration": "2017-04-18T03:04:54.538607442Z",

"key": "/ttl_use",

"modifiedIndex": 9,

"ttl": 25,

"value": "hello world 1"

}

}

查看

# curl -s http://192.168.3.12:2379/v2/keys/ttl_use | python -m json.tool

结果

{

"action": "get",

"node": {

"createdIndex": 9,

"expiration": "2017-04-18T03:04:54.538607442Z",

"key": "/ttl_use",

"modifiedIndex": 9,

"ttl": 24,

"value": "hello world 1"

}

编辑salt，修改etcd相关配置

# vim /etc/salt/master

etcd_pillar_config:

etcd.host: 192.168.3.12

etcd.port: 4001

ext_pillar:

- etcd: etcd_pillar_config root=/salt/haproxy/

重启服务

# /etc/init.d/salt-master restart

测试

curl -s http://192.168.3.12:2379/v2/keys/salt/haproxy/backend_www_chinasoft_com/web-node1 -XPUT -d value="192.168.3.12:8080" | python -m json.tool

结果

{

"action": "set",

"node": {

"createdIndex": 11,

"key": "/salt/haproxy/backend_www_chinasoft_com/web-node1",

"modifiedIndex": 11,

"value": "192.168.3.12:8080"

}

安装etcd

# yum install -y python-pip

# pip search python-etcd

# pip install python-etcd

1）编写haproxy的配置文件

vim /srv/salt/prod/cluster/files/haproxy-outside.cfg


 balance roundrobin

 {% for web,web_ip in pillar.backend_www_chinasoft_com.iteritems() -%}

 server {{ web }} {{ web_ip}} check inter 2000 rise 30 fall 15

 {% endfor %}

2）编写sls文件

vim /srv/salt/prod/cluster/haproxy-outside.sls

include:

- haproxy.install

haproxy-service:

file.managed:

- name: /etc/haproxy/haproxy.cfg

- source: salt://cluster/files/haproxy-outside.cfg

- user: root

- group: root

- mode: 644

- template: jinja # 添加了jinja这一行

service.running:

- name: haproxy

- enable: True

- reload: True

- require:

- cmd: haproxy-init

- watch:

- file: haproxy-service

执行以下高级状态，如果报错jinja has no attibute backend_www_chinasoft_com重启一下master即可

# salt '*' state.highstate

此时向haproxy添加backend主机

curl -s http://192.168.3.12:2379/v2/keys/salt/haproxy/backend_www_chinasoft_com/web-node2 -XPUT -d value="192.168.3.12:8080" | python -m json.tool

curl -s http://192.168.3.12:2379/v2/keys/salt/haproxy/backend_www_chinasoft_com/web-node3 -XPUT -d value="192.168.3.12:8080" | python -m json.tool

curl -s http://192.168.3.12:2379/v2/keys/salt/haproxy/backend_www_chinasoft_com/web-node4 -XPUT -d value="192.168.3.12:8080" | python -m json.tool

执行变更

# salt '*' state.highstate

通过访问haproxy的管理界面可以看到成功添加 http://192.168.3.12:8888/haproxy-status

可以看到pillar的选项，如果不能看到需要修改/etc/salt/master (pillar_opts: False)

# salt '*' pillar.items

结果

node2.chinasoft.com:

----------

backend_www_chinasoft_com:

----------

web-node1:

192.168.3.12:8080

web-node2:

192.168.3.12:8080

web-node3:

192.168.3.12:8080

web-node4:

192.168.3.12:8080

zabbix-agent:

----------

Zabbix_Server:

192.168.3.13

mini1:

----------

backend_www_chinasoft_com:

----------

web-node1:

192.168.3.12:8080

web-node2:

192.168.3.12:8080

web-node3:

192.168.3.12:8080

web-node4:

192.168.3.12:8080

zabbix-agent:

----------

Zabbix_Server:

192.168.3.13

编写脚本实现自动添加haproxy后端服务器

# vim auto_add_haproxynode.sh

#!/bin/bash

MAIN_ADD_HOST=$1

create_host(){

echo 'create host ok'

}

deploy_service(){

ADD_HOST_PORT='8080'

}

deploy_code(){

echo 'deploy code ok'

}

service_check(){

STATUS=$(curl -s --head http://"$ADD_HOST":"$ADD_HOST_PORT"/ |grep "200 OK")

if [ -n "$STATUS" ];then

echo 'status check ok'

else

echo 'status check not ok'

exit

fi

}

etcd_key(){

ADD_HOST=$1

curl http://192.168.3.12:2379/v2/keys/salt/haproxy/backend_www_chinasoft_com/$ADD_HOST -XPUT -d value="192.168.3.19:${ADD_HOST_PORT}"

}

sync_state(){

salt '*' state.sls cluster.haproxy-outside env=prod

}

main(){

create_host;

deploy_service;

deploy_code;

etcd_key $MAIN_ADD_HOST;

sync_state;

}

main $1

执行脚本，可以看到成功添加

# ./auto_add_haproxynode.sh web-node18

Saltstack自动化扩容的更多相关文章

saltstack自动化运维系列11基于etcd的saltstack的自动化扩容
saltstack自动化运维系列11基于etcd的saltstack的自动化扩容自动化运维-基于etcd加saltstack的自动化扩容# tar -xf etcd-v2.2.1-linux-amd ...
基于saltstack自动化部署高可用kubernetes集群
SaltStack自动化部署HA-Kubernetes 本项目在GitHub上,会不定期更新,大家也可以提交ISSUE,地址为:https://github.com/skymyyang/salt-k8 ...
七天学会SALTSTACK自动化运维　(3)
七天学会SALTSTACK自动化运维 (3) 导读 SLS TOP.SLS MINION选择器 SLS文件的编译总结参考链接导读 SLS SLS (aka SaLt State file) 是 ...
七天学会SALTSTACK自动化运维（2）
七天学会SALTSTACK自动化运维 (2) 导读 Grains Pillar 总结参考链接导读上一篇主要介绍了安装和基本的使用方法,但是我认为如果理解了相关概念的话,使用会更加顺手,因为毕竟每 ...
Saltstack自动化操作记录（2）-配置使用【转】
之前梳理了Saltstack自动化操作记录(1)-环境部署,下面说说saltstack配置及模块使用: 为了试验效果,再追加一台被控制端minion机器192.168.1.118需要在master控制 ...
Saltstack自动化操作记录（1）-环境部署【转】
早期运维工作中用过稍微复杂的Puppet,下面介绍下更为简单实用的Saltstack自动化运维的使用. Saltstack知多少Saltstack是一种全新的基础设施管理方式,是一个服务器基础架构集中 ...
Saltstack自动化操作记录（2）-配置使用
之前梳理了Saltstack自动化操作记录(1)-环境部署,下面说说saltstack配置及模块使用: 为了试验效果,再追加一台被控制端minion机器192.168.1.118需要在master控制 ...
Saltstack自动化操作记录（1）-环境部署
早期运维工作中用过稍微复杂的Puppet,下面介绍下更为简单实用的Saltstack自动化运维的使用. Saltstack知多少Saltstack是一种全新的基础设施管理方式,是一个服务器基础架构集中 ...
saltstack自动化运维系列⑩SaltStack二次开发初探
saltstack自动化运维系列⑩SaltStack二次开发初探 1.当salt运行在公网或者网络环境较差的条件下,需要配置timeout时间vim /etc/salt/master timeout: ...

随机推荐

企业BI应用解决方案主要包括哪些方面？
BI的地位在实际的BI应用过程中,很多企业对数据分析的概念仅为雏形,且业务人员往往难以了解自身数据分析的需求.这就造成很多BI需求调研在和业务人员沟通的环节,业务人员难以明确需求,这使得BI沦为一个 ...
k8s-coredns 介绍和部署
1.k8s-coredns 实现了集群内部通过服务名进行可以访问.添加服务后,会自动添加一条解析记录 cat /etc/resolv.conf nameserver 10.0.0.2 search k ...
JavaScript与C#互通的DES加解密算法的实现（转）
本文提供了一个能使JavaScript与C#互通的DES加解密算法的实现,在前台页面中用JavaScript版本的DES算法将数据加密之后,传到服务器端,在服务器端可用C#版本的DES解密算法将其解密 ...
JZ-031-从 1 到 n 整数中 1 出现的次数
从 1 到 n 整数中 1 出现的次数题目描述求出1-13的整数中1出现的次数,并算出100-1300的整数中1出现的次数?为此他特别数了一下1~13中包含1的数字有1.10.11.12.13因此 ...
typora 使用Markdown语法编辑文本
MarkDown语法标题一级标题# 二级标题## ============= 三级标题### 四级标题依此类推 Markdown 段落格式 Markdown 段落没有特殊的格式,直接编写文字,段 ...
使用Logseq构建GTD系统
2021-05-08: 1.0版本初步完成,待完善已完成任务回顾 2021-05-10: 1.1版本完成,修改不重要不紧急为将来清单,且新增每周回顾前言最近在阅读<小强升职记>,感觉里 ...
Netty学习(四)FastThreadLocal
FastThreadLocal 前面介绍过 JDK 的 ThreadLocal , 使用不当的话容易造成内存泄漏最终导致OOM, 并且也有一些地方设计的不够好(相对于接下来要介绍的 FastThrea ...
CF772D题解
什么阴间十进制状压题意:给定 $ n $ 数字,求定义函数 $ G(x) $ 能够表示满足"十进制按位与为 $ x $"的集合的平方和之和乘上 $x$,求 \(\bigop ...
2.9 C++STL map/multimap容器详解
文章目录 2.9.1 引入 2.9.2 代码示例 map案列 multimap案列 2.9.3 代码运行结果总结 2.9.1 引入 map相对于set区别,map具有键值和实值,所有元素根据键值自动 ...
『现学现忘』Docker基础 — 29、Docker容器数据卷的应用
目录 1.验证容器和宿主机之间数据共享 2.容器停止退出后,主机修改后数据是否同步 3.带只读权限的挂载数据卷 1.验证容器和宿主机之间数据共享通过上面的操作,接下来我们演示一下通过数据卷的挂载,实 ...

Saltstack自动化扩容

一. etcd服务的安装和使用

1.安装etcd应用：

2.启动etcd服务：

3.提交key到etcd中：

4.获取刚才提交的key值：

5.删除刚才提交的key：

6.提交带10秒过期时间的key：

二. 实现Salt自动化让Haproxy扩容

1.配置salt的pillar连接etcd：

2.测试通过salt获取pillar:

3.让salt模板自动添加haproxy的backend：

4.添加一台haproxy的节点：

5.简单的自动化扩容脚本：

Saltstack自动化扩容的更多相关文章

随机推荐

热门专题