Python 从零搭建 Conf_Web 配置管理平台

作者:Eagle

某船舶行业科技公司，运维工程师，51Reboot学员。通过在51Reboot学习，由运维工程师转至运维开发工程师。完成公司自动化平台的构建，对运维开发有了自己的理解，空闲时间写了这么一个小的项目来和大家分享一下。

环境

CentOS 6/7 x64

Python：  2.7.6

Etcd： 3.2.18

Confd：  0.16.0

Nginx： 1.12.1

效果演示

一拓扑图：

二涉及软件

etd：分布式KV存储系统，一般用于共享配置和服务注册与发现。是ETOS存储格式类似于文件系统，以根“/”开始下面一级级目录，最后一个是Key，一个关键对应一个值。

etcd集群：使用Raft协议保证每个节点数据一致，由多个节点对外提供服务。这里只用单台。

confd：管理本地应用配置文件，使用etcd或consul存储的数据渲染模板，还支持redis，zookeeper等.confd有一个手表功能，通过HTTP API定期监测对应的etcd中目录变化，获取最新的价值，然后竟染模板

Nginx： Nginx是一款轻量级的Web服务器/反向代理服务器以及电子邮件代理服务器，并在一个BSD-like协议下发行。来自俄罗斯的程序设计师l gor Sysoev所开发，供俄国大型的入口网站及搜索引擎Rambler使用。其特点是占有内存少，并发能力强，事实上nginx的并发能力确实在同类型的网页服务器中表现较好。 

三软件部署

环境说明：建议使用Cento7.X X64

1）安装 etcd（这里安装的单机，集群环境根据自己的需求选取）

# yum install etcd -y
# sed -i  's/localhost/0.0.0.0/g'  /etc/etcd/etcd.conf  #配置监听地址
# systemctl   start  etcd  &&  systemctl  enable  etcd  #启动服务设置开机动

2）安装 nginx

 #cd  /usr/local/src
 #wget  http://nginx.org/download/nginx-1.12.1.tar.gz
 #git clone https://github.com/yaoweibin/nginx_upstream_check_module.git
 #tar  -zxvf  nginx-.tar.gz
 #cd nginx-
 #patch  -p1 </usr/local/src/nginx_upstream_check_module/check_1.12.1+.patch
 #./configure   --prefix=/usr/local/nginx --add-module=/usr/local/src/nginx_upstream_check_module/
 make && make install
 #mkdir  /usr/local/nginx/conf/vhost/
 Nginx主配置文件修改为这个样子,增加include目录配置
 #vi  /usr/local/nginx/conf/nginx.conf

   #user  nobody;
   worker_processes  ;

   #error_log  logs/error.log;
   #error_log  logs/error.log  notice;
   #error_log  logs/error.log  info;

   #pid        logs/nginx.pid;

   events {
     worker_connections  ;
   }

   http {
     include       mime.types;
     default_type  application/octet-stream;

     #log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
     #                  '$status $body_bytes_sent "$http_referer" '
     #                  '"$http_user_agent" "$http_x_forwarded_for"';

     #access_log  logs/access.log  main;

     sendfile        on;
     #tcp_nopush     on;

     #keepalive_timeout  ;
     keepalive_timeout  ;

     #gzip  on;

   include   vhost/*.conf;
   }

3）安装 confd

下载地址https://github.com/kelseyhightower/confd/releases

下载完毕丢到系统里面

#cp confd / usr / bin / confd 

＃哪个confd

在/ usr / bin中/ confd

4）创建配置文件目录

# mkdir -p /etc/confd/{conf.d,templates}
 conf.d          # 资源模板，下面文件必须以toml后缀
 templates       # 配置文件模板，下面文件必须以tmpl后缀

5）创建 confd 配置文件

# vi /etc/confd/conf.d/app01.conf.toml

   [template]
   src = "app01.conf.tmpl"                              #默认在/etc/confd/templates目录下
   dest = "/usr/local/nginx/conf/vhost/app01.conf"      #要更新的配置文件
   keys = [
      "/Shopping",                                      #监测的key
   ]
   reload_cmd ="/usr/local/nginx/sbin/nginx -s reload"   #最后执行的命令

6）创建confd模板

# vi  /etc/confd/templates/app01.conf.tmpl 

   upstream {{getv "/Shopping/nginx/cluster1/proxy_name"}} {
     {{range getvs "/Shopping/nginx/cluster1/upstream/*"}}
       server {{.}};
     {{end}}

     check interval= rise= fall= timeout= type=http;
     check_http_send "HEAD / HTTP/1.0\r\n\r\n";
     check_http_expect_alive http_2xx http_3xx;

   }

   server {
      server_name   {{range getvs "/Shopping/nginx/cluster1/server_name/*"}} {{.}} {{end}};
      location / {
        proxy_pass        http://{{getv  "/Shopping/nginx/cluster1/proxy_name"}};
        proxy_redirect off;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
     }
       location /status {
           check_status;
           access_log   off;
          }
   }

7）启动 confd 并设置开机启动

开机启动脚本会随文档附带

拷贝至/etc/init.d/confd,只需要更改等改为连接地址即可

＃/ etc / init.d / confd start && chkconfig --add confd && chkconfig confd on 

四配置平台部署

1）Github 克隆平台代码安装平台依赖

 # git  clone  https://github.com/1032231418/Conf_Web.git
 # cd Conf_Web/ospweb/
 #virtualenv   env                  #建议创建一个沙盒环境跑该平台
 # source  env/bin/activate         #使用沙盒环境
 # pip install -r requirement.txt   #安装相关软件

2）创建数据库并将表刷入数据库

# vi opsweb/settings.py   #这里数据库信息改为自己的数据库信息
     DATABASES = {
         'default': {
         'ENGINE': 'django.db.backends.mysql',
         'NAME': 'confd',
         'HOST': '192.168.8.114',
         'USER': 'root',
         ',
         ,
       }
     }

     ETCD_Server = "192.168.0.221"        #这里改为自己etcd 的ip地址
     ETCD_Port = 

 # python manage.py   migrate          #提交迁移文件至数据库,将表刷入数据库

3）创建超级管理员账号

#python manage.py createsuperuser

4）运行平台

#python manage.py runserver 0：8000

访问地址就是http：// ip：8000账号密码就是上一步创建的超级管理员账号密码5）登录平台为nginx创建键/值

例子：Shopping平台为例

项目创建：

1.创建商城项目/购物

2.创建商城项目里面的/ Shopping / nginx nginx服务

3.创建nginx集群目录/ Shopping / nginx / cluster1

4.给我们的商城nginx集群1项目创建配置文件

5.域名和节点名称可能是多个，这里我们需要创建目录/ Shopping / nginx / cluster1 / server_name和/ Shopping / nginx / cluster1 / upstream

etcd 里面存储的值

配置创建：

1.反向代理/ Shopping / nginx / cluster1 / proxy_name

2.绑定一个域名/ Shopping / nginx / cluster1 / server_name / 1

3.创建一个集群节点/ Shopping / nginx / cluster1 / upstream / web1

etcd里面存储的值

生成的配置文件

通过hosts文件我们可以查看节点状态（虽然这个节点不是up状态但是由此可见，我们可以动态添加节点）

就分享该项目的作者在2018年7月12日晚21：00-22：00 会跟大家详细讲解该项目并且相互探讨共同学习进步。有兴趣的朋友可以看一下报名方式然后报名免费领取视频并且进入直播群和我们的作者互动。

报名方式

分享时间： 18年7月12日晚

21：00--22：00

分享方式：网络直播

报名方式：扫码添加小助手微信，备注“ 公开课 ”进入直播分享群免费获取视频