Proxy:简单小巧又强大好用的代理系统
之前的文章介绍了许多我们在用的DevOps相关的工具系统,例如:方便创建多套运行环境的Alodi,对运维友好的配置中心Kerrigan,强大的自定义任务引擎Probius以及专注于数据库自动化的overmind等等,这篇文章介绍一个非常简单但却十分好用的系统,Proxy代理管理系统
代理系统类似于Kubernetes里Ingress的角色,位于下层服务与上层用户之间,作用与公有云的负载均衡LB一致,基于Nginx构建,主要使用Upstream模块
系统由来
为什么会需要这么个系统?来讲讲我们的场景和逻辑
每个项目都需要开发测试环境,这些环境都部署在公司内网,而很多项目因为各种原因都需要外网能访问的到,例如小程序/公众号/支付相关的项目都需要接收微信支付宝的回调,这种需求通常有两种方式来实现
- 直接给开发测试环境所在的主机配置个公网IP,域名指向这个公网IP
- 搭建一个代理服务器,所有的请求都先到这个代理服务器,然后根据域名转发到不同的项目环境
对于方案1,优点在于实现简单,但缺点更为明显,首先公网IP资源有限,其次管理也不方便,只适合一些项目不多的小团队。方案2则更为常用,只需要一个公网IP,将所有需要外网访问的项目入口集中在一起,管理起来也更为方便
我们刚开始就是找了台服务器部署Nginx做代理,如果需要代理服务就去修改Nginx配置文件,但随着项目越来越多,修改Nginx配置文件也成了麻烦事,效率低下、修改冲突、不可追踪成了急需问题,于是便开发了这个Proxy代理系统,到目前为止稳定运行3年,管理了400+代理

系统介绍
系统的核心功能就是要通过web去提交配置然后自动生成Nginx配置文件,除了用户管理这种通用模块外主要分三大块的内容:实例管理,证书管理和黑白名单,每一个实例都指的是一个代理服务,对应Nginx中的一个Server,实例关联证书和黑白名单,这里先介绍一下证书和黑白名单模块
证书模块可以用来管理所有用到的HTTPS证书,每一个证书都会在服务器上创建对应的crt和key文件,方便在实例中引用,对于证书的更新也只需要更新这一个地方就可以了,更新完成之后会自动reload以保证生效


黑白名单模块对应与Nginx的ACL设置,通过allow和deny来实现黑名单禁止访问,白名单允许访问,原理与证书管理差不多,都是根据输入内容生成对应的文件保存到服务器上,生成配置文件用到了jinja2,我的博客也是同样的方法生成的,可以看这篇文章来了解:利用Django徒手写个静态页面生成工具,黑白名单最终在实例里以include的方式引入


无论是证书还是黑白名单最终都是为实例也就是Nginx的Server服务的,对于作为代理的Server配置很简单,下方是一个模板
upstream 11 {
server 192.168.106.110:80;
}
server {
listen 443;
server_name blog.ops-coffee.cn ;
ssl on;
ssl_certificate ssl/1.crt;
ssl_certificate_key ssl/1.key;
include acl/1.conf;
include acl/3.conf;
deny all;
auth_basic "please input user&passwd";
auth_basic_user_file key/11.key;
location / {
proxy_pass http://11;
}
access_log /home/logs/nginx/11.log main;
}
从这个模板里可以看出,我们大概需要如下一些信息,域名server_name、开放端口listen、是否开启ssl以及SSL的证书和密钥、是否有acl白名单以及白名单的地址、是否需要auth_base认证以及账号密码这几类信息,于是对于新建实例我们就需要如下这些信息


根据平时的使用经验,可能有多个域名使用同一个代理,所以提交的数据还有个别名。同时高级配置里还支持用户输入自定义的Nginx配置,这些自定义的Nginx配置会自动填充到Server中,这样就能方便的实现更加复杂的需求,例如修改上传文件大小限制、开启websocket支持、甚至是根据URI的代理等
对于实例更多的信息可以在实例详情页面查看

注意右上角有个“日志”按钮,系统还集成了查看日志的功能,通过websocket去监听日志文件,实时的输出到页面上,方便排错,Websocket实时获取日志文件之前写过一篇文章有介绍,可以点这个链接查看,不过我在Proxy里使用的有所简化,没有用到Celery,更轻便

额外收获
Proxy原本用来管理需要对外开放访问的项目,但为了统一的管理,逐渐的把所有的代理都迁移进了Proxy,这样做不仅管理起来更为方便,而且无形中还提供了一个查询团队所有域名的入口,团队现在维护了超过100+项目,并不是每个人都能准确的记住每个项目各个环境的域名,而通过Proxy就可以方便的查询

在Proxy应用后,对于域名的管理也简单了不少,原本DNS上有几百条xxx.ops-coffee.cn的域名分别指向了不同的IP,现在也简单多了,只需要创建一条*.ops-coffee.cn的泛域名解析指向到Proxy的地址即可
Proxy虽然是个非常简单的小工具,但带来的便利却并不简单~
Proxy:简单小巧又强大好用的代理系统的更多相关文章
- 使用Sublime text 3打造一个小巧但强大的Go语言开发IDE
版权声明:欢迎转载,转载请注明出处! https://blog.csdn.net/iTaacy/article/details/76716049 使用Sublime text 3打造一个小巧但强大的G ...
- 插件介绍 :cropper是一款使用简单且功能强大的图片剪裁jQuery插件。
简要教程 cropper是一款使用简单且功能强大的图片剪裁jQuery插件.该图片剪裁插件支持图片放大缩小,支持鼠标滚轮操作,支持图片旋转,支持触摸屏设备,支持canvas,并且支持跨浏览器使用. c ...
- Victor 串口 VCL 控件 - 简单实用, 功能强大的 C++ Builder 串口控件!
源:Victor 串口 VCL 控件 - 简单实用, 功能强大的 C++ Builder 串口控件! 2014年02月06日发布控件的重要更新版本: Victor 串口控件 1.5.0.2 版本 (包 ...
- 一个简单小巧的CSV读取类
最近在基于亚马逊MWS API做一些服务,需要读取亚马逊返回的报表,是一个按照\t分割的文本,所以就封装了一个简单小巧的CsvReader类 使用方法 使用方法非常简单,只需要传递一个stream子类 ...
- Spring Cloud Gateway简单入门,强大的微服务网关
我最新最全的文章都在南瓜慢说 www.pkslow.com,欢迎大家来喝茶! 1 简介 见名知义,Spring Cloud Gateway是用于微服务场景的网关组件,它是基于Spring WebFlu ...
- 一款简单而不失强大的前端框架——【Vue.js的详细入门教程①】
↓— Vue.js框架魅力 —↓ 前言 Vue.js 是一个构建数据驱动的 web 界面的渐进式框架.Vue.js 的目标是通过尽可能简单的 API 实现响应的数据绑定和组合的视图组件.V ...
- 就这么简单!构建强大的WebShell防护体系
接触web安全中,例如上传一句话WebShell实现上传文件的功能,再通过上传的多功能WebShell,执行病毒文件最终创建远程连接账号,达到入侵目标服务器的效果.我们可以看到,webshell在整个 ...
- jquery函数$.proxy简单示例
来自于<jquery 权威指南> ------------------------------ <!DOCTYPE html PUBLIC "-//W3C//DTD XHT ...
- es6 Proxy简单使用
es6的Proxy是什么? 可以理解为,是在访问对象前的一层拦截.只要访问的该对象,就要通过这个一层拦截.这一层的拦截,可以进行数据的过滤和更改 比如下面这个 var p = new Proxy({} ...
随机推荐
- 索引--mysql 数据库Load data大量数据时性能因素之一
发现load data infile 插入数据时越来越慢,后来发现是因为创建表时有创建索引的动作. 把索引创建删除掉之后,导入很迅速,导入后再创建索引,效率果有提高.
- absolute与relative 的超越
relative 超越了自身而已,所有位置的变化是相对于正常流下自身的表现而言 absolute 超越了父容器,位置信息是基于父容器的位置而言
- tcp timewait 问题 转载
TIME WAIT 带来的问题 先引用一个名言: The TIME_WAIT state is our friend and is there to help us (i.e., to let old ...
- Python 中 'unicodeescape' codec can't decode bytes in position XXX: trun错误解决方案
window 读取文件可以用\,但是在字符串中\是被当作转义字符来使用,'C:\Users\FrankYuan\Pictures\Camera Roll\WIN_20161010_08_51_57_P ...
- day002|python基础回顾2
目录 00 上节课复习 01 基本数据类型 02 与用户交互 03 运算符 04 流程运算之if判断 05 流程判断之while循环 06 TEST 00 上节课复习 ""&quo ...
- 【java从入门到精通】day10-Java流程控制2-switch多选择结构
1.switch多选择结构 switch case语句判断一个变量与一系列值中某个值是否相等,每个值称为一个分支. switch语句中的变量类型可以是: byte.short.int或者char 从j ...
- SQL Server 批量生成数据库内多个表的表结构
在遇到大型数据库的时候,一个数据库内存在大量的数据表,如果要生成多个表的表结构,一个表的检索,然后右键Create出来,太麻烦了. 下面我介绍下批量选择并生成多个表的表结构快捷方式,仅供参考. 第一步 ...
- Collectors工具类
Collector是专门用来作为Stream的collect方法的参数的:而Collectors是作为生产具体Collector的工具类. Collectors是一个工具类,是JDK预实现Collec ...
- 云计算之路-出海记:建一个免费仓库 Amazon RDS for SQL Server
上周由于园子后院起火,不得不调兵回去救火,出海记暂时停更,这周继续更新,"出海记"记录的是我们在 AWS 上建设博客园海外站的历程. 在这一记中记录的是我们基于 AWS 免费套餐( ...
- CorelDRAW常用工具之手绘工具
对于平面设计师来说,一个好用顺手的手绘工具是必不可少的,CorelDRAW的手绘工具能将手绘笔触转换成平滑的线条或者形状. 1.基础操作 CorelDRAW的手绘工具组包含手绘.2点线.贝塞尔.钢笔. ...