Nginx反向代理总结

反向代理的种类

1. LVS的方案
2. DNS轮询的方案
3. Nginx的4层代理
4. Nginx的7层代理
5. 网络NAT的处理

---

Nginx的反向代理-四层`

编译时增加 --with-stream 就可以.
然后可以使用 stream 四层反向代理
可以代理 mysql redis 以及一些其他的内容配置.
但是四层反向代理缺少很多语法, 比如七层反向代理来的适用面广
一个四层反向代理的标准处理为:

stream {
    upstream backend {
        # 指定负载均衡算法，这里是一致性hash算法，以$remote_addr作为hash的键.
        hash $remote_addr consistent;

        server backend1.example.com:12345 weight=5;
        server 127.0.0.1:12345            max_fails=3 fail_timeout=30s;
        server unix:/tmp/backend3;
    }
    server {
        # 指定监听的端口，tcp/udp
        listen 12345;
        proxy_connect_timeout 1s;
        proxy_timeout 3s;
        # 代理至backend服务器组
        proxy_pass backend;
    }

---

关于四层反向代理的几个负载均衡算法

round-robin:  默认情况下，NGINX使用循环算法对流量进行负载均衡，将其顺序​​定向到配置的上游组中的服务器。
              因为它是默认方法，没有round-robin指令; 只需upstream在顶层stream上下文中创建一个
              配置块并添加上server一步中描述的指令。
least_conn : NGINX选择当前活动连接数较少的服务器。
least_time : NGINX选择平均延迟最小，活动连接数最少的服务器。
             最低平均延迟是基于以下参数中的哪一个包括在least_time指令上计算的：
    connect - 连接到上游服务器的时间
    first_byte - 接收数据的第一个字节的时间
    last_byte - 从服务器接收完整响应的时间
hash       : NGINX基于用户定义的密钥选择服务器，例如源IP地址
所述散列负载平衡方法还用于配置会话持久性。
于散列函数基于客户端IP地址，来自给定客户端的连接始终传递到同一服务器，
除非服务器关闭或以其他方式不可用。指定一个可选consistent参数以应用ketama一致性散列方法：

---

四层的负载均衡的范例

upstream backend {
    laset_conn ;
}
upstream backend {
    least_time first_byte;
}
upstream stream_backend {
    hash   $remote_addr consistent;
}
# 能够实现客户端绑定到具体的服务器端.

---

http负载均衡

除了四层反向代理, 用的最多的是 七层反向代理. 

http {
    upstream backend {
        server backend1.example.com weight=5;
        server backend2.example.com;
        server 192.0.0.1 backup;
    }

    server {
        location / {
            proxy_pass http://backend;
        }
    }
}

---

区别

四层反向代理是在 stream 的配置节里面
七层反向代理是在 http   的配置节里面

四层反向代理  可以指定 udp和tcp两种协议.
七层反向代理  可以指定 https等.

---

http 的负载均衡算法

与四层负载均衡对应, 七层负载均衡也有很多算法.
least_conn;
ip_hash;
hash $request_uri consistent;
least_time header; (header,last_byte)

可以增加 weight=xxx 的比重,如果服务器配置不同,可以进行一定程度的区分.

---

关于sitcky以及ip_hash

ip_hash 是 nginx 开源版就支持的负载均衡粘滞模式.
最大的区别是, 他是基于内核里面的ip地址进行计算来的.
具体算法是:
注意代码的位置为:src/http/modules/ngx_http_upstream_ip_hash_module.c
注意修改 : addrlen 的参数 从 3 修改为 4 就可以进行全部ipv4段的负载均衡.
但是需要注意如果是VPN 过来的IP电话, 或者是如下hash算法的处理的结果一致
依旧会路有到相同的后端服务器上面. 

    for ( ;; ) {

        for (i = 0; i < (ngx_uint_t) iphp->addrlen; i++) {
            hash = (hash * 113 + iphp->addr[i]) % 6271;
        }

---

关于sticky

最开始是一个组件, 需要编译时显示指定.
怀疑最近nginx plus 企业版将其纳入了使用范围.
开源版本的支持边的越来越有线.
1.22.x的版本还是支持的, 但是1.23.0就不在支持比较奇怪
具体的写法有如下几种:
注意如果比较简单 直接写 sticky;也可以. 

     sticky cookie srv_id expires=1h domain=.example.com path=/;

     sticky route $route_cookie $route_uri;

     sticky learn
       create=$upstream_cookie_examplecookie
       lookup=$cookie_examplecookie
       zone=client_sessions:1m
       timeout=1h
       sync;

---

关于负载均衡的性能

反向代理, 其实是 一方面做为服务端提供服务, 一方面作为客户端连接后端服务的过程. 

worker进程core绑定
对应网卡的中断绑定
作为服务端提供长连接服务
作为客户端提供对后端服务的长连接服务.
需要注意作为客户端时 必须保证 客户端的超时时间, 以及超时客户端的数量小于后端服务器.
但是也可以这样计算.
如果我方向代理 4个服务器, 设置长连接40个, 超时时间 60s 那么建议每个后端服务
至少也设置为40个以上的长连接, 60秒以上的超时时间.
避免如果负载不均衡是不会出现严重的问题.

---

长连接参数配置

http {
    keepalive_timeout 6000; # 作为服务端的超时时间
    keepalive_requests 10000; # 长连接的个数. 注意不能太大.
     upstream myapp{
     ip_hash;
     keepalive 300; # 这是是联系反向代理服务器的设置.
     server 127.0.0.1:5200 ;
     server 127.0.0.1:5201 ;
   }
   server {
        listen 8080 default_server;
        server_name "";
        location /  {
            proxy_http_version 1.1; # 注意这个是必须的参数
            # proxy_set_header Connection "";
            # 注意 我加上这个参数. 登录就失败了, 建议不使用这个参数.
        }
}

---

注意内核参数的设置

1. TCP相关内核的参数:
tw,port_range,somaxconn,tw_reuse
等核心参数.
2. TCP拥塞算法的选择. 是否启用tcp的聚合等处理.
3. 网卡软中断的绑核. 建议与nginx在同一个sockets,但是不在同一个core上面来提高吞吐量.
4. tcp 内存设置参数, 可以适当调大, 便于进行处理.
5. 如果延时敏感性, 可以关闭部分网卡的GSO,TSO 等参数,提高响应速度.不过会浪费一点带宽.