两个简单的API限流实现方案

1， Ngnix限流

Nginx在架构中起到请求转发与负载均衡器的作用。外部req首先到Nginx监听的80端口，然后Nginx将req交给到监听8080端口的APP服务器处理。处理结果再经由Nginx返回给调用方。

Nginx限流的配置：(/usr/local/etc/nginx/nginx.conf)

 #user  nobody;
 worker_processes  1;

 events {
     worker_connections  1024;
 }

 http {
     include       mime.types;
     default_type  application/octet-stream;

     sendfile        on;
     keepalive_timeout  65;

     # Rate limitation conf
     limit_req_zone $binary_remote_addr zone=mylimit:1m rate=1r/s;
     server {
         listen       80;
         server_name  localhost;

         location / {
             root   html;
             index  index.html index.htm;
         }

         error_page   500 502 503 504  /50x.html;
         location = /50x.html {
             root   html;
         }

         # rate limitation and redirection to APP
         location ~* /(inventories|prices) {
             limit_req zone=mylimit;
             proxy_pass http://localhost:8080;
         }
     }
     include servers/*;
 }

其中， limit_req_zone $binary_remote_addr zone=mylimit:1m rate=1r/s;
将流量限制为 1QPS，如调用方超过该限制则返回 503

重启nginx:  sudo nginx -s reload

2, Redis 计数器

原理： 每个req都对redis中生命周期为一个时间单位的计数器（key：callLimit）加1，如果单位时间内的访问次数超过限制，则拒绝所有后来的请求直到下一个单位时间开始。

 public Mono<ServerResponse>  req_handle(ServerRequest request) {
         if (callLimitCheck()){
             return getResp(request){
         … business logics to handle the req …
             };
         } else {
             return ServerResponse.ok().body(Mono.just(“Over call limit!”), String.class);
         }
     }

     private boolean callLimitCheck() {
         String callLimit = this.template.opsForValue().get("callLimit");
         if(callLimit != null && Integer.valueOf(callLimit)>30) {
             return false;
         }
         DefaultRedisScript<String> script = new DefaultRedisScript<>(
         "local current current = redis.call('incr',KEYS[1]) if tonumber(current) == 1 then redis.call('expire', KEYS[1], 60) end");
         script.setResultType(String.class);
         List<String> keys = new ArrayList<>();
         keys.add("callLimit");
         this.template.execute(script, keys);
         return true;
     }

上面的代码将有效的QPS限制为 0.5/s ( 30/m).

其中为了避免race condition，将 incr 与 expire两个操作写到一个Lua脚本中实现原子性。

"local current current = redis.call('incr',KEYS[1]) if tonumber(current) == 1 then redis.call('expire', KEYS[1], 60) end"

转自：https://blog.csdn.net/qijin2016/article/details/79284553