利用nginx cache缓存网站数据

nginx本身就有缓存功能,能够缓存静态对象,比如图片、CSS、JS等内容直接缓存到本地,下次访问相同对象时,直接从缓存即可,无需访问后端静态服务器以及存储存储服务器,可以替代squid功能。

1环境准备

我们这里只测试nginx的proxy_cache的缓存功能,所以结构越简单越好,这里我们只需要准备一台nginx的虚拟机即可,如果没有nginx,那么我们可以使用epel源,yum安装一个即可:

#添加epel源

root@~>> wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo

#yum安装nginx

root@~>> yum install nginx -y

#rpm -ql查看主要配置文件位置

root@~>> rpm -ql nginx

这里为了简单,只使用简单的nginx.conf配置文件:

root@nginx>> cat nginx.conf

user              nginx;

worker_processes  1;

error_log  /var/log/nginx/error.log;

pid        /var/run/nginx.pid;

events {

worker_connections  1024;

}

http {

include       /etc/nginx/mime.types;

default_type  application/octet-stream;

log_formatmain  '$remote_addr - $remote_user [$time_local] "$request" '

'$status $body_bytes_sent "$http_referer" '

'"$http_user_agent" "$http_x_forwarded_for"';

sendfile        on;

keepalive_timeout  65;

server {

listen 80;

location / {

root   /usr/share/nginx/html;

index  index.html index.htm;

}

}

}

启动查看初始界面是否正常:

root@nginx>> nginx

root@nginx>> netstat -tupln|grep nginx

tcp        00 0.0.0.0:800.0.0.0:*                   LISTEN      1043/nginx

root@nginx>> curl -I 192.168.16.199

HTTP/1.1 200 OK

Server: nginx/1.0.15

Date: Mon, 14 Sep 2015 09:40:53 GMT

Content-Type: text/html

Content-Length: 3698

Last-Modified: Tue, 16 Jun 2015 21:34:15 GMT

Connection: keep-alive

Accept-Ranges: bytes

一切正常,首页有2张图片,正好用于实验:

root@html>> tree /usr/share/nginx/html/

/usr/share/nginx/html/

|-- 404.html

|-- 50x.html

|-- index.html

|-- nginx-logo.png

`-- poweredby.png

至此环境准备完毕。

2cache原理

3配置cache

3.1创建目录并挂载tmpfs

nginx的proxy_cache是基于内存和磁盘的缓存,需要指定缓存目录:

root@nginx>> mkdir /tmp/ngx_cache -p

缓存存放于磁盘,磁盘IO会影响缓存的速度,所以我们在将tmpfs挂载于ngx_cache目录上来加速缓存的读取和写入:

root@nginx>> mount -t tmpfs -o size=100M tmpfs /tmp/ngx_cache

root@nginx>> mount|grep tmpfs

tmpfs on /dev/shm type tmpfs (rw)

tmpfs on /tmp/ngx_cache type tmpfs (rw,size=100M)

3.2配置缓存目录大小以及key空间名

将下面配置放至http标签中:

root@nginx>> grep proxy_cache_path nginx.conf

proxy_cache_path /tmp/ngx_cache levels=1:2 keys_zone=cache_one:100m inactive=1d max_size=5g;

#指定缓存目录,缓存等级,键空间名,键空间shm大小,失效时间,以及磁盘最大缓存大小

3.3配置反向代理

首先配置upstream节点池:

upstream server_pool {

server 127.0.0.1:8080;

}

在server标签的location段中配置代理:

proxy_pass http://server_pool;

配置8080端口的标签:

server {

listen 8080;

location / {

root /usr/share/nginx/html;

index index.html index.htm;

}

access_log/var/log/nginx/access.log  main;

}

配置proxy_cache相关参数启用缓存:

proxy_pass http://server_pool;

proxy_next_upstream http_502 http_504 error timeout invalid_header; #出错尝试下一个节点

proxy_cache cache_one; #缓存键空间名

proxy_cache_valid 200 304 12h; #指定对应状态码的缓存时间

proxy_cache_valid 301 302 1m;

proxy_cache_valid any 1m;

proxy_cache_key $host$uri$is_args$args; #指定键key的格式

proxy_set_header Host $host; #传递主机名给后端节点

proxy_set_header X-Forwarded-For $remote_addr; #传递客户端IP给后端节点

expires 1d; #超期时间

最终的nginx.conf配置文件如下:

root@nginx>> cat nginx.conf

user              nginx;

worker_processes  1;

error_log  /var/log/nginx/error.log;

pid        /var/run/nginx.pid;

events {

worker_connections  1024;

}

http {

include       /etc/nginx/mime.types;

default_type  application/octet-stream;

log_formatmain  '$remote_addr - $remote_user [$time_local] "$request" '

'$status $body_bytes_sent "$http_referer" '

'"$http_user_agent" "$http_x_forwarded_for"'

'"addr:$upstream_addr-status:$upstream_status- cachestatus:$upstream_cache_status"';

sendfile        on;

keepalive_timeout  65;

proxy_cache_path /tmp/ngx_cache levels=1:2 keys_zone=cache_one:100m inactive=1d max_size=5g;

upstream server_pool {

server 127.0.0.1:8080;

}

server {

listen 80;

location / {

proxy_pass http://server_pool;

proxy_next_upstream http_502 http_504 error timeout invalid_header;

proxy_cache cache_one;

proxy_cache_valid 200 304 12h;

proxy_cache_valid 301 302 1m;

proxy_cache_valid any 1m;

proxy_cache_key $host$uri$is_args$args;

proxy_set_header Host $host;

proxy_set_header X-Forwarded-For $remote_addr;

expires 1d;

}

access_log  /var/log/nginx/cache_access.log  main;

}

server {

listen 8080;

location / {

root /usr/share/nginx/html;

index index.html index.htm;

}

}

}

3.4配置日志

为了观察缓存的命中状态,我们可以将缓存相关的变量记录在日志中。

定义日志格式:

log_format  main'$remote_addr - $remote_user [$time_local] "$request" '

'$status $body_bytes_sent "$http_referer" '

'"$http_user_agent" "$http_x_forwarded_for"'

'"addr:$upstream_addr-status:$upstream_status- cachestatus:$upstream_cache_status"';

#其中upstream_addr记录分发的后端节点IP;upstream_status记录后端节点返回的状态码;upstream_cache_status记录缓存的命中情况。

在反向代理标签中引用日志:

access_log/var/log/nginx/cache_access.logmain;

nginx重新加载配置:

root@nginx>> nginx -s reload

3.5添加头信息查看

添加响应报头信息:

add_header X-Cache-Status $upstream_cache_status;

查看头信息:

root@~>> curl -I 192.168.16.199

HTTP/1.1 200 OK

Server: nginx/1.0.15

Date: Tue, 15 Sep 2015 02:55:25 GMT

Content-Type: text/html

Connection: keep-alive

Content-Length: 3698

Last-Modified: Tue, 16 Jun 2015 21:34:15 GMT

Expires: Wed, 16 Sep 2015 02:55:25 GMT

Cache-Control: max-age=86400

X-Cache-Status: HIT

Accept-Ranges: bytes

3.6监测缓存

为了监测缓存文件的事件,我们首先安装inotify-tools:

root@/>> yum install inotify-tools

打开一个ssh使用intofiy-tools检测ngx_cache目录:

root@~>> inotifywait -mrq /tmp/ngx_cache/

浏览网站:

root@ngx_cache>> inotifywait -mrq /tmp/ngx_cache/

/tmp/ngx_cache/ CREATE,ISDIR 6

/tmp/ngx_cache/ OPEN,ISDIR 6

/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR 6

/tmp/ngx_cache/ CREATE,ISDIR 1

/tmp/ngx_cache/ OPEN,ISDIR 1

/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR 1

/tmp/ngx_cache/ CREATE,ISDIR 3

/tmp/ngx_cache/ OPEN,ISDIR 3

/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR 3

/tmp/ngx_cache/3/ CREATE,ISDIR fd

/tmp/ngx_cache/3/ OPEN,ISDIR fd

/tmp/ngx_cache/3/ CLOSE_NOWRITE,CLOSE,ISDIR fd

/tmp/ngx_cache/3/fd/ CREATE dd404cd351f6b9efb072e5806dc2efd3.0000000026

/tmp/ngx_cache/3/fd/ OPEN dd404cd351f6b9efb072e5806dc2efd3.0000000026

/tmp/ngx_cache/3/fd/ MODIFY dd404cd351f6b9efb072e5806dc2efd3.0000000026

/tmp/ngx_cache/3/fd/ CLOSE_WRITE,CLOSE dd404cd351f6b9efb072e5806dc2efd3.0000000026

/tmp/ngx_cache/3/fd/ MOVED_FROM dd404cd351f6b9efb072e5806dc2efd3.0000000026

/tmp/ngx_cache/3/fd/ MOVED_TO dd404cd351f6b9efb072e5806dc2efd3

说明:有最后几行可知,图片缓存到目录中。

3.7查看hash对比

添加日志项:

'"KEY:$host$uri$is_args$args"'

重启查看日志项:

192.168.16.1 - - [15/Sep/2015:10:41:23 +0800] "GET /nginx-logo.png HTTP/1.1" 200 368 "http://192.168.16.199/" "Mozilla/5.0 (Windows NT 10.0; WOW64; rv:40.0) Gecko/20100101 Firefox/40.0" "-""addr:--status:-- cachestatus:HIT""KEY:192.168.16.199/nginx-logo.png-"

计算MD5:

root@~>> echo -n "192.168.16.199/nginx-logo.png"|md5sum

6a6e2e4e3251b1aae0488859ed38e7b1  -

缓存文件:

/tmp/ngx_cache/1/7b/ ACCESS 6a6e2e4e3251b1aae0488859ed38e7b1

同时观察三个标红的,之前我们设置了levels=1:2,相当于小抽屉,和memcached的slab以及trunk类似。

Nginx配置ProxyCache缓存的更多相关文章

  1. nginx配置代理缓存

    nginx可以实现反向代理的配置,并且可以使用缓存来加速,本文是简单的实现功能的配置,暂时没有做其他的优化的部分的配置,从网上的资料来看,很多配置都是没有讲哪些是必须配置的,我自己在配置过程中就发现没 ...

  2. nginx配置资源缓存

    缓存nginx服务器的静态文件.如css,js,htm,html,jpg,gif,png,flv,swf,这些文件都不是经常更新.便于缓存以减轻服务器的压力. 打开配置文件/usr/local/ngi ...

  3. Nginx配置之负载均衡、限流、缓存、黑名单和灰度发布

    一.Nginx安装(基于CentOS 6.5) 1.yum命令安装 yum install nginx –y(若不能安装,执行命令yum install epel-release) 2. 启动.停止和 ...

  4. nginx静态资源缓存策略配置

    1. 问题-背景 以前也经常用nginx,但用的不深,通常是简单的设置个location用来做反向代理.直到今天给客户做项目碰到缓存问题:客户有个app,只是用原生做了个壳,里面的内容都是用h5写的, ...

  5. NGINX负载均衡缓存配置

    环境:VMware-Workstation-12-Pro,Windows-10,CentOS-7.5,Xshell5 1 概述 如果我们的架构是前端负载均衡后端WEB集群时,可以开启nginx的缓存功 ...

  6. 14 nginx 中配置 expires缓存提升网站负载

    一:nginx 中配置 expires缓存提升网站负载 对于网站的图片,尤其是新闻站, 图片一旦发布, 改动的可能是非常小的.我们希望 能否在用户访问一次后, 图片缓存在用户的浏览器端,且时间比较长的 ...

  7. nginx 的 proxy_cache 缓存配置

    开头:某个项目涉及到 视频切片下载到本地,然后提供服务给客户端.一个视频有多个文件,存储在本地路径下.当客户端请求的视频在本地没有就会回源, 回源拿到的视频文件再返回给客户端,同时在本地缓存一份,提供 ...

  8. Nginx服务优化及优化深入(配置网页缓存时间、日志切割、防盗链等等)

    原文:https://blog.51cto.com/11134648/2134389 默认的Nginx安装参数只能提供最基本的服务,还需要调整如网页缓存时间.连接超时.网页压缩等相应参数,才能发挥出服 ...

  9. Nginx如何配置基础缓存

    // /path/to/cache/:用于缓存的本地磁盘目录 // levels :在 /path/to/cache/ 设置了一个两级层次结构的目录. // 将大量的文件放置在单个目录中会导致文件访问 ...

随机推荐

  1. spring boot入门教程——Spring Boot快速入门指南

    Spring Boot已成为当今最流行的微服务开发框架,本文是如何使用Spring Boot快速开始Web微服务开发的指南,我们将使创建一个可运行的包含内嵌Web容器(默认使用的是Tomcat)的可运 ...

  2. python2 使用matplotlib

    背景 由於pyh在python3上沒法兒用,所以只能在python2上用pyh2 相應地也要在python2上使用matplotlib 下載 有兩種方法,pip & dnf pip爲: pip ...

  3. 10day2

    最多因子数 搜索 [问题描述] 数学家们喜欢各种类型的有奇怪特性的数.例如,他们认为 945 是一个有趣的数,因为它是第一个所有约数之和大于本身的奇数. 为了帮助他们寻找有趣的数,你将写一个程序扫描一 ...

  4. 每天一个linux命令:【转载】cp命令

    cp命令用来复制文件或者目录,是Linux系统中最常用的命令之一.一般情况下,shell会设置一个别名,在命令行下复制文件时,如果目标文件已经存在,就会询问是否覆盖,不管你是否使用-i参数.但是如果是 ...

  5. js去重复和取重复数据

    js数组中取重复数据的方法: 方法一:去重复数据 <script> Array.prototype.distinct=function(){ var a=[],b=[]; for(var ...

  6. uva 11237 - Halloween treats(抽屉原理)

    版权声明:本文为博主原创文章.未经博主同意不得转载. https://blog.csdn.net/u011328934/article/details/37612503 题目链接:uva 11237 ...

  7. mysql导入外部sql脚本的方法

    版权声明:本文为博主原创文章.未经博主同意不得转载. https://blog.csdn.net/u011043843/article/details/29689853 导入的方法分为两种:一是採用图 ...

  8. IDEA使用介绍

    https://blog.csdn.net/qq_27093465/article/details/77449117

  9. Mybatis逆向工程配置文件详细介绍(转)

    <?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE generatorConfiguration ...

  10. The SDK platform-tools version ((21)) is too old to check APIs compiled with API 23

    android studio是个坑爹的工具,每次打开文件头都出现如上错误提示. 解决方法: Update your android sdk platform-tools to the revision ...