使用nginx cache缓存网站数据实践
Nginx本身就有缓存功能,能够缓存静态对象,比如图片、CSS、JS等内容直接缓存到本地,下次访问相同对象时,直接从缓存即可,无需访问后端静态服务器以及存储存储服务器,可以替代squid功能。
1 环境准备
我们这里只测试nginx的proxy_cache的缓存功能,所以结构越简单越好,这里我们只需要准备一台nginx的虚拟机即可,如果没有nginx,那么我们可以使用epel源,yum安装一个即可:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
|
#添加epel源root@~>> wget -O /etc/yum.repos.d/epel.repohttp://mirrors.aliyun.com/repo/epel-6.repo#yum安装nginxroot@~>> yum install nginx -y#rpm -ql查看主要配置文件位置root@~>> rpm -ql nginx这里为了简单,只使用简单的nginx.conf配置文件:root@nginx>> cat nginx.confuser nginx;worker_processes 1;error_log /var/log/nginx/error.log;pid /var/run/nginx.pid;events { worker_connections 1024;}http { include /etc/nginx/mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local]"$request" ' '$status $body_bytes_sent"$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; sendfile on; keepalive_timeout 65; server { listen 80; location / { root /usr/share/nginx/html; index index.html index.htm; } }} |
启动查看初始界面是否正常:
|
1
2
3
4
5
6
7
8
9
10
11
12
|
root@nginx>> nginxroot@nginx>> netstat -tupln|grepnginxtcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 1043/nginxroot@nginx>> curl -I 192.168.16.199HTTP/1.1 200 OKServer: nginx/1.0.15Date: Mon, 14 Sep 2015 09:40:53 GMTContent-Type: text/htmlContent-Length: 3698Last-Modified: Tue, 16 Jun 2015 21:34:15GMTConnection: keep-aliveAccept-Ranges: bytes |
一切正常,首页有2张图片,正好用于实验:
|
1
2
3
4
5
6
7
|
root@html>> tree/usr/share/nginx/html//usr/share/nginx/html/|-- 404.html|-- 50x.html|-- index.html|-- nginx-logo.png`-- poweredby.png |
至此环境准备完毕。
2 配置cache
2.1 创建目录并挂载tmpfs
nginx的proxy_cache是基于内存和磁盘的缓存,需要指定缓存目录和临时目录:
root@nginx>> mkdir /tmp/{ngx_tmp,ngx_cache}-p
缓存存放于磁盘,磁盘IO会影响缓存的速度,所以我们在将tmpfs挂载于ngx_cache目录上来加速缓存的读取和写入:
|
1
2
3
4
|
root@nginx>> mount -t tmpfs -osize=100M tmpfs /tmp/ngx_cacheroot@nginx>> mount|grep tmpfstmpfs on /dev/shm type tmpfs (rw)tmpfs on /tmp/ngx_cache type tmpfs (rw,size=100M) |
2.2 配置缓存目录大小以及key空间名
将下面配置放至http标签中:
root@nginx>> grep proxy_cache_pathnginx.conf
proxy_cache_path /tmp/ngx_cache levels=1:2 keys_zone=cache_one:100minactive=1d max_size=5g;
#指定缓存目录,缓存等级,键空间名,键空间大小,失效时间,以及磁盘最大缓存大小
2.3 配置反向代理
首先配置upstream节点池:
|
1
2
3
|
upstream server_pool { server 127.0.0.1:8080;} |
在server标签的location段中配置代理:
proxy_pass http://server_pool;
配置8080端口的标签:
|
1
2
3
4
5
6
7
8
|
server { listen 8080; location / { root /usr/share/nginx/html; index index.html index.htm; } access_log /var/log/nginx/access.log main;} |
配置proxy_cache相关参数启用缓存:
|
1
2
3
4
5
6
7
8
9
10
|
proxy_pass http://server_pool;proxy_next_upstream http_502 http_504error timeout invalid_header; #出错尝试下一个节点proxy_cache cache_one; #缓存键空间名proxy_cache_valid 200 304 12h; #指定对应状态码的缓存时间proxy_cache_valid 301 302 1m;proxy_cache_valid any 1m;proxy_cache_key $host$uri$is_args$args; #指定键key的格式proxy_set_header Host $host; #传递主机名给后端节点proxy_set_header X-Forwarded-For$remote_addr; #传递客户端IP给后端节点expires 1d; #超期时间 |
最终的nginx.conf配置文件如下:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
|
root@nginx>> cat nginx.confuser nginx;worker_processes 1;error_log /var/log/nginx/error.log;pid /var/run/nginx.pid;events { worker_connections 1024;}http { include /etc/nginx/mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local]"$request" ' '$status $body_bytes_sent"$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"' '"addr:$upstream_addr-status:$upstream_status-cachestatus:$upstream_cache_status"'; sendfile on; keepalive_timeout 65; proxy_cache_path /tmp/ngx_cache levels=1:2 keys_zone=cache_one:100m inactive=1dmax_size=5g; upstream server_pool { server 127.0.0.1:8080; } server { listen 80; location / { proxy_passhttp://server_pool; proxy_next_upstreamhttp_502 http_504 error timeout invalid_header; proxy_cache cache_one; proxy_cache_valid 200304 12h; proxy_cache_valid 301302 1m; proxy_cache_valid any 1m; proxy_cache_key$host$uri$is_args$args; proxy_set_header Host$host; proxy_set_headerX-Forwarded-For $remote_addr; expires 1d; } access_log /var/log/nginx/cache_access.log main; } server { listen 8080; location / { root/usr/share/nginx/html; index index.htmlindex.htm; } }} |
2.4 配置日志
为了观察缓存的命中状态,我们可以将缓存相关的变量记录在日志中。
定义日志格式:
|
1
2
3
4
|
log_format main '$remote_addr - $remote_user[$time_local] "$request" ' '$status $body_bytes_sent"$http_referer" ' '"$http_user_agent""$http_x_forwarded_for"' '"addr:$upstream_addr-status:$upstream_status-cachestatus:$upstream_cache_status"'; |
#其中upstream_addr记录分发的后端节点IP;upstream_status记录后端节点返回的状态码;upstream_cache_status记录缓存的命中情况。
在反向代理标签中引用日志:
access_log /var/log/nginx/cache_access.log main;
nginx重新加载配置:
root@nginx>> nginx -s reload
2.5 监测缓存
监测缓存文件的事件
浏览网站:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
root@ngx_cache>> inotifywait -mrq/tmp/ngx_cache//tmp/ngx_cache/ CREATE,ISDIR 6/tmp/ngx_cache/ OPEN,ISDIR 6/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR6/tmp/ngx_cache/ CREATE,ISDIR 1/tmp/ngx_cache/ OPEN,ISDIR 1/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR1/tmp/ngx_cache/ CREATE,ISDIR 3/tmp/ngx_cache/ OPEN,ISDIR 3/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR3/tmp/ngx_cache/3/ CREATE,ISDIR fd/tmp/ngx_cache/3/ OPEN,ISDIR fd/tmp/ngx_cache/3/CLOSE_NOWRITE,CLOSE,ISDIR fd/tmp/ngx_cache/3/fd/ CREATEdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ OPENdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ MODIFYdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ CLOSE_WRITE,CLOSEdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ MOVED_FROMdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ MOVED_TOdd404cd351f6b9efb072e5806dc2efd3 |
说明:有最后几行可知,图片缓存到目录中。
提示:本内容来自老男孩教育运维23期、云计算与DevOps高级架构师课程13期学员笔记
更多内容请看老男孩教育的Linux课程 http://www.oldboyedu.com
本文出自 “老男孩linux培训” 博客,请务必保留此出处http://oldboy.blog.51cto.com/2561410/1884326
使用nginx cache缓存网站数据实践的更多相关文章
- 八.nginx网站服务实践应用
期中集群架构-第八章-期中架构nginx章节====================================================================== 01. web ...
- Nginx 负载均衡的Cache缓存批量清理的操作记录
1)nginx.conf配置 [root@inner-lb01 ~]# cat /data/nginx/conf/nginx.conf user www; worker_processes 8; #e ...
- 使用nginx lua实现网站统计中的数据收集
导读网站数据统计分析工具是各网站站长和运营人员经常使用的一种工具,常用的有 谷歌分析.百度统计和腾讯分析等等.所有这些统计分析工具的第一步都是网站访问数据的收集.目前主流的数据收集方式基本都是基于ja ...
- 网站集群架构(LVS负载均衡、Nginx代理缓存、Nginx动静分离、Rsync+Inotify全网备份、Zabbix自动注册全网监控)--技术流ken
前言 最近做了一个不大不小的项目,现就删繁就简单独拿出来web集群这一块写一篇博客.数据库集群请参考<MySQL集群架构篇:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高 ...
- Nginx content cache Nginx内容缓存
原文地址:http://nginx.com/resources/admin-guide/caching/ Nginx content cache Nginx内容缓存 This chapter desc ...
- ASP.NET MVC5 网站开发实践(一) - 框架(续) 模型、数据存储、业务逻辑
上次搭建好了项目框架,但还是觉得不太对劲,后来才想起来没有对开发目标进行定位,这个小demo虽然不用做需求分析,但是要实现什么效果还得明确.后来想了一下就做个最简单的网站,目标定为小公司进行展示用的网 ...
- Cache 应用程序数据缓存
System.Web.Caching 命名空间提供用于缓存服务器上常用数据的类.此命名空间包括 Cache 类,该类是一个字典,您可以在其中存储任意数据对象,如哈希表和数据集.它还为这些对象提供了失效 ...
- nginx+redis缓存微信的token数据
上一篇文章我们讲了如何在负载均衡的项目中使用redis来缓存session数据,戳这里. 我们在项目的进展过程中,不仅需要缓存session数据,有时候还需要缓存一些别的数据,比如说,微信的acces ...
- Nginx proxy开启cache缓存
proxy_temp_path /tmp/proxy_temp_dir; // 设置缓存位置 proxy_cache_path /tmp/proxy_cache_dir levels = : keys ...
随机推荐
- crontab定时任务详解
1.安装crontab:yum install crontabs 说明:/sbin/service crond start //启动服务/sbin/service crond stop //关闭服务/ ...
- VR虚拟现实的工作原理,你知道多少?【转】
VR虚拟现实经过几年的预热,已经开始呈现爆发式增长,要了解VR虚拟现实,就需要了解其工作原理,了解工作原理之前,我们就需要弄清楚眼睛是如何看清事物的. 眼睛瞳孔后有晶状体,也就是眼珠子.眼睛的背面有感 ...
- apache ProxyPass proxypassreverse
ProxyPass与ProxyPassReverse及ProxyPassMatch的概述 分类: LINUX及服务器维护2011-09-21 10:25 7491人阅读 评论(0) 收藏 举报 red ...
- virtualbox 设置windows 于ubuntu虚拟机共享文件夹
会弹出错误, .. ..还是会有错误, modprobe -a vboxsf 之后就可以挂载成功了!!
- 谋哥:玩App怎么赚钱(三)
谋哥每天坚持写文章,如今写作速度是越来越快了,当然这样也能节省点时间.只是坚持每天写,确实须要极大的耐力和毅力,由于偶然事件会影响你心情和灵感.只是我一直相信秦刚老师(微信/QQ1111884 )说的 ...
- Acer商祺x4610安装及使用
一年前心血来潮买了部Acer商祺x4610,这两天把它装起来,记录下过程以备忘. 首先装操作系统,我装的是XP,这款电脑比较贴心的是开机时按住F12可以选择光盘还是硬盘启动,就不用到BIOS里面设置启 ...
- $ 和getElementId的区别 / 一个jquery对象的原型
请说出 div 和 $div 的联系和区别 区别 div 返回一个HTML DOM Object $div 返回一个 jQuery Object, 两者不等价 $div是包装了dom对象后产生的,无法 ...
- css - 公众号样式
/* * @Author: WJ_LONG * @Date: 2018-09-06 15:32:06 * @Last Modified by: WJ_LONG * @Last Modified tim ...
- iOS怎样找到自己的沙盒
iOS怎样找到自己的沙盒 在ios开发我们会用到沙盒,因为自己对沙盒理解的不够,所以找不到沙盒文件在哪里,当然要知道路径了 比如我的路径 NSString* cachepath = [NSHomeDi ...
- 在ASP.NET MVC中支持 HttpHandler
写HttpHandler与ASP.NET WebForm基本没有什么不同.只是部署的时候需要注意,只在Web.config中注册还不行,需要在Global.asax.cs添加一条ignore规则: p ...