使用nginx cache缓存网站数据实践
Nginx本身就有缓存功能,能够缓存静态对象,比如图片、CSS、JS等内容直接缓存到本地,下次访问相同对象时,直接从缓存即可,无需访问后端静态服务器以及存储存储服务器,可以替代squid功能。
1 环境准备
我们这里只测试nginx的proxy_cache的缓存功能,所以结构越简单越好,这里我们只需要准备一台nginx的虚拟机即可,如果没有nginx,那么我们可以使用epel源,yum安装一个即可:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
|
#添加epel源root@~>> wget -O /etc/yum.repos.d/epel.repohttp://mirrors.aliyun.com/repo/epel-6.repo#yum安装nginxroot@~>> yum install nginx -y#rpm -ql查看主要配置文件位置root@~>> rpm -ql nginx这里为了简单,只使用简单的nginx.conf配置文件:root@nginx>> cat nginx.confuser nginx;worker_processes 1;error_log /var/log/nginx/error.log;pid /var/run/nginx.pid;events { worker_connections 1024;}http { include /etc/nginx/mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local]"$request" ' '$status $body_bytes_sent"$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; sendfile on; keepalive_timeout 65; server { listen 80; location / { root /usr/share/nginx/html; index index.html index.htm; } }} |
启动查看初始界面是否正常:
|
1
2
3
4
5
6
7
8
9
10
11
12
|
root@nginx>> nginxroot@nginx>> netstat -tupln|grepnginxtcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 1043/nginxroot@nginx>> curl -I 192.168.16.199HTTP/1.1 200 OKServer: nginx/1.0.15Date: Mon, 14 Sep 2015 09:40:53 GMTContent-Type: text/htmlContent-Length: 3698Last-Modified: Tue, 16 Jun 2015 21:34:15GMTConnection: keep-aliveAccept-Ranges: bytes |
一切正常,首页有2张图片,正好用于实验:
|
1
2
3
4
5
6
7
|
root@html>> tree/usr/share/nginx/html//usr/share/nginx/html/|-- 404.html|-- 50x.html|-- index.html|-- nginx-logo.png`-- poweredby.png |
至此环境准备完毕。
2 配置cache
2.1 创建目录并挂载tmpfs
nginx的proxy_cache是基于内存和磁盘的缓存,需要指定缓存目录和临时目录:
root@nginx>> mkdir /tmp/{ngx_tmp,ngx_cache}-p
缓存存放于磁盘,磁盘IO会影响缓存的速度,所以我们在将tmpfs挂载于ngx_cache目录上来加速缓存的读取和写入:
|
1
2
3
4
|
root@nginx>> mount -t tmpfs -osize=100M tmpfs /tmp/ngx_cacheroot@nginx>> mount|grep tmpfstmpfs on /dev/shm type tmpfs (rw)tmpfs on /tmp/ngx_cache type tmpfs (rw,size=100M) |
2.2 配置缓存目录大小以及key空间名
将下面配置放至http标签中:
root@nginx>> grep proxy_cache_pathnginx.conf
proxy_cache_path /tmp/ngx_cache levels=1:2 keys_zone=cache_one:100minactive=1d max_size=5g;
#指定缓存目录,缓存等级,键空间名,键空间大小,失效时间,以及磁盘最大缓存大小
2.3 配置反向代理
首先配置upstream节点池:
|
1
2
3
|
upstream server_pool { server 127.0.0.1:8080;} |
在server标签的location段中配置代理:
proxy_pass http://server_pool;
配置8080端口的标签:
|
1
2
3
4
5
6
7
8
|
server { listen 8080; location / { root /usr/share/nginx/html; index index.html index.htm; } access_log /var/log/nginx/access.log main;} |
配置proxy_cache相关参数启用缓存:
|
1
2
3
4
5
6
7
8
9
10
|
proxy_pass http://server_pool;proxy_next_upstream http_502 http_504error timeout invalid_header; #出错尝试下一个节点proxy_cache cache_one; #缓存键空间名proxy_cache_valid 200 304 12h; #指定对应状态码的缓存时间proxy_cache_valid 301 302 1m;proxy_cache_valid any 1m;proxy_cache_key $host$uri$is_args$args; #指定键key的格式proxy_set_header Host $host; #传递主机名给后端节点proxy_set_header X-Forwarded-For$remote_addr; #传递客户端IP给后端节点expires 1d; #超期时间 |
最终的nginx.conf配置文件如下:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
|
root@nginx>> cat nginx.confuser nginx;worker_processes 1;error_log /var/log/nginx/error.log;pid /var/run/nginx.pid;events { worker_connections 1024;}http { include /etc/nginx/mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local]"$request" ' '$status $body_bytes_sent"$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"' '"addr:$upstream_addr-status:$upstream_status-cachestatus:$upstream_cache_status"'; sendfile on; keepalive_timeout 65; proxy_cache_path /tmp/ngx_cache levels=1:2 keys_zone=cache_one:100m inactive=1dmax_size=5g; upstream server_pool { server 127.0.0.1:8080; } server { listen 80; location / { proxy_passhttp://server_pool; proxy_next_upstreamhttp_502 http_504 error timeout invalid_header; proxy_cache cache_one; proxy_cache_valid 200304 12h; proxy_cache_valid 301302 1m; proxy_cache_valid any 1m; proxy_cache_key$host$uri$is_args$args; proxy_set_header Host$host; proxy_set_headerX-Forwarded-For $remote_addr; expires 1d; } access_log /var/log/nginx/cache_access.log main; } server { listen 8080; location / { root/usr/share/nginx/html; index index.htmlindex.htm; } }} |
2.4 配置日志
为了观察缓存的命中状态,我们可以将缓存相关的变量记录在日志中。
定义日志格式:
|
1
2
3
4
|
log_format main '$remote_addr - $remote_user[$time_local] "$request" ' '$status $body_bytes_sent"$http_referer" ' '"$http_user_agent""$http_x_forwarded_for"' '"addr:$upstream_addr-status:$upstream_status-cachestatus:$upstream_cache_status"'; |
#其中upstream_addr记录分发的后端节点IP;upstream_status记录后端节点返回的状态码;upstream_cache_status记录缓存的命中情况。
在反向代理标签中引用日志:
access_log /var/log/nginx/cache_access.log main;
nginx重新加载配置:
root@nginx>> nginx -s reload
2.5 监测缓存
监测缓存文件的事件
浏览网站:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
root@ngx_cache>> inotifywait -mrq/tmp/ngx_cache//tmp/ngx_cache/ CREATE,ISDIR 6/tmp/ngx_cache/ OPEN,ISDIR 6/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR6/tmp/ngx_cache/ CREATE,ISDIR 1/tmp/ngx_cache/ OPEN,ISDIR 1/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR1/tmp/ngx_cache/ CREATE,ISDIR 3/tmp/ngx_cache/ OPEN,ISDIR 3/tmp/ngx_cache/ CLOSE_NOWRITE,CLOSE,ISDIR3/tmp/ngx_cache/3/ CREATE,ISDIR fd/tmp/ngx_cache/3/ OPEN,ISDIR fd/tmp/ngx_cache/3/CLOSE_NOWRITE,CLOSE,ISDIR fd/tmp/ngx_cache/3/fd/ CREATEdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ OPENdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ MODIFYdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ CLOSE_WRITE,CLOSEdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ MOVED_FROMdd404cd351f6b9efb072e5806dc2efd3.0000000026/tmp/ngx_cache/3/fd/ MOVED_TOdd404cd351f6b9efb072e5806dc2efd3 |
说明:有最后几行可知,图片缓存到目录中。
提示:本内容来自老男孩教育运维23期、云计算与DevOps高级架构师课程13期学员笔记
更多内容请看老男孩教育的Linux课程 http://www.oldboyedu.com
本文出自 “老男孩linux培训” 博客,请务必保留此出处http://oldboy.blog.51cto.com/2561410/1884326
使用nginx cache缓存网站数据实践的更多相关文章
- 八.nginx网站服务实践应用
期中集群架构-第八章-期中架构nginx章节====================================================================== 01. web ...
- Nginx 负载均衡的Cache缓存批量清理的操作记录
1)nginx.conf配置 [root@inner-lb01 ~]# cat /data/nginx/conf/nginx.conf user www; worker_processes 8; #e ...
- 使用nginx lua实现网站统计中的数据收集
导读网站数据统计分析工具是各网站站长和运营人员经常使用的一种工具,常用的有 谷歌分析.百度统计和腾讯分析等等.所有这些统计分析工具的第一步都是网站访问数据的收集.目前主流的数据收集方式基本都是基于ja ...
- 网站集群架构(LVS负载均衡、Nginx代理缓存、Nginx动静分离、Rsync+Inotify全网备份、Zabbix自动注册全网监控)--技术流ken
前言 最近做了一个不大不小的项目,现就删繁就简单独拿出来web集群这一块写一篇博客.数据库集群请参考<MySQL集群架构篇:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高 ...
- Nginx content cache Nginx内容缓存
原文地址:http://nginx.com/resources/admin-guide/caching/ Nginx content cache Nginx内容缓存 This chapter desc ...
- ASP.NET MVC5 网站开发实践(一) - 框架(续) 模型、数据存储、业务逻辑
上次搭建好了项目框架,但还是觉得不太对劲,后来才想起来没有对开发目标进行定位,这个小demo虽然不用做需求分析,但是要实现什么效果还得明确.后来想了一下就做个最简单的网站,目标定为小公司进行展示用的网 ...
- Cache 应用程序数据缓存
System.Web.Caching 命名空间提供用于缓存服务器上常用数据的类.此命名空间包括 Cache 类,该类是一个字典,您可以在其中存储任意数据对象,如哈希表和数据集.它还为这些对象提供了失效 ...
- nginx+redis缓存微信的token数据
上一篇文章我们讲了如何在负载均衡的项目中使用redis来缓存session数据,戳这里. 我们在项目的进展过程中,不仅需要缓存session数据,有时候还需要缓存一些别的数据,比如说,微信的acces ...
- Nginx proxy开启cache缓存
proxy_temp_path /tmp/proxy_temp_dir; // 设置缓存位置 proxy_cache_path /tmp/proxy_cache_dir levels = : keys ...
随机推荐
- [Android Memory] Android 的 StrictMode
android的2.3 之后引入的StrictMode 对网络的访问做了限制啊. public void onCreate() { if (DEVELOPER_MODE) { StrictMode.s ...
- Solr6.6.0 用 SimplePostTool索引文件 中文乱码
在用SimplePostTool工具导入CSV文件,文件内容如下: 启动solr ,利用命令导入:java -Dtype=text/csv -Dc=solr_test -jar post.jar .. ...
- ubuntu14.04 server 安装docker
安装docker服务 $ curl -sSL https://get.docker.com/ | sh $ ocker run hello-world 测试docker是否安装成功 ubuntu ...
- 云计算之路-阿里云上-十字路口:阿里云SLB故障
2013年7月24日,18:20~18:50左右,处于阿里云云服务最前沿的SLB(负载均衡)出现故障,造成了网站不能正常访问(由于是最前沿,这次连502也看不到了). 在大家对昨日RDS故障带来的麻烦 ...
- 【翻译自mos文章】在Oracle单机数据库中定义database service
来源于: Defining a Database Service with a Stand Alone Database (文档 ID 1260134.1) APPLIES TO: Oracle Da ...
- Hadoop之词频统计小实验
声明: 1)本文由我原创撰写,转载时请注明出处,侵权必究. 2)本小实验工作环境为Ubuntu操作系统,hadoop1-2-1,jdk1.8.0. 3)统计词频工作在单节点的伪分布上,至于真正实 ...
- Alternating Least Squares(ASL) for Implicit Feedback Datasets的数学推导以及用Python实现
近期在看CF的相关论文,<Collaborative Filtering for Implicit Feedback Datasets>思想非常好,非常easy理解.可是从目标函数 是怎样 ...
- jquery绑定事件的区别
query中绑定事件有三种方法:以click事件为例 (1)target.click(function(){}); (2)target.bind("click",function( ...
- 网络协议系列之三:IP
前言 这篇博客主要对IP协议中一些基础知识点加以总结,并将书中一些晦涩难懂的部分去除了.IP地址协议是网络层中最重要的协议,IP地址协议能够对因特网上的全部设备进行唯一标识.也正由于有了IP协议,我们 ...
- MongoDB查询经典方式
原文地址:http://www.cnblogs.com/stephen-liu74/archive/2012/08/03/2553803.html 1. 基本查询: 构造查询数据. &g ...