本文禁止转载,由UC浏览器内部出品。

3. HTTP Cache

综述

HTTP Cache是完全按照IETF规范实现的,最新的RFC规范地址是

https://tools.ietf.org/html/rfc7234。它的作用就是保存可缓存的响应以备重新使用,在下次请求时可减少响应时间和网络带宽。只有GET和HEAD method会缓存。

浏览器的优化

浏览器是过滤了部分没有意义进行缓存的响应头才保存到磁盘,例如Connection(keep-alive)、www-authenticate等。这能减少耗时较多的磁盘IO时间。另外Cookie也不会保存在HTTP Cache,而是存到专门的Cookie Storage。

新的规范允许先使用后验证(stale-while-revalidate)https://tools.ietf.org/html/rfc5861

在隐身模式下,不存在磁盘读写的HTTP Cache。

http://www.chromium.org/user-experience/incognito

但是某些浏览器厂商可能做优化,在临时文件夹中读写,退出或重启即删。

容量

容量是以整体计算的,不区分Domain。

Android WebView是20MB。iOS WebView也可能是20MB(根据https://github.com/gnustep/base/blob/master/Source/NSURLCache.m,不确定GNUstep是否也是Apple的源码)。

PC上的Chromium是以80MB为基准结合磁盘可用空间来考虑的,最大是320MB。算法是:

// js伪代码
if (可用空间 < 100MB)
  容量 = 80%的可用空间  // < 80MB
else if (可用空间 < 800MB)
  容量 = 80MB
else if (可用空间 < 2000MB)  // 约2GB
  容量 = 10%的可用空间  // < 200MB
else if (可用空间 < 20000MB)  // 约20GB
  容量 = 200MB
else  // >= 20000MB
  容量 = Math.min(1%的可用空间, 320MB)  // 200MB <= 容量 <= 320MB

其它基于Chromium开发的浏览器可能会修改这个算法,特别是移动浏览器会扩大那个常量值,以更高容量来提高资源复用数(嗯,不是复用率)。

淘汰

淘汰算法是一般是LRU,但在一些场景会结合文件大小、时间因素等做进一步优化。Cache的管理模块会记录总的缓存大小,每次创建新的缓存时会判断是否缓存是否超出容量限制,满了就会按LRU淘汰一定比例的缓存。

浏览器需要对缓存的文件进行索引,如果这个索引损坏,浏览器会删除所有的缓存。用户也可以通过设置界面来删除。此外,第三方程序也会做清理。

Revalidation

用户点击刷新按钮,会强制走revalidate流程,其它的情况都按照规范来执行。

RFC规范不只是为服务器和浏览器设计的,还考虑了网络中的各种节点,比如代理服务器、CDN服务器、智能路由等。


Chromium肯定是严格遵守RFC规范的,但第三方浏览器通常会破坏这些规范来获得一定的性能提升。比如更宽松的缓存条件。

Chromium代码参考:http_response_headers.cc : RequiresValidation

后端优化

后端需要在响应中添加Cache-Control来利用浏览器缓存。

  • Expires不要超过一年。
  • 稳定的文件应该加上max-age。max-age不要大于2^31,以免大于int32而变成负数。
  • Some HTTP/1.0 caches might not implement Cache-Control.对HTTP 1.0可以使用Pragma

没有任何与过期相关的指令的话,是由client端决定是否缓存的。Chromium有缓存,但再次请求的时候并不会走Revalidate流程,还是会得到200 OK。

因为HTTP Cache以URL为key,所以不想用以前的缓存,则可以更换URL,例如加不同的query、改文件名(如加上MD5或版本号)等。URL是忽略锚点的。

要做性能优化的同学,可以在协议文档里淘金。鉴于网上也有不少文章,这里不做整理了。

4. Cookie Storage

综述

因为Cookie是在多个请求头中复用数据的,所以需要从响应头中抽取出来另外保存。而且Cookie有自己的生命周期管理语法,就有独立的模块来管理。Cookie数据同时保存在内存和磁盘。

容量

容量是规范里就有建议最小值的。最新规范是RFC6265,它引用两个比较旧的规范RFC2965RFC2109

其中最老的规范RFC2109的6.3.1节中就有说明:

拒绝服务攻击
   浏览器应该按照host或域名设置Cookie的数量和数据大小上限。
Denial of Service Attacks
   User agents may choose to set an upper bound on the number of cookies
   to be stored from a given host or domain name or on the size of the
   cookie information.  Otherwise a malicious server could attempt to
   flood a user agent with many cookies, or large cookies, on successive
   responses, which would force out cookies the user agent had received
   from other servers.  However, the minima specified above should still
   be supported.

Chromium的实现是:

- 每个Cookie的最大长度为4096 bytes。大于这个长度的Cookie将不被处理,即不会保存。

- 每个域的最大数量是180个

- 总体的个数是3300个

这里有各个浏览器的Cookie限制列表:http://browsercookielimits.squawky.net/

内存缓存

从容量可知,所有Cookie占用的最大内存为3300*4K ≈ 13M。这点内存在手机上也是支撑得了的,所以Chromium会把硬盘上的全部Cookie数据都读到内存,每次发送请求都是在内存中查找,所以速度很快。在收到响应,需要创建或更新Cookie时,Chromium才会去写硬盘。而这个写操作是在非网络线程中完成的,避免慢速的文件IO占用网络线程的时间。

内存中的组织是以eTLD+1为key放在multimap里。


Chromium用SQLite存放cookie。在PC上是对value加密的。在iOS不加密,因为它的沙箱机制足够完善了,除非越狱。

Chromium把增删改表示为操作,向数据库发指令,而不是全部写一次。它是在后台线程flush。每30秒或满512次操作就直接Flush。

参考

http://www.quantum-step.com/download/sources/mystep/Foundation/Sources/NSHTTPCookieStorage.m

Apple是用了系统的NSHTTPCookieStorage。是全写的。

(注:本节的描述经过简化,非真实完整的实现)

淘汰

每次创建或更新Cookie就会进行垃圾回收的判断。有下列的规则:

1. 先淘汰过期的。即超出Max-Age指定时间。

2. 如果超出容量,则会按LRU规则(这里的used是指accessed)淘汰掉300个Cookie。

3. 如果最近30天内有访问过,即使超出容量也不会淘汰掉。

下面是Chromium源码中的部分注释供参考。

// Any cookies accessed more recently than kSafeFromGlobalPurgeDays will not
// be evicted by global garbage collection, even if we have more than
// kMaxCookies.  This does not affect domain garbage collection.
const int CookieMonster::kSafeFromGlobalPurgeDays = 30;

const size_t CookieMonster::kPurgeCookies = 300;

const size_t CookieMonster::kDomainCookiesQuotaLow = 30;
const size_t CookieMonster::kDomainCookiesQuotaMedium = 50;
const size_t CookieMonster::kDomainCookiesQuotaHigh =
    kDomainMaxCookies - kDomainPurgeCookies - kDomainCookiesQuotaLow -
    kDomainCookiesQuotaMedium;

开发建议

  • 浏览器可能会被用户设置成禁用Cookie。当确实需要Cookie而发现获取不了时,请做好一定的提示,提升用户体验。
  • 设好max-age,不要让冗余的cookie加入到请求头里,可加速连网过程。
  • 因为都在内存,Cookie操作的时耗较少,但太大的cookie会在连网阶段造成较高的延时。还是乖乖地加上Expire吧。

Web开发须知的浏览器内幕 缓存与存储篇(2)的更多相关文章

  1. Web开发须知的浏览器内幕 缓存与存储篇(1)

    本文禁止转载,由UC浏览器内部出品. 0.前言 大纲 浏览器缓存和存储相关的功能分为四类: 加载流程 Memory Cache Application Cache(简称AppCache) HTTP C ...

  2. Web开发基本准则-55实录-缓存策略

    续上篇<Web开发基本准则-55实录-Web访问安全>. Web开发基本准则-55实录-缓存策略 郑昀 创建于2013年2月 郑昀 最后更新于2013年10月26日 提纲: Web访问安全 ...

  3. Atitit.h5 web webview性能提升解决方案-----fileStrore缓存离线存储+http方案

    Atitit.h5 web webview性能提升解决方案-----fileStrore缓存离线存储+http方案 1. 业务场景 android+webview h5 css背景图性能提升1 2. ...

  4. web开发方面会遇到哪些缓存?分别如何优化

    Web缓存定义: Web缓存游走于服务器和客户端之间,这个服务器可能是源服务器(资源所驻留的服务器Add),数量可能是1个或多个. Web缓存就在服务器-客户端之间搞监控,监控请求,并且把请求输出的内 ...

  5. Web开发须知:URL编码与解码

    通常如果一样东西需要编码,说明这样东西并不适合传输.原因多种多样,如Size过大,包含隐私数据,对于Url来说,之所以要进行编码,是因为Url中有些字符会引起歧义. 例如,Url参数字符串中使用key ...

  6. web开发必备的浏览器常识

    浏览器内核: 1.使用Trident内核的浏览器:IE.Maxthon.TT.The World等: 2.使用Gecko内核的浏览器:Netcape6及以上版本.FireFox.MozillaSuit ...

  7. Django中web开发用md5加密图片名并存储静态文件夹

    一般在开发中,有的网站存在大量图片,首先图片的名称是不能重复的, 但是除了数据库可用的id以外我们可以用time模块中time.time()获取的时间来进行md5加密操作, 因为time模块所产生的时 ...

  8. web开发,关于jsp的常见问题,重复提交,防止后退。

    看了网上的,有几种方法:1 在你的表单页里HEAD区加入这段代码: <META HTTP-EQUIV="pragma" CONTENT="no-cache" ...

  9. web开发微信文章目录

    Web开发微信文章目录 2015-12-13 Web开发 本文是Web开发微信的文章目录.通过目录查看文章编号,回复文章编号就能查看文章全文. 回复编号查看全文,搜索分类名可以获得该分类下的文章.   ...

随机推荐

  1. CSS--浮动(float)布局

    浮动概述:浮动,指的是元素标签使用float属性.应用float属性的框可以向左或向右移动,直到它的外边缘碰到包含框或另一个浮动框的边框为止.浮动的本质是让文字围绕图片,但现在很多时候使用浮动进行布局 ...

  2. C# GDI+开发手记

    创建画布画字体文字区域内居中换行文字在整个画布中居中画直线画圆形头像压缩保存图片缩放旋转单位换算 创建画布 Bitmap image = new Bitmap(640, 1136, PixelForm ...

  3. Mac 10.12安装OpenVPN客户端

    说明: 1.在Mac下有很多漂亮的客户端可以安装,比如Tunnelblick这些等等. 2.但这里直接先原版的OpenVPN进行搭建,这个比较爽. 安装: brew install openvpn 提 ...

  4. Android:刚6瓶啤酒4两56度白酒下肚,居然20分钟做了一手机版网站 !

    刚6瓶啤酒4两56度白酒下肚,居然20分钟不到时间做了一手机版网站 !人有多大潜力你知道吗? 大家有兴趣的可以用手机或微信打开 http://xh.yunxunmi.com/  看看俺这酒后之做! 更 ...

  5. React之表单

    第一部分:表单基础 在React中,修改表单的唯一途径是使用setState方法.举例如下: class NameForm extends React.Component { constructor( ...

  6. 【Guava】Optional接口来避免空指针错误

    null会带来很多问题,从开始有null开始有无数程序栽在null的手里,null的含义是不清晰的,检查null在大多数情况下是不得不做的,而我们又在很多时候忘记了对null做检查,在我们的产品真正投 ...

  7. hibernate配置hbm2ddl.auto的四个参数

    <!-- Drop and re-create the database schema on startup --> <!-- hbm(hibernatemapping) ,ddl( ...

  8. android常用Linux命令

    安卓下面有个软件叫终端模拟器,其实就是Linux下的命令行,使用这些命令能有效处理问题. 1.基本知识 “/”,这个英文字母斜杠指的是根目录,类似Windows的C:\,但是Linux下只有一个根目录 ...

  9. git 检出项目部分目录(稀疏检出)

    git clone 会把整个项目都clone下来,对于大项目git status比较慢,每次pull时候也拉取一些无关的代码或者文件:git可以实现像svn一样检出部分目录 步骤: git clone ...

  10. C#中判断系统的架构(32位,还是64位)

    一种很简单的方法就是根据IntPtr类型的Size属性来判断, //IntPtr.Size在64位为8,在32位为4 public static Boolean Is64Bit() { ) retur ...