参考资料:

http://www.ehcache.org/documentation/3.2/caching-patterns.html

http://www.ehcache.org/documentation/3.2/usermanaged.html(optional)

示例代码:

https://github.com/gordonklg/study,cache module

A. 缓存模式(Caching Patterns)

缓存模式有两种,一种是 Cache Aside,一种是 Cache-As-SoR(system-of-record)。

在 Cache Aside 模式中,应用程序直接操作缓存与系统数据,由应用程序保证缓存的有效性。而在 Cache-As-SoR 模式中,应用程序只能看见缓存,缓存层有自己的 loader 模块,负责与系统数据的交互。

B. Ehcache3 实现 Cache Aside 模式

gordon.study.cache.ehcache3.pattern.CacheAsideUserService.java

    private UserManagedCache<String, UserModel> cache;

    public CacheAsideUserService() {
cache = UserManagedCacheBuilder.newUserManagedCacheBuilder(String.class, UserModel.class).build(true);
} public UserModel findUser(String id) {
UserModel cached = cache.get(id);
if (cached != null) {
System.out.println("get user from cache");
return cached;
}
UserModel user = new UserModel(id, "info ..."); // find user
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
}
System.out.println("get user from db");
cache.put(id, user);
return user;
} public UserModel updateUser(String id, String info) {
UserModel user = new UserModel(id, info); // update user
cache.put(id, user);
return user;
} public boolean deleteUser(String id) {
// delete user
cache.remove(id);
return true;
} public static void main(String[] args) {
final CacheAsideUserService service = new CacheAsideUserService();
ExecutorService executorService = Executors.newFixedThreadPool(10);
for (int i = 0; i < 10; i++) {
executorService.execute(new Runnable() {
public void run() {
service.findUser("1");
}
});
}
executorService.shutdown();
}

代码第1行定义了一个 user managed caches,这种 cache 不需要 CacheManager 管理。

findUser 方法首先尝试从缓存中获取数据,如果缓存中没有相应数据,则从 SoR 中获取数据并将之放入缓存。

updateUser 方法修改完 SoR 后会更新缓存中的数据。

deleteUser 方法删除 SoR 中记录后会移除缓存中的数据。

以上就是一个典型的 Cache Aside 示例。

C. Cache Aside 模式的问题:并发读

Cache Aside 模式存在一些问题,第一是并发读的问题,在高并发场景下,当多个请求同时访问一条数据时,如果此时数据不在缓存中(例如刚过期),则这些请求会同时去后端 SoR 中获取数据,瞬间压力巨大。

上面示例代码 main 函数执行时会打印10条 "get user from db",表示所有线程同时访问了后端 SoR。

解决这个问题的办法是引入同步机制,保证只会有一个线程去后端 SoR 中获取数据,其余线程等待数据进入缓存后直接从缓存获取,减轻 SoR 端的压力。

gordon.study.cache.ehcache3.pattern.SyncCacheAsideUserService.java

    private UserManagedCache<String, UserModel> cache;

    private final ReentrantLock lock = new ReentrantLock();

    public SyncCacheAsideUserService() {
cache = UserManagedCacheBuilder.newUserManagedCacheBuilder(String.class, UserModel.class).build(true);
} public UserModel findUser(String id) {
UserModel result = cache.get(id);
if (result == null) {
lock.lock();
result = cache.get(id);
if (result == null) {
result = new UserModel(id, "info ..."); // find user
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
}
System.out.println("get user from db: " + id);
cache.put(id, result);
} else {
System.out.println("get user from cache after competition: " + id);
}
lock.unlock();
} else {
System.out.println("get user from cache: " + id);
}
return result;
} public static void main(String[] args) {
final SyncCacheAsideUserService service = new SyncCacheAsideUserService();
ExecutorService executorService = Executors.newFixedThreadPool(30);
for (int i = 0; i < 10; i++) {
executorService.execute(new Runnable() {
public void run() {
service.findUser("1");
}
});
executorService.execute(new Runnable() {
public void run() {
service.findUser("2");
}
});
executorService.execute(new Runnable() {
public void run() {
service.findUser("3");
}
});
}
executorService.shutdown();
}

通过加锁,保证了只有竞争 lock 成功的线程才能去后端 SoR 获取数据,其它线程只能等待。

从 SyncCacheAsideUserService 的输出发现了新的问题:现在从 SoR 获取数据变成了串行的方式,对不同的 id 的查找操作也被 lock 锁给同步了。

直觉上,我们会想到为每个不同的 id 使用不同的锁。为了查找效率,这些锁需要放置在 Map 结构中,通过 id 为 key 方便检索。最后,由于 id 可取值范围太广,普通的 map 会造成内存泄漏,因此考虑使用 WeakHashMap 解决内存泄漏问题,这样便产生了以下试验性代码(演示用,不要用于生产环境)

gordon.study.cache.ehcache3.pattern.SyncByIdCacheAsideUserService.java

    private UserManagedCache<String, UserModel> cache;

    private final Map<String, ReentrantLock> lockMap = new WeakHashMap<>();

    private final ReentrantLock lockMapLock = new ReentrantLock();

    public SyncByIdCacheAsideUserService() {
cache = UserManagedCacheBuilder.newUserManagedCacheBuilder(String.class, UserModel.class).build(true);
} public UserModel findUser(String id) {
UserModel result = cache.get(id);
if (result == null) {
lockMapLock.lock();
ReentrantLock lock = lockMap.get(id);
if (lock == null) {
lock = new ReentrantLock();
lockMap.put(new String(id), lock);
}
lockMapLock.unlock(); lock.lock();
result = cache.get(id);
if (result == null) {
result = new UserModel(id, "info ..."); // find user
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
}
System.out.println("get user from db: " + id);
cache.put(id, result);
} else {
System.out.println("get user from cache after competition: " + id);
}
lock.unlock();
} else {
System.out.println("get user from cache: " + id);
}
return result;
} public static void main(String[] args) throws Exception {
final SyncByIdCacheAsideUserService service = new SyncByIdCacheAsideUserService();
ExecutorService executorService = Executors.newFixedThreadPool(30);
for (int i = 0; i < 10; i++) {
executorService.execute(new Runnable() {
public void run() {
service.findUser("1");
}
});
executorService.execute(new Runnable() {
public void run() {
service.findUser("2");
}
});
executorService.execute(new Runnable() {
public void run() {
service.findUser("3");
}
});
}
executorService.shutdown();
executorService.awaitTermination(5, TimeUnit.SECONDS);
System.gc();
Thread.sleep(1000);
System.out.println(service.lockMap.size());
}

D. Cache Aside 模式的问题:并发读写

当读写操作并发存在时,理论上有缓存旧数据的可能。可能场景如下:

  • 线程A读取用户,缓存未命中,于是从 SoR 中读取到旧数据
  • 线程B更新用户,将 SoR 中数据更新,然后更新缓存
  • 线程A将旧数据更新到缓存

但是这种场景仅仅是理论上可能,因为在 SoR 中更新数据一般是比较费时的操作(而且数据库写操作会锁表,读操作必然是要在锁表前读取出旧值的),线程A没理由会在这么长的时间段内没将旧数据更新到缓存。所以一般情况下,我们会无视这种情况。

E. Cache Aside 模式的问题:并发写

并发写也可能导致缓存旧数据。可能场景如下:

  • 线程A更新用户到版本2
  • 线程B更新用户到版本3,然后更新缓存
  • 线程A用版本2的数据更新缓存

同上,这种场景发生概率也很低,尤其是对于用户模块来说,很少有并发写的场景,所以可以不用太考虑,只要设定合适的缓存过期时间就可以了。

不过,解决并发写问题的方法很简单,只要在 update 操作后对缓存执行移除操作而不是更新操作就可以了。

缓存技术内部交流_03_Cache Aside的更多相关文章

  1. 缓存技术内部交流_05_Cache Through

    参考资料: http://www.ehcache.org/documentation/3.2/caching-patterns.html http://www.ehcache.org/document ...

  2. 缓存技术内部交流_04_Cache Aside续篇

    额外参考资料: http://www.ehcache.org/documentation/3.2/expiry.html F. Cache Aside 模式的问题:缓存过期 有时我们会在上线前给缓存系 ...

  3. 缓存技术内部交流_01_Ehcache3简介

    参考资料: http://www.ehcache.org/documentation/3.2/getting-started.html http://www.ehcache.org/documenta ...

  4. 缓存技术内部交流_02_Ehcache3 XML 配置

    参考资料: http://www.ehcache.org/documentation/3.2/getting-started.html#configuring-with-xml http://www. ...

  5. .Net环境下的缓存技术介绍 (转)

    .Net环境下的缓存技术介绍 (转) 摘要:介绍缓存的基本概念和常用的缓存技术,给出了各种技术的实现机制的简单介绍和适用范围说明,以及设计缓存方案应该考虑的问题(共17页) 1         概念 ...

  6. [.net 面向对象程序设计进阶] (14) 缓存(Cache) (一) 认识缓存技术

    [.net 面向对象程序设计进阶] (14) 缓存(Cache)(一) 认识缓存技术 本节导读: 缓存(Cache)是一种用空间换时间的技术,在.NET程序设计中合理利用,可以极大的提高程序的运行效率 ...

  7. .Net环境下的缓存技术介绍

    .Net环境下的缓存技术介绍 摘要: 介绍缓存的基本概念和常用的缓存技术,给出了各种技术的实现机制的简单介绍和适用范围说明,以及设计缓存方案应该考虑的问题(共17页) 1         概念 1.1 ...

  8. ASP.NET 缓存技术分析

    缓存功能是大型网站设计一个很重要的部分.由数据库驱动的Web应用程序,如果需要改善其性能,最好的方法是使用缓存功能.可能的情况下尽量使用缓存,从内存中返回数据的速度始终比去数据库查的速度快,因而可以大 ...

  9. 强大的Spring缓存技术(上)

    缓存是实际工作中非常常用的一种提高性能的方法, 我们会在许多场景下来使用缓存. 本文通过一个简单的例子进行展开,通过对比我们原来的自定义缓存和 spring 的基于注释的 cache 配置方法,展现了 ...

随机推荐

  1. 正则表达式验证合法的IP地址

    IPv4地址 最初设计互联网络时,为了便于寻址和层次化构造网络,每个IP地址包括两个标识码(ID),即网络ID和主机ID.同一个物理网络上的所有主机都使用同一个网络ID,网络上的一个主机(包括网络上的 ...

  2. Objective-C中new与alloc/init的区别

    在实际开发中很少会用到new,一般创建对象我们看到的全是[[className alloc] init],但是并不意味着你不会接触到new,在一些代码中还是会看到[className new],还有去 ...

  3. python全栈开发从入门到放弃之函数基础

    1.为什么要用函数#1.避免代码重用#2.提高代码的可读性 2.函数的定义def 函数名(参数1,参数2):    '''函数注释'''    print("函数体")    re ...

  4. 设置 Quick-Cocos2d-x 在 Windows 下的编译环境

    http://cn.cocos2d-x.org/tutorial/show?id=1304 设置 Quick-Cocos2d-x 在 Windows 下的编译环境 Liao Yulei2014-08- ...

  5. (C++) Assertion failed: !"Bad error code", file VMem.c, line 715

    (C++) Assertion failed: !"Bad error code", file VMem.c, line 715 Misc error. myInterface F ...

  6. rabbitmq报错type

    TypeError: exchange_declare() got an unexpected keyword argument 'type' 原因应该为pika版本不同导致的用法不同,解决方法为把t ...

  7. SQL Server返回插入数据的ID和受影响的行数

    首先看看数据库里面的数据(S_Id为自增长标识列): sql server 中返回上一次插入数据的ID(标识值)有三种方式: 第一种 @@IDENTITY: insert into Student(S ...

  8. java模拟http/https post请求

    1.Post请求失败的代码 try { HttpResponse response = httpClient.execute(httpPost); HttpEntity entity = respon ...

  9. TOSCA自动化测试工具视频资料

    https://www.udemy.com/ search 'TOCSA' 找到两个免费资料学习

  10. win7系统下查看端口的占用情况以及如何删除端口进程

    经常在本地测试开发使用tomcat的时候容易报端口占用的情况,比如我要查看8080端口的使用情况 1.按如下操作,输入 cmd 回车 2.在doc窗口中输入命令    netstat -ano | f ...