redis(二)--用Redis作MySQL数据库缓存
用Redis作MySQL数据库缓存,必须解决2个问题。首先,应该确定用何种数据结构存储来自mysql的数据;在确定数据结构之后,还要考虑用什么标识作为该数据结构的键。
直观上看,Mysql中的数据都是按表存储的;更微观地看,这些表都是按行存储的。每执行一次select查询,Mysql都会返回一个结果集,这个结果集由若干行组成。所以,一个自然而然的想法就是在redis中找到一种对应于Mysql行的数据结构。Redis中提供了五种基本数据结构,即字符串(string)、列表(list)、哈希(hash)、集合(set)和有序集合(sorted set)。经过调研,发现适合存储行的数据结构有两种,即string和hash。
要把Mysql的行数据存入string,首先需要对行数据进行格式化。事实上,结果集的每一行都可以看做若干由字段名和其对应值组成的键值对集合。这种键值对结构很容易让我们想起Json格式。因此,这里选用Json格式作为结果集每一行的格式化模板。根据这一想法,我们可以实现将结果集格式化为若干Json对象,并将Json对象转化为字符串存入Redis的代码:
- // 该函数把结果集中的每一行转换为一个Json格式的字符串并存入Redis的STRING结构中,
- // STRING键应该包含结果集标识符和STRING编号,形式如“cache.string:123456:1”
- string Cache2String(sql::Connection *mysql_connection,
- redisContext *redis_connection,
- sql::ResultSet *resultset,
- const string &resultset_id, int ttl) {
- if (resultset->rowsCount() == 0) {
- throw runtime_error("FAILURE - no rows");
- }
- // STRING键的前缀,包含了结果集的标识符
- string prefix("cache.string:" + resultset_id + ":");
- unsigned int num_row = 1; // STRING编号,附加于STRING键的末尾,从1开始
- sql::ResultSetMetaData *meta = resultset->getMetaData();
- unsigned int num_col = meta->getColumnCount();
- // 将结果集中所有行对应的所有STRING键存入该SET,SET键包含了结果集的标识符
- string redis_row_set_key("resultset.string:" + resultset_id);
- redisReply *reply;
- string ttlstr;
- stringstream ttlstream;
- ttlstream << ttl;
- ttlstr = ttlstream.str();
- resultset->beforeFirst();
- // 将结果集中的每一行转为Json格式的字符串,将这些Json字符串存入STRING,
- // 每个STRING对应结果集中的一行
- while (resultset->next()) {
- string redis_row_key; // STRING键名,由前缀和STRING编号组成
- stringstream keystream;
- keystream << prefix << num_row;
- redis_row_key = keystream.str();
- Json::Value row;
- for (int i = 1; i <= num_col; ++i) {
- string col_label = meta->getColumnLabel(i);
- string col_value = resultset->getString(col_label);
- row[col_label] = col_value;
- }
- Json::FastWriter writer;
- string redis_row_value = writer.write(row);
- // 将STRING键及Json格式的对应值对存入Redis
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "SET %s %s",
- redis_row_key.c_str(),
- redis_row_value.c_str()));
- freeReplyObject(reply);
- // 将STRING键加入SET中
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "SADD %s %s",
- redis_row_set_key.c_str(),
- redis_row_key.c_str()));
- freeReplyObject(reply);
- // 设置STRING的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- ++num_row;
- }
- // 设置SET的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_set_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- return redis_row_set_key; // 返回SET键,以便于其他函数获取该SET中的内容
- }
- // 该函数把结果集中的每一行转换为一个Json格式的字符串并存入Redis的STRING结构中,
- // STRING键应该包含结果集标识符和STRING编号,形式如“cache.string:123456:1”
- string Cache2String(sql::Connection *mysql_connection,
- redisContext *redis_connection,
- sql::ResultSet *resultset,
- const string &resultset_id, int ttl) {
- if (resultset->rowsCount() == 0) {
- throw runtime_error("FAILURE - no rows");
- }
- // STRING键的前缀,包含了结果集的标识符
- string prefix("cache.string:" + resultset_id + ":");
- unsigned int num_row = 1; // STRING编号,附加于STRING键的末尾,从1开始
- sql::ResultSetMetaData *meta = resultset->getMetaData();
- unsigned int num_col = meta->getColumnCount();
- // 将结果集中所有行对应的所有STRING键存入该SET,SET键包含了结果集的标识符
- string redis_row_set_key("resultset.string:" + resultset_id);
- redisReply *reply;
- string ttlstr;
- stringstream ttlstream;
- ttlstream << ttl;
- ttlstr = ttlstream.str();
- resultset->beforeFirst();
- // 将结果集中的每一行转为Json格式的字符串,将这些Json字符串存入STRING,
- // 每个STRING对应结果集中的一行
- while (resultset->next()) {
- string redis_row_key; // STRING键名,由前缀和STRING编号组成
- stringstream keystream;
- keystream << prefix << num_row;
- redis_row_key = keystream.str();
- Json::Value row;
- for (int i = 1; i <= num_col; ++i) {
- string col_label = meta->getColumnLabel(i);
- string col_value = resultset->getString(col_label);
- row[col_label] = col_value;
- }
- Json::FastWriter writer;
- string redis_row_value = writer.write(row);
- // 将STRING键及Json格式的对应值对存入Redis
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "SET %s %s",
- redis_row_key.c_str(),
- redis_row_value.c_str()));
- freeReplyObject(reply);
- // 将STRING键加入SET中
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "SADD %s %s",
- redis_row_set_key.c_str(),
- redis_row_key.c_str()));
- freeReplyObject(reply);
- // 设置STRING的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- ++num_row;
- }
- // 设置SET的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_set_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- return redis_row_set_key; // 返回SET键,以便于其他函数获取该SET中的内容
- }
要把Mysql的行数据存入hash,过程要比把数据存入string直观很多。这是由hash的结构性质决定的——hash本身就是一个键值对集合:一个“父键”下面包含了很多“子键”,每个“子键”都对应一个值。根据前面的分析可知,结果集中的每一行实际上也是键值对集合。用Redis键值对集合表示Mysql键值对集合应该再合适不过了:对于结果集中的某一行,字段对应于hash的“子键”,字段对应的值就是hash“子键”对应的值,即结果集的一行刚好对应一个hash。这一想法的实现代码如下:
- // 该函数把结果集中的每一行都存入一个HASH结构。HASH键应当包括结果集标识符和HASH编号,
- // 形如“cache.string:123456:1”
- string Cache2Hash(sql::Connection *mysql_connection,
- redisContext *redis_connection,
- sql::ResultSet *resultset,
- const string &resultset_id, int ttl) {
- if (resultset->rowsCount() == 0) {
- throw runtime_error("FAILURE - no rows");
- }
- // HASH键的前缀,包含了结果集的标识符
- string prefix("cache.hash:" + resultset_id + ":");
- unsigned int num_row = 1; // HASH编号,附加于HASH键的末尾,从1开始
- sql::ResultSetMetaData *meta = resultset->getMetaData();
- unsigned int num_col = meta->getColumnCount();
- // 将结果集中所有行对应的所有HASH键存入该SET,SET键包含了结果集的标识符
- string redis_row_set_key("resultset.hash:" + resultset_id);
- redisReply *reply;
- string ttlstr;
- stringstream ttlstream;
- ttlstream << ttl;
- ttlstr = ttlstream.str();
- // 结果集中的每一行对应于一个HASH,将结果集的所有行都存入相应HASH中
- resultset->beforeFirst();
- while (resultset->next()) {
- string redis_row_key; // HASH键名,由前缀和HASH编号组成
- stringstream keystream;
- keystream << prefix << num_row;
- redis_row_key = keystream.str();
- for (int i = 1; i <= num_col; ++i) {
- string col_label = meta->getColumnLabel(i);
- string col_value = resultset->getString(col_label);
- // 将结果集中一行的字段名和对应值存入HASH
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "HSET %s %s %s",
- redis_row_key.c_str(),
- col_label.c_str(),
- col_value.c_str()));
- freeReplyObject(reply);
- }
- // 将HASH键加入SET中
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "SADD %s %s",
- redis_row_set_key.c_str(),
- redis_row_key.c_str()));
- freeReplyObject(reply);
- // 设置HASH的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- ++num_row;
- }
- // 设置SET的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_set_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- return redis_row_set_key; // 返回SET键,以便于其他函数获取该SET中的内容
- }
- // 该函数把结果集中的每一行都存入一个HASH结构。HASH键应当包括结果集标识符和HASH编号,
- // 形如“cache.string:123456:1”
- string Cache2Hash(sql::Connection *mysql_connection,
- redisContext *redis_connection,
- sql::ResultSet *resultset,
- const string &resultset_id, int ttl) {
- if (resultset->rowsCount() == 0) {
- throw runtime_error("FAILURE - no rows");
- }
- // HASH键的前缀,包含了结果集的标识符
- string prefix("cache.hash:" + resultset_id + ":");
- unsigned int num_row = 1; // HASH编号,附加于HASH键的末尾,从1开始
- sql::ResultSetMetaData *meta = resultset->getMetaData();
- unsigned int num_col = meta->getColumnCount();
- // 将结果集中所有行对应的所有HASH键存入该SET,SET键包含了结果集的标识符
- string redis_row_set_key("resultset.hash:" + resultset_id);
- redisReply *reply;
- string ttlstr;
- stringstream ttlstream;
- ttlstream << ttl;
- ttlstr = ttlstream.str();
- // 结果集中的每一行对应于一个HASH,将结果集的所有行都存入相应HASH中
- resultset->beforeFirst();
- while (resultset->next()) {
- string redis_row_key; // HASH键名,由前缀和HASH编号组成
- stringstream keystream;
- keystream << prefix << num_row;
- redis_row_key = keystream.str();
- for (int i = 1; i <= num_col; ++i) {
- string col_label = meta->getColumnLabel(i);
- string col_value = resultset->getString(col_label);
- // 将结果集中一行的字段名和对应值存入HASH
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "HSET %s %s %s",
- redis_row_key.c_str(),
- col_label.c_str(),
- col_value.c_str()));
- freeReplyObject(reply);
- }
- // 将HASH键加入SET中
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "SADD %s %s",
- redis_row_set_key.c_str(),
- redis_row_key.c_str()));
- freeReplyObject(reply);
- // 设置HASH的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- ++num_row;
- }
- // 设置SET的过期时间
- reply = static_cast<redisReply*>(redisCommand(redis_connection,
- "EXPIRE %s %s",
- redis_row_set_key.c_str(),
- ttlstr.c_str()));
- freeReplyObject(reply);
- return redis_row_set_key; // 返回SET键,以便于其他函数获取该SET中的内容
- }
至此,我们已经给出了两种存储Mysql结果集的方案,这就是我们在篇首提出的第一个问题,即选择何种数据结构存储Mysql结果集的答案。下一篇文章将研究第二个问题,即数据结构键的标识符选择问题。
redis(二)--用Redis作MySQL数据库缓存的更多相关文章
- 用Redis作Mysql数据库缓存
使用redis作mysql数据库缓存时,需要考虑两个问题: 1.确定用何种数据结构存储来自Mysql的数据; 2.在确定数据结构之后,用什么标识作为该数据结构的键. 直观上看,Mysql中的数据都是按 ...
- MySql数据库缓存
对MySql查询缓存及SQL Server过程缓存的理解及总结 一.MySql的Query Cache 1.Query Cache MySQL Query Cache是用来缓存我们所执行的SELE ...
- mysql 数据库缓存调优之解决The total number of locks exceeds the lock table size错误
环境: mysql5.6.2 主从同步(备注:需操作主库和从库) 一.InnoDB表执行大批量数据的更新,插入,删除操作时会出现这个问题,需要调整InnoDB全局的innodb_buffer_poo ...
- 【数据库】mysql数据库缓存
配置文件在 /etc/mysql/my.cnf ################### 第一部分:查询数据库缓存相关变量 ################### show variables like ...
- python-操作MySQL数据库
1.安装MySQLdb? 为了用DB-API编写MySQL脚本,必须确保已经安装了MySQL.复制以下代码,并执行: #!/usr/bin/python # -*- coding: UTF-8 -*- ...
- MySQL实验准备(二)--Python模拟数据(MySQL数据库)
Python模拟数据(MySQL数据库) 数据模拟 目的:模拟多个表的插入和查询数据的模拟,再通过基准测试脚本测试服务器性能和收集数据,仿真模拟. 备注: 如果需要基础的python环境,可以查看&l ...
- python + docker, 实现天气数据 从FTP获取以及持久化(二)-- python操作MySQL数据库
前言 在这一节中,我们主要介绍如何使用python操作MySQL数据库. 准备 MySQL数据库使用的是上一节中的docker容器 “test-mysql”. Python 操作 MySQL 我们使用 ...
- FLUME安装&环境(二):拉取MySQL数据库数据到Kafka
Flume安装成功,环境变量配置成功后,开始进行agent配置文件设置. 1.agent配置文件(mysql+flume+Kafka) #利用Flume将MySQL表数据准实时抽取到Kafka a1. ...
- Redis(二)、Redis持久化RDB和AOF
一.Redis两种持久化方式 对Redis而言,其数据是保存在内存中的,一旦机器宕机,内存中的数据会丢失,因此需要将数据异步持久化到硬盘中保存.这样,即使机器宕机,数据能从硬盘中恢复. 常见的数据持久 ...
随机推荐
- [C++] 左值、右值、右值引用
一般意义上的左值(lvalue)和右值(rvalue) * lvalue 代表了对象,可通过取地址符获取地址,可赋值.L 可看做 location. * rvalue 代表了数据,不能获取内存地址,不 ...
- Redis更新的正确方法
原文(缓存更新的套路):看到好些人在写更新缓存数据代码时,先删除缓存,然后再更新数据库,而后续的操作会把数据再装载的缓存中.然而,这个是逻辑是错误的.试想,两个并发操作,一个是更新操作,另一个是查询操 ...
- windows多线程同步--信号量
推荐参考博客:秒杀多线程第八篇 经典线程同步 信号量Semaphore 首先先介绍和windows信号量有关的两个API:创建信号量.释放信号量 HANDLE WINAPI CreateSem ...
- Scala字符串插值
Scala提供了三种字符串插值方式:s,f和raw.1. s字符串插值器简单的说就是解析字符串变量. val name = "Tom" println(s"His nam ...
- android 制作9.png图
9.png图片与.png图片的具体不同之处.9.png图片的四周与普通的png图片相比多了一个像素位的白色区域,该区域只有在图片被还原和制造的时候才能看到,当打包后无法看见,并且图片的总像素会缩小2个 ...
- 在线检测域名或者ip的端口是否开放(http://coolaf.com/tool/port)
http://coolaf.com/tool/port
- OpenCV 学习笔记 05 级联分类器CascadeClassifier类
在人脸检测中,CascadeClassifier 是一个类,该类的作用是(基于官方已经训练好的数据文件 .xml)实例化一个检测器. 1 类 CascadeClassifier 的概述 首先看一下该类 ...
- google全球地址
IP Addresses of Google Global Cache www.kookle.co.nr Bulgaria 93.123.23.1 93.123.23.2 93.123.23.3 93 ...
- openssl命令行工具简介 - 指令x509
原文链接: http://blog.csdn.net/allwtg/article/details/4982507 openssl命令行工具简介 - 指令x509 用法: open ...
- Effective Java 第三版——55. 明智而审慎地返回Optional
Tips 书中的源代码地址:https://github.com/jbloch/effective-java-3e-source-code 注意,书中的有些代码里方法是基于Java 9 API中的,所 ...