回来写博客,少年前端时间被django迷了心魄
 
 


 
    如果转载,请注明博文来源: www.cnblogs.com/xinysu/   ,版权归 博客园 苏家小萝卜 所有。望各位支持!
 


1 什么是MVCC 

      MVCC全称是: Multiversion concurrency control,多版本并发控制,提供并发访问数据库时,对事务内读取的到的内存做处理,用来避免写操作堵塞读操作的并发问题。
 
      举个例子,程序员A正在读数据库中某些内容,而程序员B正在给这些内容做修改(假设是在一个事务内修改,大概持续10s左右),A在这10s内 则可能看到一个不一致的数据,在B没有提交前,如何让A能够一直读到的数据都是一致的呢?
 
      有几种处理方法,第一种: 基于锁的并发控制,程序员B开始修改数据时,给这些数据加上锁,程序员A这时再读,就发现读取不了,处于等待情况,只能等B操作完才能读数据,这保证A不会读到一个不一致的数据,但是这个会影响程序的运行效率。还有一种就是:MVCC,每个用户连接数据库时,看到的都是某一特定时刻的数据库快照,在B的事务没有提交之前,A始终读到的是某一特定时刻的数据库快照,不会读到B事务中的数据修改情况,直到B事务提交,才会读取B的修改内容。
      
      一个支持MVCC的数据库,在更新某些数据时,并非使用新数据覆盖旧数据,而是标记旧数据是过时的,同时在其他地方新增一个数据版本。因此,同一份数据有多个版本存储,但只有一个是最新的。
 
      MVCC提供了 时间一致性的 处理思路,在MVCC下读事务时,通常使用一个时间戳或者事务ID来确定访问哪个状态的数据库及哪些版本的数据。读事务跟写事务彼此是隔离开来的,彼此之间不会影响。假设同一份数据,既有读事务访问,又有写事务操作,实际上,写事务会新建一个新的数据版本,而读事务访问的是旧的数据版本,直到写事务提交,读事务才会访问到这个新的数据版本。
 
      MVCC有两种实现方式,第一种实现方式是将数据记录的多个版本保存在数据库中,当这些不同版本数据不再需要时,垃圾收集器回收这些记录。这个方式被PostgreSQL和Firebird/Interbase采用,SQL Server使用的类似机制,所不同的是旧版本数据不是保存在数据库中,而保存在不同于主数据库的另外一个数据库tempdb中。第二种实现方式只在数据库保存最新版本的数据,但是会在使用undo时动态重构旧版本数据,这种方式被Oracle和MySQL/InnoDB使用。
      
      这部分可以查阅维基百科:https://en.wikipedia.org/wiki/Multiversion_concurrency_control

2  Innodb的MVCC

      在Innodb db中,无论是聚簇索引,还是二级索引,每一行记录都包含一个 DELETE bit,用于表示该记录是否被删除, 同时,聚簇索引还有两个隐藏值:DATA_TRX_ID,DATA_ROLL_PTR。DATA _TRX_ID表示产生当前记录项的事务ID,这个ID随着事务的创建不断增长;DATA _ROLL_PTR指向当前记录项的undo信息。
  1. 无论是聚簇索引,还是二级索引,只要其键值更新,就会产生新版本。将老版本数据deleted bti设置为1;同时插入新版本。
  2. 对于聚簇索引,如果更新操作没有更新primary key,那么更新不会产生新版本,而是在原有版本上进行更新,老版本进入undo表空间,通过记录上的undo指针进行回滚。
  3. 对于二级索引,如果更新操作没有更新其键值,那么二级索引记录保持不变。
  4. 对于二级索引,更新操作无论更新primary key,或者是二级索引键值,都会导致二级索引产生新版本数据。
  5. 聚簇索引设置记录deleted bit时,会同时更新DATA_TRX_ID列。老版本DATA_TRX_ID进入undo表空间;二级索引设置deleted bit时,不写入undo。
       MVCC只工作在REPEATABLE READ和READ COMMITED隔离级别下。READ UNCOMMITED不是MVCC兼容的,因为查询不能找到适合他们事务版本的行版本;它们每次都只能读到最新的版本。SERIABLABLE也不与MVCC兼容,因为读操作会锁定他们返回的每一行数据 。
 
      在MVCC中,读操作分为两类:当前读跟快照读,当前读返回最新记录,会加锁,保证该记录不会被其他事务修改;快照读,读取的是记录的某个版本(有可能是最新版本也有可能是旧版本),不加锁。
 
      快照读:RU,RC,RR隔离级别下,select * from tbname where ....
      当前读:
  1. select * from tbname where ....  for update (加X锁)
  2. select * from tbname where ....  lock in share mode(加S锁)
  3. insert into tbname .... (加X锁,注意如果有unique key的情况)
  4. delete from tbname ... (加X锁)
  5. update tbname set ... where .. (加X锁)
       本部分参考:http://hedengcheng.com/?p=148

3 Two Phase Locking

      2-PL,也就是两阶段锁,锁的操作分为两个阶段:加锁、解锁。先加锁,后解锁,不相交。加锁时,读操作会申请并占用S锁,写操作会申请并占用X锁,如果对所在记录加锁有冲突,那么会处于等待状态,知道加锁成功才惊醒下一步操作。解锁时,也就是事务提交或者回滚的时候,这个阶段会释放该事务中所有的加锁情况,进行一一释放锁。
 
     假设事务对记录A和记录B都有操作,那么,其加锁解锁按照逐行加锁解锁顺序,如下:
     
BEGIN
LOCK A
READ A
A:A+100
WRITE A
UNLOCK A
LOCK B
READ B
UNLOCK B
COMMIT
 
     两阶段锁还有几种特殊情况:conservative(保守)、strict(严格)、strong strict(强严格),这三种类型在加锁和释放锁的处理有些不一样。
  1. conservative

    • 在事务开始的时候,获取需要的记录的锁,避免在操作期间逐个申请锁可能造成的锁等待,conservative 2PL 可以避免死锁
  2. strict 
    • 仅在事务结束的时候(commit or rollback),才释放所有 write lock,read lock 则正常释放
  3. strong strict
    • 仅在事务结束的时候(commit or rollback),才释放所有锁,包括write lock 跟 read lock 都是结束后才释放。

      这部分可以查看维基百科:https://en.wikipedia.org/wiki/Two-phase_locking

4 数据不一致情况

4.1 脏读

    读取未提交事务中修改的数据,称为脏读。
    举例,表格 A (name,age),记录1为name='xinysu',age=188
    
    这里,事务2 中读出来的数据是 (name,age)=('xinysu',299),这一条是 事务1中未提交的记录,属于脏数据。

4.2 丢失更新

      多个更新操作并发执行,导致某些更新操作数据丢失。
      举例,表格 A (name,age),记录1为name='xinysu',age=188。并发2个更新操作如下:
      
      正常情况下,如果是事务1操作后,age为288,事务2再进行288+100=388,但是实际上,事务2的操作覆盖事务1的操作,造成了事务1的更新丢失。

4.3 不可重复读

      同个事务多次读取同一条存在的记录,但是读取的结构不一致,称之为不可重复读。
      举例,表格 A (name,age),记录1为name='xinysu',age=188。操作如下:
      
      事务1第一次读出来的结构是name='xinysu',age=188,第二次读出来的结果是name='xinysu',age=288,同个事务中,多次读取同一行存在的记录,但结果不一致的情况,则为不可重复读。

4.4 幻读

      同个事务多次读取某段段范围内的数据,但是读取到底行数不一致的情况,称之为幻读。
      举例,表格 A (name,age),记录1为name='xinysu',age=188。操作如下:
      
      事务1中,第一次读取的结果行数有1行,如果事务2执行的是delete,则事务1第二次读取的为0行;如果事务2执行的是INSERT,则事务2第二次读取的行数是2行,前后记录数不一致,称之为幻读。
 

5 innodb的隔离级别

5.1 隔离级别介绍

  1. Read Uncommited

    • 简称 RU,读未提交记录,始终是读最新记录
    • 不支持快照读,都是当前读
    • 可能存在脏读、不可重复读、幻读等问题;
  2. Read Commited
    • 简称 RC ,读已提交记录
    • 支持快照读,读取版本有可能不是最新版本
    • 支持当前读,读取到的记录添加锁
      • 不存在脏读、不可重复读
      • 存在幻读问题;
  3. Read Repeatable
    • 简称 RR ,可重复读记录
    • 支持快照读,读取版本有可能不是最新版本
    • 支持当前读,读取到的记录添加锁,并且对读取的范围枷锁,保证满足查询条件的记录不能够被insert进来
    • 不存在脏读、不可重复读及幻读情况;
  4. Read Serializable
    • 简称 RS,序列化读记录
    • 不支持快照读,都是当前读
    • select数据添加S锁,update\insert\delete数据添加X锁
    • 并发度最差,除非明确业务需求及性能影响,才使用,一般不建议在innodb中应用

5.2 隔离级别测试

测试各个隔离级别下的数据不一致情况。
1.查看当前会话隔离级别
select @@tx_isolation;
 
2.查看系统当前隔离级别
select @@global.tx_isolation;
 
3.设置当前会话隔离级别
set session transaction isolation level repeatable read;
 
4.设置系统当前隔离级别
set global transaction isolation level repeatable read;

5.2.1 Read Uncommitted

所有事务隔离级别设置: set session transaction isolation level read Uncommited ;
 
该隔离级别没有的快照读,所有读操作都是读最新版本,可以读未提交事务的数据。
 
测试1:update数据不提交,另起查询
测试结果:正常select可以查询到不提交的事务内容,属于脏读
 
 
测试2:修改数据不提交,另起事务多次查询
测试结果:同个事务多次读取同一行记录结果不一致,属于重复读
 
 
测试3:INSERT数据不提交,另起事务多次查询
测试结果:同个事务多次读取相同范围的数据,但是行数不一样,属于幻读
 
测试4:不同事务对同一行数据进行update
测试结果:由于INNODB有锁机制,所有所有update都会持有X锁互斥,并不会出现事务都提交成功情况下的丢失更新,所以四个隔离级别都可以避免丢失更新问题。
 
总结:没有快照读,都是当前读,所有读都是读可以读未提交记录,存在脏读、不可重复读、幻读等问题。
      

5.2.2 Read Committed

所有事务隔离级别设置: set session transaction isolation level read committed ;
 
由于该隔离级别支持快照读,不添加for update跟lock in share mode的select 查询语句,使用的是快照读,读取已提交记录,不添加锁。所以测试使用当前读的模式测试,添加lock in share mode,添加S锁。
 
测试1:update数据不提交,另起查询
测试结果:由于当前读持有S锁,导致update申请X锁处于等待情况,无法更新,同个事务内的多次查询结果一致,无脏读及不可重复读情况。

测试2:INSERT数据不提交,另起事务多次查询
测试结果:同个事务多次读取相同范围的数据,但是行数不一样,属于幻读(这里注意,如果insert 分为beigin;commit,一直不commit的话,3的查询会处于等待情况,因为它需要申请的S锁被 insert的X锁所堵塞)
测试3:快照读测试
测试结果:同个事务多次读取相同记录,读取的都是已提交记录,不存在脏读及丢失更新情况,但是存在不可重复读及幻读。

总结:支持快照读,快照读 不存在脏读及丢失更新情况,但是存在不可重复读及幻读;而当前读不存在脏读、不可重复读问题,存在幻读问题。

5.2.3 Read Repeatable

所有事务隔离级别设置: set session transaction isolation level repeatable read ;
 
由于该隔离级别支持快照读,不添加for update跟lock in share mode的select 查询语句,使用的是快照读,不添加锁。所以测试使用当前读的模式测试,添加lock in share mode,添加S锁。
 
测试1:update数据不提交,另起查询
测试结果:由于当前读持有S锁,导致update申请X锁处于等待情况,无法更新,同个事务内的多次查询结果一致,无脏读及不可重复读情况。
 
测试2:INSERT数据不提交,另起事务多次查询
测试结果:同个事务多次读取相同范围的数据,会有GAP锁锁定,故同个事务多次当前读结果记录数都是一致的,不存在幻读情况。
 

测试3:快照读测试
测试结果:同个事务多次读取相同记录,不存在脏读及丢失更新、不可重复读及幻读等情况。

总结:支持快照读,快照读跟当前读不存在脏读、不可重复读问题、幻读问题。

5.2.4 Read Serializable

所有事务隔离级别设置: set session transaction isolation level Serializable   ;
 
该隔离级别不支持快照读,所有SELECT查询都是当前读,并且持有S锁.
 
测试1:update数据不提交,另起查询;INSERT数据不提交,另起事务多次查询
测试结果:该隔离级别下所有select语句持有S锁,导致update申请X锁处于等待情况,INSERT申请X也被堵塞,同个事务内的多次查询结果一致,不存在脏读、不可重复读及幻读情况。
 
 
总结:无快照读,所有SELECT查询都是当前读,不存在脏读、不可重复读问题、幻读问题。
 



 
以为没了,not,还有一个概念这里没有提交,这里补充介绍下:semi-consistent read
 



PS: semi-consistent read

 
在read committed或者read uncommitted 隔离级别下,有这样的测试现象:
 
测试表格及数据
 
CREATE TABLE `tblock` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(10) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=utf8;
 
insert into tblock(name) select 'su';
insert into tblock(name) select 'xin';
 
 
测试1:两个update事务并发,分别update不同行,update条件列无索引
测试结果:两条update互不干扰,正常执行。

测试2:update语句不提交,另起事务当前读操作
测试结果:当前读被堵塞,无法正常加X锁
 
    问题点:为啥两个测试中的sql序号2,都是申请X锁,测试1可以正常申请情况,而测试2不行呢?
 
    正常情况下,where条件中的name列没有索引,故这个update操作是对全表做scan扫描加X锁,正常情况下,在第一个事务中,update语句没有提交的情况下,这个表格有一个表锁X,对每一行数据都无法申请S锁或者X锁,那么为什么 测试1 可以正常申请呢?
 
    在这里,需要引入semi-constent-read,半一致性读。官网解释如下:
 
semi consistent read:
A type of read operation used for UPDATE statements, that is a combination of read committed and consistent read. When an UPDATE statement examines a row that is already locked, InnoDB returns the latest committed version to MySQL so that MySQL can determine whether the row matches the WHERE condition of the UPDATE. If the row matches (must be updated), MySQL reads the row again, and this time InnoDB either locks it or waits for a lock on it. This type of read operation can only happen when the transaction has the read committed isolation level, or when the innodb_locks_unsafe_for_binlog option is enabled.
 
   semi-consistent read是update语句在读数据的一种操作, 是read committed与consistent read两者的结合。update语句A在没有提交时,另外一个update语句B读到一行已经被A加锁的记录,但是这行记录不在A的where条件内,此时InnoDB返回记录最近提交的版本给B,由MySQL上层判断此版本是否满足B的update的where条件。若满足(需要更新),则MySQL会重新发起一次读操作,此时会读取行的最新版本(并加锁)。semi-consistent read只会发生在read committed及read uncommitted隔离级别,或者是参数innodb_locks_unsafe_for_binlog被设置为true。 对update起作用,对select insert delete 不起作用。这就导致了update 不堵塞,但是当前读的select则被堵塞的现象。
 
   发生 semi consitent read的条件:
  1. update语句
  2. 执行计划时scan,range scan or table scan,不能时unique scan
  3. 表格为聚集索引
总结如下:
 

mysql的并发处理机制_上篇的更多相关文章

  1. mysql的并发处理机制_下篇

        MySQL的并发处理机制,有MVCC及锁机制来处理,上篇简要说明了 MVCC及隔离级别,这篇来说说mysql下的锁.     温馨提示:下文有几个表格长度较长,右下角的博文导航目录会挡道,浏览 ...

  2. 说一说MySQL的锁机制

    锁概述 MySQL的锁机制,就是数据库为了保证数据的一致性而设计的面对并发场景的一种规则. 最显著的特点是不同的存储引擎支持不同的锁机制,InnoDB支持行锁和表锁,MyISAM支持表锁. 表锁就是把 ...

  3. 关于MySQL的锁机制详解

    锁概述 MySQL的锁机制,就是数据库为了保证数据的一致性而设计的面对并发场景的一种规则. 最显著的特点是不同的存储引擎支持不同的锁机制,InnoDB支持行锁和表锁,MyISAM支持表锁. 表锁就是把 ...

  4. mysql的Replication机制

    mysql的Replication机制 参考文档:http://www.doc88.com/p-186638485596.html Mysql的 Replication 是一个异步的复制过程. 从上图 ...

  5. MySQL- 锁机制及MyISAM表锁

    锁是计算机协调多个进程或线程并发访问某一资源的机制.在数据库中,除传统的计算资源(如CPU.RAM.I/O等)的争用以外,数据也是一种供许 多用户 共享的资源.如何保证数据并发访问的一致性.有效性是所 ...

  6. MysqL自动提交机制的关闭

    MysqL在执行一句数据库操作命令的时候,通常都是自动提交的.常用引擎下有两种,分别是MyIsam和InnoDB,MyIsam是不支持事务处理的,但InnoDB支持,但InnoDB在不开启事务处理的情 ...

  7. MySQL的安全机制

    MySQL的安全机制: 1.MySQL登录 mysql -u账户 -p密码 -h127.0.0.1 -P端口 数据库名 mysql -h hostname|hostIP -p port -u user ...

  8. MySQL的复制机制

    MySQL的复制机制 作者:尹正杰  版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.MySQL复制介绍 1>.MySQL复制允许将主实例(master)上的数据同步到一个或多个从实例( ...

  9. MySQL中间件方案盘点_搜狐科技_搜狐网

    MySQL中间件方案盘点_搜狐科技_搜狐网

随机推荐

  1. 基于C#的接口自动化测试(二)

    Json多重数据处理方法II:jobj直接向后调用即可 ]["GoodsName"]; 用:分隔的字符串转字典: public static Dictionary<strin ...

  2. 短信发送接口被恶意访问的网络攻击事件(三)定位恶意IP的日志分析脚本

    前言 承接前文<短信发送接口被恶意访问的网络攻击事件(二)肉搏战-阻止恶意请求>,文中有讲到一个定位非法IP的shell脚本,现在就来公布一下吧,并没有什么技术难度,只是当时花了些时间去写 ...

  3. 关于MATLAB处理大数据坐标文件2017527

    第一次提交数据: 今天用了8个特征,加上的这一个特征是 从3000条测试数据中测试失败的数据总结出来的树的数目为50再次使用3000条测试数据测试结果-- 结果不错: 99%但是运行官网数据结果分数- ...

  4. Zabbix 3.2.6安装过程

    以3.2.6版本的Zabbix为例展开说明 1.准备Lnmp环境. 本次准备的环境: Linux:2.6.32-642.el6.x86_64 Nginx:1.12.0 Mariadb:10.2.6 P ...

  5. Data Guard 的三种保护模式

    官方文档链接 http://docs.oracle.com/cd/E11882_01/server.112/e41134/protection.htm#SBYDB02000 最大可用模式(Maximu ...

  6. thinkphp3.2自定义常量

    在项目文件夹 (如:Home) 中的Common文件夹下新建function.php //thinkphp3.2.2版本加入如下语句: define('XXX', XXX); //第一个参数是常量名, ...

  7. Java NIO 核心组件学习笔记

    背景知识 同步.异步.阻塞.非阻塞 首先,这几个概念非常容易搞混淆,但NIO中又有涉及,所以总结一下[1]. 同步:API调用返回时调用者就知道操作的结果如何了(实际读取/写入了多少字节). 异步:相 ...

  8. 13.localStorage和sessionStorage的区别

    HTMl5的sessionStorage和localStorage html5中的Web Storage包括了两种存储方式:sessionStorage和localStorage. sessionSt ...

  9. java程序员常见面试题目

      答:每当程序出现异常之后,如果程序没有进行相应的处理,则程序会出现中断现象.实际上,产生了异常之后,JVM会抛出一个异常类的实例化对象,如果此时使用了try语句捕获的话,则可以进行异常的处理,否则 ...

  10. 数位DP练习

    水题 发布时间: 2017年6月22日 19:15   最后更新: 2017年6月23日 20:10   时间限制: 1000ms   内存限制: 128M 描述 给一个数n,求0~n内有多少个数满足 ...