开心一刻

  今天我爸、我、我女儿一起吃饭,我们每人一个鸡腿

  女儿问道:爸爸,你吃鸡腿吗

  我以为她要把她的鸡腿给我吃,倍感欣慰地说道:我不吃,宝贝

  女儿一把抓起我的鸡腿放进了她爷爷的碗里,说道:不吃给爷爷吃

  我没想到她会来这一出,我从我爸碗里夹回我的鸡腿,对女儿说道:不是,你这样问问你爷爷

  女儿向她爷爷问道:爷爷,你吃鸡腿吗

  我爸一脸溺爱的说道:吃

  女儿又一把抓起我的鸡腿放进了她爷爷的碗里,说道:爷爷吃,给爷爷

  我一脸不可思议的看着我女儿,竟然套路我,那我就陪你玩到底,我又从我爸碗里夹回鸡腿,对女儿说道:不对不对,让你问懵了,你再问我一次

  女儿问道:爸爸,你吃公鸡腿吗

  我信誓旦旦地说道:我吃

  女儿又一把抓起我的鸡腿放进了她爷爷的碗里,说道:这是母鸡腿,你去找公鸡腿吃

  我彻底懵了

需求背景

  环境

  MySQL 版本: 5.7.20-log

  开发规范

  公司后端开发规范有这么一点:

    更新数据库表中数据的时候,不允许先删,然后批量插入

    需要将入参与表中数据比判断,找出哪些是新插入,哪些需要更新,哪些是删除的,然后再做对应的数据操作

  需求

  我们有表如下:

  当商品配送完后之后,需要记录它的最新配送价,若商品最新配送价已经存在则进行更新,不存在则执行插入

  针对这个需求,我们有哪些实现方式?

代码处理

  按开发规范中说的处理

  通过代码在内存中进行数据处理,找出插入列表与更新列表,然后执行数据库操作

  因为是很常规的插入与更新操作,所以这种处理方式适用于所有的关系型数据库

REPLACE INTO

  当数据库是 MySQL ,碰到 不存在则插入,存在则更新 的需求时,第一时间往往想到的是 REPLACE INTO

  工作原理

   replace into 跟 insert 功能类似

  不同点在于: replace into 首先尝试插入数据到表中,如果发现表中已经有此行数据(根据主键或者唯一索引判断)则先删除此行数据,然后插入新的数据,否则直接插入新数据

   replace 语句会返回一个数,表示受影响的行的数目,该数是被删除和被插入的行数的和

  我们来看个示例

  对于示例结果,相信大家都能理解

  需要强调的是:根据唯一索引 uk_comany_ware 判定 (1001,10001,19.8,1,1) 已经存在,那么先删除此记录,然后插入 (1001,10001,20.5,1,1)

  而 (1001,10002,5.45,1,1) 判定为不存在,那么直接插入

  这就导致我们看到的输出结果是: 受影响的行:3 ,同时自增主键由 1 变成了 2 3 ,而不是 1 2

  有坑

  正是因为 replace into 的工作原理,不可避免就产生了一些需要注意的地方

  1、破坏外键约束

    如果主键被指定成了其他表的外键,那么 replace into 更新(非插入)时影响到了其他表的外键约束,那么会执行失败,提示类似信息:

    可能很多小伙伴会说:我们开发过程中,会遵循阿里开发手册中的规约,其中有一条规约如下:

    我们不用外键了,也就不会出现前面的 [Err] 1451 错误了

    其实阿里开发手册中的这条规约,不是说不让我们用外键,而是说不用数据库层面的外键约束,在应用代码层面解决外键逻辑

    用数据库层面的外键,问题提示的很明显,也不会产生脏数据

    而应用层解决外键,反而使外键约束的数据一致性问题更隐晦,产生脏数据,如下

    从此我们踏上了修数据的不归路

  2、主键加速自增

    很多情况下,我们的主键是 int 或者 bigint 类型,并且设置成了自增

    不管是 int 还是 bigint ,都有一个最大值,如果一直自增下去,总有一天会达到最大值(可能到地老天荒也达不到这个值)

    replace into 的更新是先删除再插入,会导致主键自增 1(照理来说,更新是不应该导致主键自增 1)

    如果更新频率远远大于插入频率,本不用考虑的自增主键用完的问题,可能就需要考虑了

    另外也会导致主键不连续,主键值跳跃式的出现在表中

  3、主从切换问题

    master:master-local ,slave:slave-192.168.0.112 ,同步库:my_project

    从上图可以看出,主从复制是正常的

    接下来我们看看 replace into 对主从复制有什么影响

    此时 master 与 slave 上的 t_ware_last_delivery_price 的下一个非手工指定的主键都是 11( AUTO_INCREMENT=11 ),两者是一致的

    我们在 master 上使用 replace into 更新一条记录

     master 与 slave 的数据是一致的,但是 master 上的下一个自增主键是 AUTO_INCREMENT=12 ,而 slave 上却是 AUTO_INCREMENT=11

    可能会有人觉得:数据一致就行,下一个自增主键不一致有什么关系?

    我们来想一下这个问题:如果 master 库崩了,我们会怎么做?会将 slave 提升为 master

    此时问题就来了: slave 提升成 master 之前,实际数据的 id 已经到了 11 ,但其 AUTO_INCREMENT=11 ,也就说下一个自增主键是 11

      那么下一条不指定 id 值的新纪录是插入时就会发生 duplicate key error ,每次冲突之后 AUTO_INCREMENT += 1,直到增长为 max(id) + 1 之后才能恢复正常

INSERT UPDATE

  针对 不存在则插入,存在则更新 , MySQL 还提供了另外一种方言实现: INSERT ... ON DUPLICATE KEY UPDATE Statement

  工作原理

  如果指定 ON DUPLICATE KEY UPDATE 子句,并且要插入的行将导致唯一索引或主键中出现重复值,则会更新旧行,否则则是插入

  例如,如果 列 a 被声明为唯一且包含值 1,则以下两条语句具有类似的效果

  但是这两条 SQL 的效果并不完全相同,我们以 t_ware_last_delivery_price 为例,来看看它们的区别

  我们先来看看 UPDATE

  只是对 id = 11 的 last_delivery_price 就行了修改,受影响的行只有 1,不会影响 AUTO_INCREMENT 的值

  我们再来看看 INSERT INTO ... ON DUPLICATE KEY UPDATE

  对 id = 11 的 last_delivery_price 进行了修改,受影响的行是 2,并且 AUTO_INCREMENT=13

  此刻,我相信我们有共同的两个疑问

    1、为什么受影响的行数是 2,而不是 1

    2、自增主键为什么自增了 1( AUTO_INCREMENT 为什么等于 13,而不是原有的 12)

  为什么受影响的行数是 2,而不是 1,官方文档有这么一段说明

  意思就是:1 表示新插入一行,2 表示更新了一行,0 表示更新前后值未变

  我们换个角度来理解,假设让我们来设计,一条 SQL 既能插入,也能更新,我们如何告知用户到底是插入成功了,还是更新成功了?

  所以 1,2 仅仅只是用来区分插入和更新,2 并非真正受影响的行数

  主键明明没有变化,为什么 AUTO_INCREMENT=13 自增了 1 ?

  这和 MySQL 的主键自增的参数有关 innodb_autoinc_lock_mode ,它有 3 个值 0,1,2

   mysql5.1 之后其默认值是 1

  因为 innodb_autoinc_lock_mode = 1

  所以上述 SQL 被当作简单插入处理,在真正修改数据之前就对 AUTO_INCREMENT 自增 1 处理了

  批量操作

  不仅支持单条操作,也支持批量操作

  和批量插入类似

  有坑

  因为 innodb_autoinc_lock_mode = 1 是一个折中的选择,一般不会去改它,所以有些需要注意的点

  1、主键加速自增

  与 replace into 类似,即使是更新,也会导致 AUTO_INCREMENT 自增,加速了主键的衰老

  同时也会导致主键的跳跃

  2、主从切换问题

  与 replace into 类似, master 上的更新导致 AUTO_INCREMENT 自增,而 AUTO_INCREMENT 又未同步到 slave

  当 slave 升级成 master 后,可能会出现 duplicate key error

  与 replace into 不同的是,上述两个问题可以通过设置 innodb_autoinc_lock_mode = 0 来避免,因为很多场景下对性能要求并不高

总结

  1、如何选择哪种方式

    上述三种方式各有优略,代码处理不依赖于具体的数据库,可移植性高,也不会引入特定数据库的在这方面的缺陷

     replace into 的方式不推荐(坑有点多),它完全可以由 INSERT UPDATE 替代

     INSERT UPDATE 可以减少我们的代码,但它是 MySQL 的拓展实现,只有 MySQL 支持,可移植性差

  2、针对 INSERT UPDATE 的 “坑”,我们可以结合具体的业务来设置 innodb_autoinc_lock_mode ,适当的避免它的 “坑”

  3、道路千万条,合适第一条

    针对某个需求,实现方式往往有很多,我们要做的就是从中找到最适合的那一条

参考

  REPLACE Statement

  INSERT ... ON DUPLICATE KEY UPDATE Statement

  mysql自增id超大问题查询

记录不存在则插入,存在则更新 → MySQL 的实现方式有哪些?的更多相关文章

  1. ON DUPLICATE KEY UPDATE 当记录不存在时插入,当记录存在时更新

    MySQL 当记录不存在时插入,当记录存在时更新网上基本有三种解决方法.第一种:示例一:插入多条记录假设有一个主键为 client_id 的 clients 表,可以使用下面的语句:INSERTINT ...

  2. Mysql 插入记录时检查记录是否已经存在,存在则更新,不存在则插入记录SQL

    我们在开发数据库相关的逻辑过程中, 经常检查表中是否已经存在这样的一条记录, 如果存在则更新或者不做操作, 如果没有存在记录,则需要插入一条新的记录. 这样的逻辑固然可以通过两条sql语句完成. SE ...

  3. 【转】MySQL数据表中记录不存在则插入,存在则更新

    mysql 记录不存在时插入在 MySQL 中,插入(insert)一条记录很简单,但是一些特殊应用,在插入记录前,需要检查这条记录是否已经存在,只有当记录不存在时才执行插入操作,本文介绍的就是这个问 ...

  4. MySQL 当记录不存在时插入,当记录存在时更新

    第一种: 示例一:插入多条记录 假设有一个主键为 client_id 的 clients 表,可以使用下面的语句: INSERT INTO clients (client_id,client_name ...

  5. MySQL数据库(四)—— 记录相关操作之插入、更新、删除、查询(单表、多表)

    一.插入数据(insert) 1. 插入完整数据(顺序插入) 语法一: INSERT INTO 表名(字段1,字段2,字段3…字段n) VALUES(值1,值2,值3…值n); # 后面的值必须与字段 ...

  6. MySQL 避免重复数据的批量插入与批量更新

    [转发] 导读 我们在向数据库里批量插入数据的时候,会遇到要将原有主键或者unique索引所在记录更新的情况,而如果没有主键或者unique索引冲突的时候,直接执行插入操作. 这种情况下,有三种方式执 ...

  7. MySql快速插入以及批量更新

    MySql快速插入以及批量更新 插入: MySql提供了可以一次插入多条数据的用法: [sql] INSERT INTO tbl_name (a,b,c) VALUES(1,2,3),(4,5,6), ...

  8. 在论坛中出现的比较难的sql问题:9(触发器专题 插入数据自动更新表数据)

    原文:在论坛中出现的比较难的sql问题:9(触发器专题 插入数据自动更新表数据) 最近,在论坛中,遇到了不少比较难的sql问题,虽然自己都能解决,但发现过几天后,就记不起来了,也忘记解决的方法了. 所 ...

  9. mybatis+mysql批量插入和批量更新、存在及更新

    mybatis+mysql批量插入和批量更新 一.批量插入 批量插入数据使用的sql语句是: insert into table (字段一,字段二,字段三) values(xx,xx,xx),(oo, ...

随机推荐

  1. vue cli中的env详解

    前言 相信使用过 vueCli 开发项目的小伙伴有点郁闷,正常开发时会有三个接口环境(开发,测试,正式),但是 vueCli 只提供了两种 development,production(不包含 tes ...

  2. Spring源码浅析之bean实例的创建过程(一)

    在之前的文章内容中,简单介绍了bean定义的加载过程,下面这篇的主要内容就是bean实例的创建过程. bean实例的创建方式 ApplicationContext context = new Clas ...

  3. Nmap 常用命令及抓包分析

    1.主机发现:主机发现也称为ping扫描,但是Nmap中主机发现的技术已经不是简单的采用ping工具发送简单的ICMP回声请求报文.用户完全可以通过使用列表扫描(-sL)或者通过关闭ping(-P0) ...

  4. 一个极其朴素的目录扫描Python脚本

    如果目录扫描工具被某些种类的waf拦截了,可以尝试(只是尝试,不是绝对能过)用脚本发出请求,具体功能看需求而定 原理...没啥原理,也没啥技术含量,相信大家都能看得懂的,nobody knows be ...

  5. SIM900A—基础指令

    文章目录 1.ATE指令设置回显 2.ATQ指令设置返回 3.ATV指令设置返回格式 4.AT+CFUN设置模块功能 5.AT+IPR设置波特率 6.AT+CMEE设置上报错误格式 7.各种码(IME ...

  6. Vue3 Composition API写烦了,试试新语法糖吧—setup script

    前言 Vue3发布近一年了,相信大家对Vue3的新特性,新语法都很熟悉了.那么在使用Composition API的过程中,有没有觉得整个过程比较繁琐.比如你的模板里用到了大量的state和方法的时候 ...

  7. Golang在Linux系统中实现微秒级延迟

    在程序中延迟或者等待一段时间一般可以使用Sleep函数实现,但是因为操作系统线程调度的消耗,往往只能做到十几或者数十毫秒的精度,很难达到微秒级,Golang的time.Sleep也是如此. Sleep ...

  8. 转: SIFT原理解释

    1.SIFT概述 SIFT的全称是Scale Invariant Feature Transform,尺度不变特征变换,由加拿大教授David G.Lowe提出的.SIFT特征对旋转.尺度缩放.亮度变 ...

  9. 【springcloud】hystrix面试题

    1 hystrix是什么? Netflix(国外最大的类似于,爱奇艺,优酷)视频网站,五六年前,也是,感觉自己的系统,整个网站,经常出故障,可用性不太高 有时候一些vip会员不能支付,有时候看视频就卡 ...

  10. (1)hadoop之----linux配置jdk环境

    首先Linux中应有jdk包 运用flashFXP上传文件,xshell连接linux系统 我一般将文件放在个人目录下softwear目录 ,软件装在个人目录下app目录 cd software    ...