1.背景:

  每天0点定时任务统计数据,实现目标是统计时如果没有今天的统计数据,那就执行insert操作 如果存在那就执行update操作;

代码逻辑

1 if(报表存在){
2 update();
3 }else{
4 insert();
5 }

上线跑了多天后 发现有时候会出现同一天的统计数据有2条

经过分析后

  发现当0点定时任务跑的时候,存在用户登录(登录需要统计,需要更新报表),因为0点的时候,数据库都没记录,所以两者都判断了insert操作,造成数据库有2条相同数据(只有登录数量的字段不一样,其他字段都一样)

2.解决方案:

  说实话,第一反应是给数据表加锁。laravel提供了2个锁:sharedLock和lockForUpdate.经过仔细研究分析后发现,这2个锁并不能解决我目前的需求,原因如下:

  • sharedLock 对应的是 LOCK IN SHARE MODE
  • lockForUpdate 对应的是 FOR UPDATE

  这2个锁都是避免同一行数据被其他transaction进行update()的。

  • sharedLock 不会阻止其他 transaction 读取同一行
  • lockForUpdate 会阻止其他 transaction 读取同一行 (需要特别注意的是,普通的非锁定读取读取依然可以读取到该行,只有 sharedLock 和 lockForUpdate 的读取会被阻止。)

  但是我现在的实际情况都没有读到数据,所以都不能满足。

  后来实在没办法想到了表锁,对,就是把全表都锁定了。但是这个效率性能实在太差了,而且在LOCK TABLE 和UNLOCK TABLE之间有异常,会导致锁无法释放。潜在问题很严重,所以还是不打算用这个方法。

INSERT IGNORE

  经查阅大量资料(疯狂百度)后发现了insert ignore。insert ignore 如果存在数据,那么则忽略新数据

REPLACE INTO

  replace into 表示插入替换数据,表中如果有PrimaryKey或者unique索引的话,数据库如果已存在数据,则用新数据替换,如果没有数据则和insert into一样。

上面2个方法固然好,但是存在数据丢失的问题,还是放弃了。

INSERT INTO

    最终的解决办法居然回到了最原始的sql语句。insert into表示插入数据,数据库会检查主键(PrimaryKey),如果出现重复会报错;

  对就是利用这个主键报错的机制,解决了的需求。就是在每次插入数据的时候把下一个自增id也插入进去。因为我们平时插入数据都是不用管自增id的,所以laravel都没有获取下一个自增id的封装方法。没办法,自己动手丰衣足食。

//获取下一个自增id,方法还是很简单的

1 public static function getIncrementId()
2 {
3 $id = self::query()
4 ->orderByDesc('id')
5 ->value('id');
6 return ++$id;
7 }
 1           try {
2 $report = DailyReport::getReport($customer->id, 1);
3 if (!$report) {
4 $id = DailyReport::getIncrementId();
5 DailyReport::create([
6 'customer_id' => $customer->id,
7 'report_date' => Carbon::today(),
8 'id' => $id,//把id也插入
9 ...
10 ]);
11 }
12 } catch (\Exception $exception) {
13 if (23000 == $exception->getCode()){//这里捕获主键重复的错误,然后做相关逻辑的操作 23000后来发现好像也别的sql错误也会报,记得优化
14 //do something
15 }else{
16 LogManagers::error($exception);
17 }
18 }

上面就是解决的代码。最终的解决办法还是利用了主键重复的错误来解决问题。

本文属于个人原创,欢迎转载,转载请附链接:https://www.cnblogs.com/x-x-j/p/13491564.html

laravel 解决mysql插入相同数据的问题的更多相关文章

  1. mysql 插入/更新数据

    mysql 插入/更新数据 INSERT 语句 1.一次性列出全部字段的值,例如: INSERT INTO student VALUES('Chenqi','M', 29); INSERT INTO ...

  2. 解决mysql导入导出数据乱码问题

    最近在linux上面用mysqldump导出数据,放在windows系统中导入就会出现中文乱码,然后就会导致出现: Unknown MySQL server host和Can't connect to ...

  3. 通俗易懂地解决中文乱码问题(2) --- 分析解决Mysql插入移动端表情符报错 ‘incorrect string value: '\xF0...

    原文:[原创]通俗易懂地解决中文乱码问题(2) --- 分析解决Mysql插入移动端表情符报错 'incorrect string value: '\xF0... 这篇blog重点在解决问题,如果你对 ...

  4. php 解决MySQL插入数据出现 Incorrect string value: '\xF0\x9F\x92\x8BTi...'错误

    在项目中向MySQL插入数据时.发现数据插入不完整,通过调试,发现插入语句也没什么特殊的错误. 可是就是差不进去,于是就打开mysqli错误的调试 $ret = mysqli_query($this- ...

  5. MySQL 插入 中文数据乱码解决

    问题描述: 1.在命令行中进行插入,没有问题.但是显示存在部分乱码 2.在JDBC中插入成功.中文是直接以“??”形式显示. 通过Navicat客户端查看 与在网页中看到的一一致,说明读取没有问题,问 ...

  6. MySQL插入中文数据出现?号

    原文转载自:https://blog.csdn.net/LynneZoe/article/details/79174119 运行环境:win10 mysql版本:Mysql5.6 做一个项目的时候,向 ...

  7. 【原创】通俗易懂地解决中文乱码问题(2) --- 分析解决Mysql插入移动端表情符报错 ‘incorrect string value: '\xF0...

    这篇blog重点在解决问题,如果你对字符编码并不是特别了解,建议先看看 < [原创]通俗易懂地解决中文乱码问题(1) --- 跨平台乱码 >. 当然,如果只是针对解决这个Mysql插入报错 ...

  8. [转载]mysql插入大量数据

    mysql的批量数据格式, 比如 INSERT INTO TABLES (LABLE1,LABLE2,LABLE3,...)  VALUES(NUM11,NUM12,NUM13,...),  (NUM ...

  9. C API向MySQL插入批量数据的快速方法——关于mysql_autocommit

    MySQL默认的数据提交操作模式是自动提交模式(autocommit).这就表示除非显式地开始一个事务,否则每个查询都被当做一个单独的事务自动执行.我们可以通过设置autocommit的值改变是否是自 ...

随机推荐

  1. 185. 部门工资前三高的所有员工 + 多表联合 + join + dense_rank()

    185. 部门工资前三高的所有员工 LeetCode_MySql_185 题目描述 方法一:使用join on # Write your MySQL query statement below sel ...

  2. 如何用Flink把数据sink到kafka多个不同(成百上千)topic中

    需求与场景 上游某业务数据量特别大,进入到kafka一个topic中(当然了这个topic的partition数必然多,有人肯定疑问为什么非要把如此庞大的数据写入到1个topic里,历史留下的问题,现 ...

  3. jdk 集合大家族之Collection

    jdk 集合大家族之Collection 前言:   此处的集合指的是java集合框架中的实现了Collection接口相关的类.所以主要为List Set 和 Queue 其他章节会专门介绍Map相 ...

  4. 如何优雅的移植JavaScript组件到Blazor

    Blazor作为一个新兴的交互式 Web UI 的框架,有其自身的优缺点,如果现有的 JavaScript 组件能移植到 Blazor,无疑让 Blazor 如虎添翼,本文就介绍一下自己在开发 Bul ...

  5. LNMP配置——Nginx配置 ——Nginx防盗链

    一.配置 #vi /usr/local/nginx/conf/vhost/test.com.conf 写入: server { listen 80; server_name test.com test ...

  6. Python内置函数作用及解析

    Python内置的函数及其用法.为了方便记忆,已经有很多开发者将这些内置函数进行了如下分类: 数学运算(7个)    类型转换(24个)    序列操作(8个)    对象操作(7个)    反射操作 ...

  7. menuStrip鼠标滑过自动弹出

    public partial class FrmMain : Form { public FrmMain() { InitializeComponent(); } private void 退出系统T ...

  8. 攻防世界 reverse Newbie_calculations

    Newbie_calculations Hack-you-2014 题目名百度翻译成新手计算,那我猜应该是个实现计算器的题目.... IDA打开程序,发现一长串的函数反复调用,而且程序没有输入,只有输 ...

  9. Joomla框架搭建&远程代码执行(RCE)漏洞复现

    一.漏洞描述 Joomla是一套内容管理系统,是使用PHP语言加上MYSQL数据库所开发的软件系统,最新版本为3.9.8,官网: https://downloads.joomla.org/,漏洞位于根 ...

  10. 美图录爬虫(requests模块,re模块)

    Python 爬虫 最近学正则表达式,刚好知道这个网站美图录,就做了个爬虫拿来练练手,说一说遇到的问题 一 404问题 问题: 由于图片显示页面是分页的,每一页展示5张图片,为了方便没有每次去获取下一 ...