前言:使用脚本进行大数据量的批量插入,对特定情况下测试数据集的建立非常有用。


0.准备

#1.创建tb_dept_bigdata(部门表)。

  1. create table tb_dept_bigdata(
  2. id int unsigned primary key auto_increment,
  3. deptno mediumint unsigned not null default 0,
  4. dname varchar(20) not null default '',
  5. loc varchar(13) not null default ''
  6. )engine=innodb default charset=utf8;

#2.创建tb_emp_bigdata(员工表)。

  1. create table tb_emp_bigdata(
  2. id int unsigned primary key auto_increment,
  3. empno mediumint unsigned not null default 0,/*编号*/
  4. empname varchar(20) not null default '',/*名字*/
  5. job varchar(9) not null default '',/*工作*/
  6. mgr mediumint unsigned not null default 0,/*上级编号*/
  7. hiredate date not null,/*入职时间*/
  8. sal decimal(7,2) not null,/*薪水*/
  9. comm decimal(7,2) not null,/*红利*/
  10. deptno mediumint unsigned not null default 0 /*部门编号*/
  11. )engine=innodb default charset=utf8;

#3.开启log_bin_trust_function_creators参数。

由于在创建函数时,可能会报:This function has none of DETERMINISTIC.....因此我们需开启函数创建的信任功能。

可通过set global log_bin_trust_function_creators=1的形式开启该功能,也可通过在my.cnf中永久配置的方式开启该功能,在[mysqld]下配置log_bin_trust_function_creators=1。

1.创建函数,保证每条数据都不同

#1.创建随机生成字符串的函数。

  1. delimiter $$
  2. drop function if exists rand_string;
  3. create function rand_string(n int) returns varchar(255)
  4. begin
  5. declare chars_str varchar(52) default 'abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ';
  6. declare return_str varchar(255) default '';
  7. declare i int default 0;
  8. while i<n do
  9. set return_str=concat(return_str,substring(chars_str,floor(1+rand()*52),1));
  10. set i=i+1;
  11. end while;
  12. return return_str;
  13. end $$

#2.创建随机生成编号的函数。

  1. delimiter $$
  2. drop function if exists rand_num;
  3. create function rand_num() returns int(5)
  4. begin
  5. declare i int default 0;
  6. set i=floor(100+rand()*100);
  7. return i;
  8. end $$

2.创建存储过程用于批量插入数据

#1.创建往tb_dept_bigdata表中插入数据的存储过程。

  1. delimiter $$
  2. drop procedure if exists insert_dept;
  3. create procedure insert_dept(in start int(10),in max_num int(10))
  4. begin
  5. declare i int default 0;
  6. set autocommit=0;
  7. repeat
  8. set i=i+1;
  9. insert into tb_dept_bigdata (deptno,dname,loc) values(rand_num(),rand_string(10),rand_string(8));
  10. until i=max_num
  11. end repeat;
  12. commit;
  13. end $$

#2.创建往tb_emp_bigdata表中插入数据的存储过程。

  1. delimiter $$
  2. drop procedure if exists insert_emp;
  3. create procedure insert_emp(in start int(10),in max_num int(10))
  4. begin
  5. declare i int default 0;
  6. set autocommit=0;
  7. repeat
  8. set i=i+1;
  9. insert into tb_emp_bigdata (empno,empname,job,mgr,hiredate,sal,comm,deptno) values((start+i),rand_string(6),'developer',0001,curdate(),2000,400,rand_num());
  10. until i=max_num
  11. end repeat;
  12. commit;
  13. end $$

3.具体执行过程批量插入数据

#1.首先执行随机生成字符串的函数。

#2.然后执行随机生成编号的函数。

#3.查看函数是否创建成功。

#4.执行插入数据的存储过程,并查看其创建情况。

#5.执行存储过程,插入数据。

a.首先执行insert_dept存储过程。

说明:deptno的范围[100,110),因为deptno的值使用了rand_num()函数。

b.然后执行insert_emp存储过程。

说明:tb_emp_bigdata表中deptno编号的范围[100,110),使用rand_num()函数。

注:对于部门表的deptno和员工表中deptno的数据都使用了rand_num()函数进行赋值,确保两边的值能对应。

4.删除函数与存储过程

#1.删除函数

  1. drop function rand_num;
  2. drop function rand_string;

#2.删除存储过程

  1. drop procedure insert_dept;
  2. drop procedure insert_emp;

总结

①注意mysql中函数和存储过程的写法。

②注意存储过程的调用,call procedurename。

③注意开启对函数的信任,log_bin_trust_function_creators参数。


by Shawn Chen,2018.6.26日,晚。


相关内容

MySQL高级知识系列目录

MySQL高级知识(十)——批量插入数据脚本的更多相关文章

  1. 使用JDBC在MySQL数据库中快速批量插入数据

    使用JDBC连接MySQL数据库进行数据插入的时候,特别是大批量数据连续插入(10W+),如何提高效率呢? 在JDBC编程接口中Statement 有两个方法特别值得注意: void addBatch ...

  2. MySQL随机字符串函数批量插入数据

      简单举个例子: drop table if exists demo1 create table demo1 ( id int primary key auto_increment, name ) ...

  3. MySQL高级知识(十六)——小表驱动大表

    前言:本来小表驱动大表的知识应该在前面就讲解的,但是由于之前并没有学习数据批量插入,因此将其放在这里.在查询的优化中永远小表驱动大表. 1.为什么要小表驱动大表呢 类似循环嵌套 for(int i=5 ...

  4. MySQL高级知识系列目录

    MySQL高级知识(一)——基础 MySQL高级知识(二)——Join查询 MySQL高级知识(三)——索引 MySQL高级知识(四)——Explain MySQL高级知识(五)——索引分析 MySQ ...

  5. MySQL高级知识(十一)——Show Profile

    前言:Show Profile是mysql提供的可以用来分析当前会话中sql语句执行的资源消耗情况的工具,可用于sql调优的测量.默认情况下处于关闭状态,并保存最近15次的运行结果. 1.分析步骤 # ...

  6. MySQL高级知识(十五)——主从复制

    前言:本章主要讲解MySQL主从复制的操作步骤.由于环境限制,主机使用Windows环境,从机使用用Linux环境.另外MySQL的版本最好一致,笔者采用的MySQL5.7.22版本,具体安装过程请查 ...

  7. MySQL高级知识(十四)——行锁

    前言:前面学习了表锁的相关知识,本篇主要介绍行锁的相关知识.行锁偏向InnoDB存储引擎,开销大,加锁慢,会出现死锁,锁定粒度小,发生锁冲突的概率低,但并发度高. 0.准备 #1.创建相关测试表tb_ ...

  8. mybatis foreach批量插入数据:Oracle与MySQL区别

    mybatis foreach批量插入数据:Oracle与MySQL不同点: 主要不同点在于foreach标签内separator属性的设置问题: separator设置为","分 ...

  9. MySQL批量插入数据的几种方法

    最近公司要求测试数据库的性能,就上网查了一些批量插入数据的代码,发现有好几种不同的用法,插入同样数据的耗时也有区别 别的先不说,先上一段代码与君共享 方法一: package com.bigdata; ...

随机推荐

  1. Linux配置2个或多个Tomcat同时运行

    一.问题说明今天操作Linux部署项目的时候,公司领导要求,只给一个服务器,但是有2个项目要部署,而且需要独立分开运行. 二.解决方法Linux配置两个或多个Tomcat,一个Tomcat对应部署一个 ...

  2. 一个smtp发送错误

    错误返回: Error: need EHLO and AUTH first ! 原因:服务器是smtp.exmail.qq.com,邮箱账号是企业新申请的邮箱账号,邮箱密码需要重新修改. 解决办法:修 ...

  3. vim 学习笔记系列(前言)

    今天上午的时候,看到大神在用vim编程,画面直观,速度很快,操作只需要用命令符就可以实施. 所以可以推断vim的命令符是复杂的,那么学习过程中记忆会很漫长,很痛苦,但是如果记住了这些命令符,并可以熟练 ...

  4. javascript模块化编程-立即执行函数(IIFE)

    IIFE 全拼Imdiately Invoked Function Expression,立即执行的函数表达式. 语法 var module1 = (function(){ var _count = ...

  5. Django的URL路由系统

    一. URL配置 URL配置就像Django所支撑网站的目录.它的本质是URL与要为该URL调用的视图之间的映射表.你就是以这种方式告诉Django,对于哪个URL调用的这段代码. 基本格式 from ...

  6. 洛谷P2197 nim游戏(Nim游戏)

    题目描述 甲,乙两个人玩Nim取石子游戏. nim游戏的规则是这样的:地上有n堆石子(每堆石子数量小于10000),每人每次可从任意一堆石子里取出任意多枚石子扔掉,可以取完,不能不取.每次只能从一堆里 ...

  7. POJ1201 Intervals(差分约束)

    Time Limit: 2000MS   Memory Limit: 65536K Total Submissions: 28416   Accepted: 10966 Description You ...

  8. 洛谷P4590 [TJOI2018]游园会(状压dp LCS)

    题意 题目链接 Sol 这个题可能是TJOI2018唯一的非模板题了吧.. 考虑LCS的转移方程, \[f[i][j] = max(f[i - 1][j], f[i][j - 1], f[i - 1] ...

  9. java读写properties工具代码

    package test612; import java.io.File; import java.io.FileInputStream; import java.io.FileNotFoundExc ...

  10. JMeter 报告监听器导入.jtl结果文件报错解决方案

    JMeter 报告监听器导入.jtl结果文件报错解决方案   by:授客 QQ:1033553122   1. 问题描述 把jmeter压测时生成的 .jtl结果文件导入监听器报告中,弹出如下错误提示 ...