mysql插入二千万的测试数据进行测试,int和datetime比较
时间存储用int和datetime哪个字段更合适,建立下面的两个表
测试环境是内存2个G,一核的虚拟机
CREATE TABLE `test_inttime` (
`id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',
`int_time` int(11) NOT NULL DEFAULT '0' COMMENT '插入时间',
PRIMARY KEY (`id`),
KEY `int_time` (`int_time`) USING BTREE COMMENT 'int索引'
) ENGINE=InnoDB DEFAULT CHARSET=utf8; CREATE TABLE `test_datetime` (
`id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',
`date_time` datetime DEFAULT NULL COMMENT '插入时间',
PRIMARY KEY (`id`),
KEY `date_time` (`date_time`) USING BTREE COMMENT 'date_time'
) ENGINE=InnoDB AUTO_INCREMENT=21 DEFAULT CHARSET=utf8;
分别对两个表进行两千万数据进行测试,这里小弟采用swoole多进程进行处理
这是插入test_inttime
<?php
require 'pdo.php'; echo 'begin ' . date('Y-m-d H:i:s', time());
/**
* 开启10个进程
* 每个进程插入数据库的表二百万条数据
*/
for ($i = 0; $i < 10; $i++) {
$process = new swoole_process('insertData', true);
$start = $process->start();
$process->write($i);
$workers[$start] = $process;
} //防止产生僵尸进程.
while (true) {
$res = swoole_process::wait(); if ($res) {
$pid = $res['pid'];
write_logs('exit ' . $pid);
} else {
break;
}
} /**
* 插入数据的主函数
* @param swoole_process $worker 每个进程
* 每个进程分二十次塞入数据库,
* 对插入的数值进行拼接成大的字符串,进行插库操作,
* 需要对数据库的进行配置文件的修改 max_allowed_packet
*/
function insertData(swoole_process $worker)
{
$num = $worker->read();
$pdo = MyPDO::getInstance('127.0.0.1', 'root', 'root', 'test', 'utf-8'); for ($j = 0; $j < 20; $j++) { $sql = "insert into test_inttime(int_time) VALUES "; for ($i = 0; $i < 100000; $i++) {
$testTime = (time() - rand(1, 100));
$sql .= "($testTime),";
} $sql = substr($sql, 0, strlen($sql) - 1);
$pdo->query($sql);
} } /**
* 日志错误记录
* @param $word string 传入错误信息拼接的字符串
*/
function write_logs($word)
{
$time = date('Y-m-d H:i:s', time());
$date = date('Y-m-d', time());
$filename = './' . $date . '.log';
$fh = fopen($filename, "a+");
fwrite($fh, $time . " " . $word . "\r\n");
fclose($fh);
} echo PHP_EOL;
echo 'end ' . date('Y-m-d H:i:s', time());
这是插入test_datetime表
<?php
require 'pdo.php'; echo 'begin ' . date('Y-m-d H:i:s', time());
/**
* 开启10个进程
* 每个进程插入数据库的表二百万条数据
*/
for ($i = 0; $i < 10; $i++) {
$process = new swoole_process('insertData', true);
$start = $process->start();
$process->write($i);
$workers[$start] = $process;
} //防止产生僵尸进程.
while (true) {
$res = swoole_process::wait(); if ($res) {
$pid = $res['pid'];
write_logs('exit ' . $pid);
} else {
break;
}
} echo PHP_EOL;
echo 'end ' . date('Y-m-d H:i:s', time()); /**
* 插入数据的主函数
* @param swoole_process $worker 每个进程
* 每个进程分二十次塞入数据库,
* 对插入的数值进行拼接成大的字符串,进行插库操作,
* 需要对数据库的进行配置文件的修改 max_allowed_packet
*/
function insertData(swoole_process $worker)
{$num = $worker->read();
$pdo = MyPDO::getInstance('127.0.0.1', 'root', 'root', 'test', 'utf-8'); for ($j = 0; $j < 20; $j++) { $sql = "insert into test_datetime(date_time) VALUES "; for ($i = 0; $i < 100000; $i++) {
$testTime = time() - rand(1, 100);
$testTime = date('Y-m-d H:i:s', $testTime);
$sql .= "('" . $testTime . "'),";
} $sql = substr($sql, 0, strlen($sql) - 1);
$pdo->query($sql);
} } /**
* 日志错误记录
* @param $word string 传入错误信息拼接的字符串
*/
function write_logs($word)
{
$time = date('Y-m-d H:i:s', time());
$date = date('Y-m-d', time());
$filename = './' . $date . '.log';
$fh = fopen($filename, "a+");
fwrite($fh, $time . " " . $word . "\r\n");
fclose($fh);
}
分别运行上面两个方法
第一个test_inttime执行完用时如下,用时141s
成功插入两千万条数据
第二个test_datetime用时如下,用时176s
成功插入两千万条数据
进行存储空间的测试
第一个test_inttime
mysql> select concat(round(sum(data_length/1024/1024),2),'MB') as data_length_MB,
-> concat(round(sum(index_length/1024/1024),2),'MB') as index_length_MB
-> from tables where
-> table_schema='test'
-> and table_name = 'test_inttime';
+----------------+-----------------+
| data_length_MB | index_length_MB |
+----------------+-----------------+
| 624.00MB | 264.89MB |
+----------------+-----------------+
第二个test_datetime
mysql> select concat(round(sum(data_length/1024/1024),2),'MB') as data_length_MB,
-> concat(round(sum(index_length/1024/1024),2),'MB') as index_length_MB
-> from tables where
-> table_schema='test'
-> and table_name = 'test_datetime';
+----------------+-----------------+
| data_length_MB | index_length_MB |
+----------------+-----------------+
| 744.00MB | 410.00MB |
+----------------+-----------------+
进行查询测试
每隔20000进行1000次查询,取平均值和最大值和最小值
int_time
<?php
require 'pdo.php'; $pdo = MyPDO::getInstance('127.0.0.1', 'root', '', 'test', 'utf-8'); for ($i = 0; $i < 1000; $i++) {
$offset = $i * (20000);
$start_time = time();
$res = $pdo->query("SELECT * from test_inttime ORDER BY int_time desc limit " . $offset . " ,10 "); if (!$res) {
write_logs('int_time ' . $i . ' fail ', 'error_int_time');
continue;
} $end_time = time(); $offset_time = $end_time - $start_time;
write_logs($offset_time, 'int_time'); } /**
* 日志记录
* @param $log_name string 传入的log名称,默认为date日期
* @param $word string 传入错误信息拼接的字符串
*/
function write_logs($word, $log_name = '')
{
$time = date('Y-m-d H:i:s', time());
$date = date('Y-m-d', time()); if (!$log_name) {
$log_name = $date;
} $filename = './' . $log_name . '.log';
$fh = fopen($filename, "a+");
fwrite($fh, $time . " " . $word . "\r\n");
fclose($fh);
}
date_time
<?php
require 'pdo.php'; $pdo = MyPDO::getInstance('127.0.0.1', 'root', '', 'test', 'utf-8'); for ($i = 0; $i < 1000; $i++) {
$offset = $i * (20000);
$start_time = time();
$res = $pdo->query("SELECT * from test_datetime ORDER BY date_time desc limit " . $offset . " ,10 "); if (!$res) {
write_logs('date_time ' . $i . ' fail ', 'error_date_time');
continue;
} $end_time = time();
$offset_time = $end_time - $start_time;
write_logs($offset_time, 'date_time'); } /**
* 日志记录
* @param $log_name string 传入的log名称,默认为date日期
* @param $word string 传入错误信息拼接的字符串
*/
function write_logs($word, $log_name = '')
{
$time = date('Y-m-d H:i:s', time());
$date = date('Y-m-d', time()); if (!$log_name) {
$log_name = $date;
} $filename = './' . $log_name . '.log';
$fh = fopen($filename, "a+");
fwrite($fh, $time . " " . $word . "\r\n");
fclose($fh);
}
用时datetime大于inttime
经过比较,得到以下结果
int_time | date_time | |
插入时间 | 141s | 176s |
存储空间 |
624.00MB(数据) +264.89MB(索引) |
744.00MB(数据)+410.00MB(索引) |
查询时间(1000次)(单位:最小值/最大值/平均值) | 0s /16s / 6.2315s | 0s /17s/ 6.5251s |
int_time 好于 date_time
mysql插入二千万的测试数据进行测试,int和datetime比较的更多相关文章
- MySQL制作具有千万条测试数据的测试库
有时候需要制造一些测试的数据,以mysql官方给的测试库为基础,插入十万,百万或者千万条数据.利用一些函数和存储过程来完成. 官方给的测试库地址:https://github.com/datachar ...
- 记录一次mysql导入千万条测试数据过慢的问题!
数据库在没有做任何优化的情况下,使用存储过程,插入1千万条测试数据. CREATE PROCEDURE addmaxdata(IN n int) BEGIN DECLARE i INT DEFAULT ...
- MYSQL一次千万级连表查询优化(二) 作为一的讲解思路
这里摘自网上,仅供自己学习之用,再次鸣谢 概述: 交代一下背景,这算是一次项目经验吧,属于公司一个已上线平台的功能,这算是离职人员挖下的坑,随着数据越来越多,原本的SQL查询变得越来越慢,用户体验特别 ...
- [MyBatis]五分钟向MySql数据库插入一千万条数据 批量插入 用时5分左右
本例代码下载:https://files.cnblogs.com/files/xiandedanteng/InsertMillionComparison20191012.rar 我的数据库环境是mys ...
- MySQL优化二(连接优化和缓存优化)
body { font-family: Helvetica, arial, sans-serif; font-size: 14px; line-height: 1.6; padding-top: 10 ...
- mysql生成百万级数量测试数据
今天因为项目需要,想测试一下读取百万级数量数据的速度如何,无奈数据库没有现成符合要求的数据,网上百度一番有很都不错的文章,但是需要涉及到一些存储过程和用php代码什么的,虽说可以实现,但是感觉另外再弄 ...
- mysql插入数据后返回自增ID的方法,last_insert_id(),selectkey
mysql插入数据后返回自增ID的方法 mysql和oracle插入的时候有一个很大的区别是,oracle支持序列做id,mysql本身有一个列可以做自增长字段,mysql在插入一条数据后,如何能获得 ...
- mysql优化二之锁机制
mysql优化二之锁机制 mysql提供了锁机制和MVCC机制来保证并发操作的安全性,这里主要讨论锁机制, MVCC见下篇文章 mysql的锁按照锁粒度可分为行锁与表锁,按照操作类型划分可读锁和写锁 ...
- mysql 创建存储过程 创建1000w测试数据表
存储过程:The stored procedure 结构 CREATE [DEFINER = { user | CURRENT_USER }] PROCEDURE stored_procedure_n ...
随机推荐
- poj 1182用向量的思考模式
不会写果断看答案http://cavenkaka.iteye.com/blog/1489588 #include<stdio.h> #include<string.h> #de ...
- Ubuntu12.04之SSH
Ubuntu 12.04 关于SSH的知识 (1)安装完ubuntu系统12.04. (2)查看网络配置,输入命令ip addr后,显示有IP地址. (3)使用SSH终端工具Xshell连接系统,发现 ...
- 原 linux添加虚拟ip(手动vip和keepalived方式)
https://blog.csdn.net/dear_snowing/article/details/68066544 https://www.cnblogs.com/liuyisai/p/59906 ...
- bzoj2212 Tree Rotations
被BZOJ坑了一下午,原以为是我程序有问题一直WA,结果是我数组小了...为啥不给我RE!!! 线段树合并,对于逆序对而言,只能通过交换左右子树来达到,那么我们就可以想到对于一个结点而言,我们当然要取 ...
- Java循环中删除一个列表元素
本文主要想讲述一下我对之前看到一篇文章的说法.假设跟你的想法有出入,欢迎留言.一起讨论. #3. 在循环中删除一个列表元素 考虑以下的代码.迭代过程中删除元素: ArrayList<String ...
- 【树形dp小练】HDU1520 HDU2196 HDU1561 HDU3534
[树形dp]就是在树上做的一些dp之类的递推,由于一般须要递归处理.因此平庸情况的处理可能须要理清思路.昨晚開始切了4题,作为入门训练.题目都很easy.可是似乎做起来都还口以- hdu1520 An ...
- C#字符串数组排序 C#排序算法大全 C#字符串比较方法 一个.NET通用JSON解析/构建类的实现(c#) C#处理Json文件 asp.net使用Jquery+iframe传值问题
C#字符串数组排序 //排序只带字符的数组,不带数字的 private string[] aa ={ "a ", "c ", "b & ...
- 水晶报表 Crystal Report 调用存储过程时出错 找不到表 ,解决方法。
用 CrystalReportViewer1 控件在asp.net的网页上显示报表,假设做报表时调用数据表数据的方式调用是能够成功的.但报表是用存储过程获取数据方式会出现下面错误: 找不到表'RptO ...
- Wget下载多个链接
需要wget下载多个文件链接时,可以采用如下方法: 1. 将链接存入文件url.list中: 2. wget -bc -i url.list -o [log_file] -P [target_dir] ...
- 用block变量来对字符数组对象进行排序
<span style="font-size:18px;">降序排序</span> <span style="font-size:18px; ...