产生测试文件

测试文件部分内容如下:

产生测试文件代码:
    1. package foo;
    1. import java.io.File;
    1. import java.io.FileWriter;
    1. import java.io.IOException;
    1. import java.text.SimpleDateFormat;
    1. import java.util.Date;
    1. public class WriteIBdata {
    1. public static void main(String[] args) {
    1. String file = "C:\\linliu\\ib666";
    1. writeFile(file);
    1. }
    1. public static void writeFile(String fileName) {
    1. try {
    1. FileWriter fw = new FileWriter(new File(fileName));
    1. for (int i = 0; i < 10000 * 1500; i++) {
    1. SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
    1. fw.write("'");
    1. fw.write(sdf.format(new Date()));
    1. fw.write("'");
    1. fw.write(",");
    1. fw.write("'");
    1. fw.write(String.valueOf(System.nanoTime()));
    1. fw.write("'");
    1. fw.write(",");
    1. fw.write("'");
    1. fw.write("aaaaaaaaaaaaaaaaaaaa");
    1. fw.write("'");
    1. fw.write("\n");
    1. if (i % 50000 == 0) {
    1. System.out.println("Finish:" + i/50000);
    1. }
    1. }
    1. fw.close();
    1. } catch (IOException e1) {
    1. }
    1. }
    1. }


测试Mysql数据库

创建数据表

    1. CREATE TABLE `loadtable` (
    1. `insertTstamp` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP,
    1. `logType` varchar(64) NOT NULL,
    1. `content` varchar(64) NOT NULL,
    1. PRIMARY KEY (`insertTstamp`,`logType`)
    1. ) ENGINE=InnoDB DEFAULT CHARSET=utf8;



导入数据

    1. load data infile '/home/testFile916M' into table loadtable fields terminated by ',' enclosed by '\'';


查看入库情况:


另外的入库数据:



测试Infobright数据库

创建数据表

    1. CREATE TABLE `loadtable` (
    1. `time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP,
    1. `type` varchar(64) NOT NULL,
    1. `content` varchar(64) NOT NULL
    1. ) ENGINE=BRIGHTHOUSE DEFAULT CHARSET=utf8;

导入数据

    1. load data infile '/home/ib916M' into table loadtable fields terminated by ',' enclosed by '\'';


查看入库结果:


另外的入库数据:

总结

  • mysql入库:1500万条数据,约900M,入库时间大约在5min左右;
  • Infobright入库:1500万条数据,约900M,入库时间大约在2~3min左右;




【mysql】Infobright和mysql数据入库性能测试的更多相关文章

  1. excel数据 入库mysql 和 mysql数据 导入excel文件

    1.excel数据入库mysql 首先准备excel文件, 标红的地方需要留意,一个是字段名所在行,一个表名对应页: 然后私用mysql工具 navicat, 选择数据库,然后导入文件, 选中相应ex ...

  2. 【Mysql】修改mysql的字符集和默认存储引擎,解决数据入库乱码问题

    背景 在使用Python + Testlink做自动化的过程中,遇到了数据入库出现乱码的情况,后来通过修改字符集的方式解决了这个问题.下面的内容主要来自于一篇相关博文,博主做了细微的调整, 原文链接: ...

  3. 基于内存,redis,mysql的高速游戏数据服务器设计架构

    转载请注明出处,欢迎大家批评指正 1.数据服务器详细设计 数据服务器在设计上采用三个层次的数据同步,实现玩家数据的高速获取和修改. 数据层次上分为:内存数据,redis数据,mysql数据 设计目的: ...

  4. Mysql高效插入/更新数据

    从tushare抓取到的财务数据,最开始只是想存下来,用的办法想简单点,是:插入--报错-update 但发现这个方法太蠢,异常会导致大量无效连接,改为: for idx,row in d2.iter ...

  5. 基于内存,redis,mysql的高速游戏数据服务器设计架构 ZT

    zt  http://www.cnblogs.com/captainl1993/p/4788236.html 1.数据服务器详细设计 数据服务器在设计上采用三个层次的数据同步,实现玩家数据的高速获取和 ...

  6. [MySQL 5.6] MySQL 5.6 group commit 性能测试及内部实现流程

    [MySQL 5.6] MySQL 5.6 group commit 性能测试及内部实现流程 http://mysqllover.com/?p=581 尽管Mariadb以及Facebook在long ...

  7. MySQL Infobright 数据仓库快速安装笔记[转]

    [文章作者:张宴 本文版本:v1.1 最后修改:2010.05.18 转载请注明原文链接:http://blog.zyan.cc/infobright/] Infobright是一个与MySQL集成的 ...

  8. OpenLayers添加点【php请求MySQL数据库返回GeoJSON数据】

    php请求MySQL数据库返回GeoJSON数据的实现方法请参见: http://www.cnblogs.com/marost/p/6234514.html OpenLayers[v3.19.1-di ...

  9. MySQL的数据库,数据表,数据的操作

    数据库简介 概念 什么是数据库?简单来说,数据库就是存储数据的"仓库", 但是,光有数据还不行,还要管理数据的工具,我们称之为数据库管理系统! 数据库系统 = 数据库管理系统 + ...

随机推荐

  1. 本地测试AJAX请求

    要在本地测试AJAX,首先是环境的搭建,因为XHR对象的open方法中参数url是指文件在服务器上的文件.下面以WampServer为例. 1. 下载wamp的安装包,下载地址为:http://221 ...

  2. NSOperation基本概念

    NSOperation的作用 配合使用NSOperation和NSOperationQueue也能实现多线程编程   NSOperation和NSOperationQueue实现多线程的具体步骤 先将 ...

  3. 深入理解css系列:css定位

    一.概述 1.默认文档流定位方式 (1).HTML默认文档以流模式定位,即内容元素按照先后顺序依次上下定位: (2).HTML标签元素总体分为块状元素.内联元素.内联块状元素,可通过该标签对应的DOM ...

  4. oracle xmltype导入并解析Excel数据 (四)特别说明

    1.Excel导出,此处没有给出 2.错误原因在中间表,T_EXCEL_IMPORT_GENERATION,其中errormsg不为空的数据 3,中间表入库过程: 需要自己实现,为一个存储过程,存储过 ...

  5. failed to push some refs to 'git@github.com:***.git' hint: Updates were rejected b

    使用git push origin master的时候出现一下错误: 解决办法: git push -f origin master 如下:

  6. 购物车数字加减按钮HTML+CSS+JS(有需要嫌麻烦的小伙伴拿走不谢)

    之前在写详情页的时候,如下图 因为自己嫌麻烦,就去看其他网站是怎么写的,想直接拿来用,后来看来看去觉得写得很麻烦,于是最后还是决定自己写,附上HTML+CSS+JS代码,一条龙一站式贴心服务2333 ...

  7. Android SDK Manager中不显示未下载的api解决方案

    Android SDK 在线更新镜像服务器资源用户评价:  / 14 Android SDK 在线更新镜像服务器资源:大连东软信息学院镜像服务器地址:http://mirrors.neusoft.ed ...

  8. Grunt入门教程

    引入:grunt是一套前端自动化工具,一个基于nodeJs的命令行工具,一般用于: ① 压缩文件 ② 合并文件 ③ 简单语法检查 环境:grunt是基于nodejs运行的,所以需要有nodejs,在N ...

  9. go get安装第三方包的前提条件和步骤

    首先,你要找到第三方类包所在的网址, 例如:  http://github.com/go-sql-driver/mysql分为命令行自动安装 和 手动下载 然后安装. ( 欢迎加入go语言群: 218 ...

  10. your local repository contains non-ascii

    安装CCS时候遇到  your local repository contains non-ascii 问题. 解决方法:  不要在中文目录下安装.