产生测试文件

测试文件部分内容如下:

产生测试文件代码:
  1. package foo;
  2. import java.io.File;
  3. import java.io.FileWriter;
  4. import java.io.IOException;
  5. import java.text.SimpleDateFormat;
  6. import java.util.Date;
  7. public class WriteIBdata {
  8. public static void main(String[] args) {
  9. String file = "C:\\linliu\\ib666";
  10. writeFile(file);
  11. }
  12. public static void writeFile(String fileName) {
  13. try {
  14. FileWriter fw = new FileWriter(new File(fileName));
  15. for (int i = 0; i < 10000 * 1500; i++) {
  16. SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
  17. fw.write("'");
  18. fw.write(sdf.format(new Date()));
  19. fw.write("'");
  20. fw.write(",");
  21. fw.write("'");
  22. fw.write(String.valueOf(System.nanoTime()));
  23. fw.write("'");
  24. fw.write(",");
  25. fw.write("'");
  26. fw.write("aaaaaaaaaaaaaaaaaaaa");
  27. fw.write("'");
  28. fw.write("\n");
  29. if (i % 50000 == 0) {
  30. System.out.println("Finish:" + i/50000);
  31. }
  32. }
  33. fw.close();
  34. } catch (IOException e1) {
  35. }
  36. }
  37. }


测试Mysql数据库

创建数据表

  1. CREATE TABLE `loadtable` (
  2. `insertTstamp` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP,
  3. `logType` varchar(64) NOT NULL,
  4. `content` varchar(64) NOT NULL,
  5. PRIMARY KEY (`insertTstamp`,`logType`)
  6. ) ENGINE=InnoDB DEFAULT CHARSET=utf8;



导入数据

  1. load data infile '/home/testFile916M' into table loadtable fields terminated by ',' enclosed by '\'';


查看入库情况:


另外的入库数据:



测试Infobright数据库

创建数据表

  1. CREATE TABLE `loadtable` (
  2. `time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP,
  3. `type` varchar(64) NOT NULL,
  4. `content` varchar(64) NOT NULL
  5. ) ENGINE=BRIGHTHOUSE DEFAULT CHARSET=utf8;

导入数据

  1. load data infile '/home/ib916M' into table loadtable fields terminated by ',' enclosed by '\'';


查看入库结果:


另外的入库数据:

总结

  • mysql入库:1500万条数据,约900M,入库时间大约在5min左右;
  • Infobright入库:1500万条数据,约900M,入库时间大约在2~3min左右;




【mysql】Infobright和mysql数据入库性能测试的更多相关文章

  1. excel数据 入库mysql 和 mysql数据 导入excel文件

    1.excel数据入库mysql 首先准备excel文件, 标红的地方需要留意,一个是字段名所在行,一个表名对应页: 然后私用mysql工具 navicat, 选择数据库,然后导入文件, 选中相应ex ...

  2. 【Mysql】修改mysql的字符集和默认存储引擎,解决数据入库乱码问题

    背景 在使用Python + Testlink做自动化的过程中,遇到了数据入库出现乱码的情况,后来通过修改字符集的方式解决了这个问题.下面的内容主要来自于一篇相关博文,博主做了细微的调整, 原文链接: ...

  3. 基于内存,redis,mysql的高速游戏数据服务器设计架构

    转载请注明出处,欢迎大家批评指正 1.数据服务器详细设计 数据服务器在设计上采用三个层次的数据同步,实现玩家数据的高速获取和修改. 数据层次上分为:内存数据,redis数据,mysql数据 设计目的: ...

  4. Mysql高效插入/更新数据

    从tushare抓取到的财务数据,最开始只是想存下来,用的办法想简单点,是:插入--报错-update 但发现这个方法太蠢,异常会导致大量无效连接,改为: for idx,row in d2.iter ...

  5. 基于内存,redis,mysql的高速游戏数据服务器设计架构 ZT

    zt  http://www.cnblogs.com/captainl1993/p/4788236.html 1.数据服务器详细设计 数据服务器在设计上采用三个层次的数据同步,实现玩家数据的高速获取和 ...

  6. [MySQL 5.6] MySQL 5.6 group commit 性能测试及内部实现流程

    [MySQL 5.6] MySQL 5.6 group commit 性能测试及内部实现流程 http://mysqllover.com/?p=581 尽管Mariadb以及Facebook在long ...

  7. MySQL Infobright 数据仓库快速安装笔记[转]

    [文章作者:张宴 本文版本:v1.1 最后修改:2010.05.18 转载请注明原文链接:http://blog.zyan.cc/infobright/] Infobright是一个与MySQL集成的 ...

  8. OpenLayers添加点【php请求MySQL数据库返回GeoJSON数据】

    php请求MySQL数据库返回GeoJSON数据的实现方法请参见: http://www.cnblogs.com/marost/p/6234514.html OpenLayers[v3.19.1-di ...

  9. MySQL的数据库,数据表,数据的操作

    数据库简介 概念 什么是数据库?简单来说,数据库就是存储数据的"仓库", 但是,光有数据还不行,还要管理数据的工具,我们称之为数据库管理系统! 数据库系统 = 数据库管理系统 + ...

随机推荐

  1. 写简单游戏,学编程语言-python篇

    好吧, 首先得承认这个题目写的夸大了,人才菜鸟一枚,游戏相关编程也是知道点概念.但是本人对游戏开发比较感兴趣,相信大多数喜欢玩玩游戏,因为它给人确实带来很多乐趣,而编程语言的学习最少对于我来说比较乏味 ...

  2. 学习Core 本机开发调试 (环境)

    安装  https://www.microsoft.com/net/download 本机开发调试 需要下载安装这3个,如果没装 windows(Server Hosting)可能会 出现502.5报 ...

  3. jieba中文分词(python)

    问题小结 1.安装 需要用到python,根据python2.7选择适当的安装包.先下载http://pypi.python.org/pypi/jieba/ ,解压后运行python setup.py ...

  4. linux-命令-ls

    一.命令介绍: ls命令是linux常用的命令之一.ls用来打印当前目录的文件清单或指定目录的文件清单,也可以查看到文件的基本权限和隐藏文件. 二.命令格式: ls [OPTION]... [FILE ...

  5. 【已解决】关于SQL2008 “不允许保存更改。您所做的更改要求删除并重新创建以下表。您对无法重新创建的标进行了更改或者启用了‘阻止保存要求重新创建表的更改’” 解决方案

    近日在使用SQL Server 2008的过程中,修改已创建完成的表结构时,却一直提示弹出如下提示: 不允许保存更改.您所做的更改要求删除并重新创建以下表.您对无法重新创建的标进行了更改或者启用了“阻 ...

  6. 黑马程序员:Java编程_7K面试题之银行业务调度系统

    =========== ASP.Net+Android+IOS开发..Net培训.期待与您交流!=========== 模拟实现银行业务调度系统逻辑,具体需求如下: 银行内有6个业务窗口,1 - 4号 ...

  7. springmvc对同名参数处理-我们到底能走多远系列(44)

    springmvc对同名参数处理 扯淡: 中断发博客几个月,其实蛮不爽的,可能最近太忙太劳累了些,很多总结也没时间写,今天刚好遇到个小问题,就阅读下源码找找乐.因为考虑到网上大多是提供解决问题的方案, ...

  8. log4g

    org.apache.log4j.Logger 详解 1. 概述 1.1. 背景 在应用程序中添加日志记录总的来说基于三个目的 :监视代码中变量的变化情况,周期性的记录到文件中供其他应用进行统计分析工 ...

  9. Hbase的flush机制

    Hbase Flush机制最小Flush单元为HRegion,尽量减少CF数量以减少HStrore数量从而减少MemStore的数量,最终减少每次Flush的开销.1.Region级别触发条件:   ...

  10. uva1262

    /* 解码 _________________________________________________________________________________ #include < ...