Java代码批量插入数据到MySQL
1、批量插入
import java.io.BufferedReader;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.FileReader;
import java.io.FileWriter;
import java.io.IOException;
import java.util.Random; public class SQLGenApplication {
public static void main(String[] args) throws IOException { StringBuilder insertBuf = new StringBuilder("INSERT INTO `table1` (`id`, `uid`, `a`, `b`) VALUES");
String values = "('%s', '%s', '%s.00', '%s.00'),";
BufferedReader fis = new BufferedReader(new FileReader("fileParam.txt"));
String line = null;
Random r = new Random(); int cnt = 0;
int batch = 0;
int perCnt = 2500;
while((line = fis.readLine()) != null) { long id = Long.parseLong(line.substring(8)); int i = r.nextInt(100);
while(i <= 0 ) {
i = r.nextInt(100);
}
int i2 = r.nextInt(100);
while(i2 < i ) {
i2 = r.nextInt(100);
}
insertBuf.append(String.format(values, id, line, i, i2));
if(cnt < perCnt) {
cnt++; } else { insertBuf.deleteCharAt(insertBuf.length()-1);
insertBuf.append(";");
FileWriter fw = new FileWriter("fileSQL" + batch + ".sql");
fw.write(insertBuf.toString());
fw.flush();
fw.close();
cnt = 0;
batch++; insertBuf = new StringBuilder("INSERT INTO `table1` (`id`, `uid`, `a`, `b`) VALUES");
}
}
if(cnt != 0 && cnt < perCnt) { insertBuf.deleteCharAt(insertBuf.length()-1);
insertBuf.append(";");
FileWriter fw = new FileWriter("fileSQL" + batch + ".sql");
fw.write(insertBuf.toString());
fw.flush();
fw.close();
cnt = 0; } fis.close();
}
}
2、存储过程插入
use `数据库名称`;
DELIMITER $$
drop procedure if exists data_100w_gen$$
create procedure data_100w_gen(IN startIdx int, IN endIdx int, IN prefix varchar(1000), IN surfix varchar(1000), out ex_sql_out longtext)
begin
declare ex_sql longtext default prefix;
-- 超时设置
set global delayed_insert_timeout=20000;
set global connect_timeout = 20000;
set global net_read_timeout = 20000;
set global net_write_timeout = 20000;
while startIdx<=endIdx-1 DO
set ex_sql = concat(ex_sql, "(", CAST(startIdx AS CHAR), surfix, ",");
set startIdx=startIdx+1;
end while;
set ex_sql_out = concat(ex_sql, "(", CAST(endIdx AS CHAR), surfix, ";");
-- select ex_sql_out from dual;
end$$ drop procedure if exists data_batch_gen$$
create procedure data_batch_gen(IN startIdx int, IN endIdx int, IN prefix varchar(1000), IN surfix varchar(1000))
begin
declare batchSize int default 25000;
declare batchSize_1 int default batchSize-1;
declare endIdxGen int default 0;
set @ex_sql_out = "";
if(endIdx < batchSize) then
call data_100w_gen(startIdx, endIdx, prefix, surfix, @ex_sql_out);
PREPARE data_gen_prep FROM @ex_sql_out;
EXECUTE data_gen_prep;
DEALLOCATE PREPARE data_gen_prep;
else
while startIdx<=endIdx DO -- 循环开始
set endIdxGen = startIdx + batchSize_1;
if(endIdxGen > endIdx) then
set endIdxGen = endIdx;
end if;
call data_100w_gen(startIdx, endIdxGen, prefix, surfix, @ex_sql_out);
PREPARE data_gen_prep FROM @ex_sql_out;
EXECUTE data_gen_prep;
DEALLOCATE PREPARE data_gen_prep;
set startIdx = endIdxGen + 1;
select endIdxGen from dual; -- 打印每次生成数量
end while; -- 循环结束
end if;
-- select @ex_sql_out from dual;
end$$
delimiter ;
转自:https://onefire.blog.csdn.net/article/details/120015121
Java代码批量插入数据到MySQL的更多相关文章
- Java JDBCI批量插入数据
智能插入:将整批分批,每一千条提交一次,sql注入(安全,使用软解析,提高效率) sql注入攻击:简单例子 select * from table where name='"+un+&quo ...
- MySQL批量插入数据的几种方法
最近公司要求测试数据库的性能,就上网查了一些批量插入数据的代码,发现有好几种不同的用法,插入同样数据的耗时也有区别 别的先不说,先上一段代码与君共享 方法一: package com.bigdata; ...
- Elasticsearch5.x批量插入数据(Java)
先上官方示例代码:官方示例 Java代码: // 批量插入数据 public void InsertBatch() { try { // 设置集群名称 Settings settings = Sett ...
- mybatis foreach批量插入数据:Oracle与MySQL区别
mybatis foreach批量插入数据:Oracle与MySQL不同点: 主要不同点在于foreach标签内separator属性的设置问题: separator设置为","分 ...
- 向mysql中批量插入数据的性能分析
MYSQL批量插入数据库实现语句性能分析 假定我们的表结构如下 代码如下 CREATE TABLE example (example_id INT NOT NULL,name VARCHAR( 5 ...
- Java使用iBatis批量插入数据到Oracle数据库
Java使用iBatis批量插入数据到Oracle数据库 因为我们的数据跨库(mysql,oracle),单独取数据的话需要遍历好多遍,所以就想着先从mysql数据库中取出来的数据然后在oracle数 ...
- Java 批量插入数据(Oracle)
//批量添加20000条数据用时8秒. try { String url = "jdbc:oracle:thin:@IP:1521:orcl"; // orcl为数据库的SI ...
- MySQL高级知识(十)——批量插入数据脚本
前言:使用脚本进行大数据量的批量插入,对特定情况下测试数据集的建立非常有用. 0.准备 #1.创建tb_dept_bigdata(部门表). create table tb_dept_bigdata( ...
- MySQL:JDBC批量插入数据的效率
平时使用mysql插入.查询数据都没有注意过效率,今天在for循环中使用JDBC插入1000条数据居然等待了一会儿 就来探索一下JDBC的批量插入语句对效率的提高 首先进行建表 create tabl ...
随机推荐
- Windows 数据盘自动分区脚本
在CMD命令文本下执行,即可: diskpart //1.进入diskpart模式 list disk //2.查询磁盘 select disk 1 //3.选择磁盘 create partition ...
- vue+uniapp实现照录像,相册选择 | 图片裁剪压缩,视频压缩
一.插件简介 Zhimi-Camera(智密 - 智密 - 相机图册插件-视频/图片选择器)是一个支持拍照,录像,相册选择功能,自带图片裁剪,图片压缩,视频压缩,选择数量限制的uniapp原生插件.平 ...
- 【JAVA今法修真】 第六章 天道无情,锁定乾坤
您好,我是南橘,万法仙门的掌门,刚刚从九州世界穿越到地球,因为时空乱流的影响导致我的法力全失,现在不得不通过这个平台向广大修真天才们借去力量.你们的每一个点赞,每一个关注都是让我回到九州世界的助力,兄 ...
- PowerDotNet平台化软件架构设计与实现系列(09):消息平台
消息队列已经几乎成为大中型高吞吐应用的标配,继续根据我们一贯的节约代码的风格,为了复用的目标,抽象出消息队列平台,进行消息队列管理. 环境准备 1.(必须).Net Framework4.5+ 2.( ...
- 平衡二叉树(c++实现)续
!!版权声明:本文为博主原创文章,版权归原文作者和博客园共有,谢绝任何形式的 转载!! 作者:mohist --- 欢迎指正--- 题外话:上一篇关于平衡二叉树文章中,我都没说自己是怎么理解的.别人终 ...
- nim_duilib之msgbox用法(23)
概述 本文将介绍 msgbox 的用法 更多用法,请参考 源码 改进了原有的xml样式 一个样式 xml结构 整体垂直布局 xml源码 demo源码下的msg/msg.xml文件内容 改为如下 注意: ...
- c++设计模式概述之组合(composite)
代码写的不够规范,目的是为了缩短代码篇幅, 实际中请不要这样做 1.概述 这里的组合,是将 部分组合到整体.所以, 用到的对象有: 部分.整体. 这里的例子,生活中可以类比厨房的筷筒: 里面放了筷子, ...
- 【机器学*】k-*邻算法(kNN) 学*笔记
[机器学*]k-*邻算法(kNN) 学*笔记 标签(空格分隔): 机器学* kNN简介 kNN算法是做分类问题的.思想如下: KNN算法的思想总结一下:就是在训练集中数据和标签已知的情况下,输入测试数 ...
- C1. 组队活动 Small(BNUOJ)
C1. 组队活动 Small Time Limit: 1000ms Memory Limit: 131072KB 64-bit integer IO format: %lld Java cl ...
- BD String
BD String Accepts: 388 Submissions: 1164 Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/ ...