现在对数据库(以MySql为例)的操作大多会封装成一个类,如下例所示:

 namespace TESTDATABASE
{
public enum DBStatusCode { ALL_OK, MySqlExcuteErr }
public class TestDB
{
private string hostIp;
private string dbName;
private string dbUser;
private string dbPasswd;
private MySqlConnection dbConn; public TestDB()
{
this.initConn();
}
~TestDB()
{
dbConn.Dispose();
}
void initConn()
{
dbName = "testDB";
hostIp = "127.0.0.1";
dbUser = "root";
dbPasswd = "root";
string connString; // Connection string。数据库连接字符串大全:http://www.connectionstrings.com/
connString = "SERVER=" + hostIp + ";" + "DATABASE=" +
dbName + ";" + "UID=" + dbUser + ";" + "PASSWORD=" + dbPasswd + ";";
dbConn = new MySqlConnection(connString);
}
// Open connection
public void openConn()
{
if (dbConn.State == ConnectionState.Closed)
dbConn.Open();
}
// Close connection
public void closeConn()
{
if (dbConn.State == ConnectionState.Open)
dbConn.Dispose();
}
// Insert
public DBStatusCode insertTest(ItermList itemList)
{
DBStatusCode flag = DBStatusCode.ALL_OK;
openConn();
string cmdText = "insert into testTable (c1, c2, c3, c4)"
+ "VALUES (@c1, @c2, @c3, @c4)";
MySqlCommand cmd = new MySqlCommand(cmdText, dbConn);
try
{
foreach (Item item in itemList)
{
cmd.Parameters.Clear(); // it is needed
cmd.Parameters.AddWithValue("@c1", item.c1);
cmd.Parameters.AddWithValue("@c2", item.c2);
cmd.Parameters.AddWithValue("@c3", item.c3);
cmd.Parameters.AddWithValue("@c4", item.c4);
cmd.ExecuteNonQuery();
}
}
catch (Exception ex)
{
flag = DBStatusCode.MySqlExcuteErr;
}
finally
{
cmd.Dispose();
}
closeConn();
return flag;
}
}
}

  上边例子涉及到对MySql数据库的数据导入。可以看出(56~60),每循环一次,就会对数据库插入一次。当数据量比较小时,可能还看不出软件的卡顿现象;当数据量很大时,整个软件可能就会卡住几分钟了。所以,我们最好是当所有数据都准备好时,再一次性向数据库定入,以减少插入次数,以最终减少数据导入时间。而且,我们还想,在数据库插入失败的情况下还能够回滚。下边是改进的函数:

     // Insert
public DBStatusCode insertTest(ItermList itemList)
{
DBStatusCode flag = DBStatusCode.ALL_OK;
openConn();
string cmdText = "insert into testTable (c1, c2, c3, c4)"
+ "VALUES (@c1, @c2, @c3, @c4)";
MySqlCommand cmd = new MySqlCommand(cmdText, dbConn);
MySqlTransaction tx = this.dbConn.BeginTransaction();
cmd.Transaction = tx;
try
{
foreach (Item item in itemList)
{
cmd.Parameters.Clear(); // it is needed
cmd.Parameters.AddWithValue("@c1", item.c1);
cmd.Parameters.AddWithValue("@c2", item.c2);
cmd.Parameters.AddWithValue("@c3", item.c3);
cmd.Parameters.AddWithValue("@c4", item.c4);
cmd.ExecuteNonQuery();
}
tx.Commit();
}
catch (Exception ex)
{
flag = DBStatusCode.MySqlExcuteErr;
tx.Rollback();
}
finally
{
cmd.Dispose();
}
closeConn();
return flag;
}

  这里的改进可以说还只是初步的。当数据特别大时,这种方法就会出问题了。因为计算机要一次性把非常多的数据插入到数据库,有可能因为内存不足等原因而导致最终导入时间过长等。所以,在有一些情况下,我们还得分批提交(tx.Commit()),例如每1000个数据提交一次,这样就能够大大减轻计算机和数据库负担了。

  关于MySql事务介绍资料:

  MySQL 事务

  说说MySQL中的事务

  关于批量插入数据,可参考的资源还有:

  MySQL大量数据插入各种方法性能分析与比较

  在C#中完成海量数据的批量插入和更新

  [C#][SQL SERVER] 提高 Insert 效能

  .NET 批量插入数据,DataSet, SqlDataAdapter.Update

  datatable 使用SqlDataAdapter.Update批量插入更新数据

"C#":MySql批量数量导入的更多相关文章

  1. mysql批量数据导入探究

    最近工作碰到一个问题,如何将大量数据(100MB+)导入到远程的mysql server上. 尝试1: Statement执行executeBatch的方法.每次导入1000条记录.时间为12s/10 ...

  2. MySQL批量导入Excel数据

    MySQL批量导入Excel数据 1.确定需要导入数据的表名称以及字段,然后在新建的Excel表中,按照表字段正确排序:(注:(Excel文件的名称最好和数据库的名称一致,sheet表的名字最好和表名 ...

  3. MySQL批量导入Excel、txt数据

    MySQL批量导入Excel.txt数据 我想Excel是当今最大众化的批量数据管理软件了吧,所以我们会经常涉及到将Excel中数据导入到MySQL中的工作.网上有一些关于直接将Excel导入MySQ ...

  4. 文件批量加密重命名--python脚本AND mysql命令行导入数据库

    在考试中学生交上来的报告,需要进行一下文件名加密,这样阅卷老师就不知道是谁的报告了 在百度帮助下,完成了加密和解密脚本, 加密 #!/usr/bin/python # -*- coding: utf- ...

  5. 【转】MySQL批量SQL插入各种性能优化

    原文:http://mp.weixin.qq.com/s?__biz=MzA5MzY4NTQwMA==&mid=403182899&idx=1&sn=74edf28b0bd29 ...

  6. 高并发简单解决方案————redis队列缓存+mysql 批量入库(ThinkPhP)

    问题分析 问题一:要求日志最好入库:但是,直接入库mysql确实扛不住,批量入库没有问题,done.[批量入库和直接入库性能差异] 问题二:批量入库就需要有高并发的消息队列,决定采用redis lis ...

  7. 转载:【高并发简单解决方案 | 靠谱崔小拽 】redis队列缓存 + mysql 批量入库 + php离线整合

    需求背景:有个调用统计日志存储和统计需求,要求存储到mysql中:存储数据高峰能达到日均千万,瓶颈在于直接入库并发太高,可能会把mysql干垮. 问题分析 思考:应用网站架构的衍化过程中,应用最新的框 ...

  8. 完美转换MySQL的字符集 Mysql 数据的导入导出,Mysql 4.1导入到4.0

    MySQL从4.1版本开始才提出字符集的概念,所以对于MySQL4.0及其以下的版本,他们的字符集都是Latin1的,所以有时候需要对mysql的字符集进行一下转换,MySQL版本的升级.降级,特别是 ...

  9. redis 队列缓存 + mysql 批量入库 + php 离线整合

    问题分析 思考:应用网站架构的衍化过程中,应用最新的框架和工具技术固然是最优选择:但是,如果能在现有的框架的基础上提出简单可依赖的解决方案,未尝不是一种提升自我的尝试. 解决: 问题一:要求日志最好入 ...

随机推荐

  1. Web开发学习之路--Springmvc+Hibernate之初体验

    本来想继续学习android的,可是用到了android和服务器交互,需要实现个login的功能,苦于没有这么个环境,那就只能自己来搭建了.既然已经基本上可以玩web了,那么接下来使用web开源的框架 ...

  2. python在windows下使用setuptools安装egg文件

    最近和同学做个东西,需要安装python的第三方函数库,看了网上的介绍,很是麻烦,这是我实践总结出来的,希望对大家有用. 以安装第三方库networkx 为例,其余函数库都是一个套路,看完就会滴. 1 ...

  3. android横竖屏切换activity生命周期变化

    1.新建一个Activity,并把各个生命周期打印出来 2.运行Activity,得到如下信息 onCreate--> onStart--> onResume--> 3.按crtl+ ...

  4. TortoiseSVN服务器ip地址修改后如何使用

    TortoiseSVN是很多人特别是程序员经常使用的工作追述工具,在长期使用过程中难免会遇到服务器迁移ip地址变更的问题.那么在服务器ip地址变化之后,我们要如何继续使用呢?步骤其实非常简单,下面我们 ...

  5. 1.Maven+SpringMVC+Eclipse软件安装配置,Maven报插件错误,Eclipse总是卡死的解决办法,导入一个maven工程后 一直显示importing maven project

     使用Maven+SpringMVC+Eclipse软件安装配置过程中的问题: 1.Eclipse总是卡死的解决办法: 一:内存不足所以会卡死,配置一下eclipse.ini修改这几个值就好了-X ...

  6. 11.4、Libgdx的音频之录制PCM音效

    (官网:www.libgdx.cn) 可以通过AudioRecorder接口访问PCM数据.通过如下方式创建一个接口实例: AudioRecorder recorder = Gdx.audio.new ...

  7. QT Mobile: 一统IOS/Andriod/WP/等移动平台的江湖

    笔者在研究生阶段做了2年的QT开发,那时候QT在嵌入式的图形开发中非常火,当时Nokia在智能机的份额还是第一.想当年,Nokia从Trolltech的手中收购了QT,当时大家还在例会上讨论QT终于不 ...

  8. shell的date

    使用方式 : date [-u] [-d datestr] [-s datestr] [--utc] [--universal] [--date=datestr] [--set=datestr] [- ...

  9. (NO.00002)iOS游戏精灵战争雏形(十)

    到目前为止,子弹是有去无回.如果子弹击中目标或者飞出屏幕,那么子弹也就没必要存在了. 这里的不存在不是把它从屏幕中删除,因为前面提到了子弹缓存的作用,所以这里仅仅将其设置为不可见就可以了. 首先处理飞 ...

  10. (NO.00002)iOS游戏精灵战争雏形(六)

    接下来我们给MainScene场景再添加一个精灵,作为敌人. 双击SpriteBuilder中的MainScene.ccb,从控件库拖入一个CCSprite到CCPhysicsNode中,设置精灵帧为 ...