说来惭愧,关于批量导入数据,一直采用的是最原始的方式,一条一条插入,或者100条一块批量插入,这种方式,五十步笑百步,并没有明显的性能提升, 昨天在从别的库查询数据到DataTable内存中,然后插入另外一个库的时候,时间慢的要死,区区10W条数据,竟然要执行三分半... 声明一下,目标库是SQL Server. 百度了一下,SQLBulk闯入了我的视野,其实以前也了解过这个家伙,不过一直没有应用, 直接上代码... public int SqlBulkInsertForSQLServer(Da…

背景: 想要往sqlserver数据库中导入大批量数据,使得数据库的备份文件大于几个G. 注意: 导入的数据不能太规范,数据表最好不一致,否则会自动压缩. 解决办法: 1)通过excel导入,可以参考另一个帖子.但是经常会很卡. 2)通过循环脚本自动insert. 下面我们来说说第2个方法. 先创建表,列为:( id,v1,v2,v3,v4,v5,v6,v7,v8,v9,v10),每列的数据类型为bigint(为了占更大的空间) 通过自动化命令循环写入,生成随机数插入到表中.命令如下: USE…

参考: https://www.cnblogs.com/zhangliangzlee/p/3585862.html…

有的时候需要将excel数据导入到数据库中,这里介绍一下操作方法: 1.可能需要安装sqlserver的插件 [AccessDatabaseEngine],这个可以在网上早,很多. 2.安装插件后,右键数据库-任务-导入数据-数据源选择excel 后面只需要进行下一步即可…

在网络上搜索解决办法,解决办法是把excel导入到access数据库中,再把access数据库导入到sqlsever中,公司机器上不让安装office工具,问了一个同事得到的回答是把数据中很长的那行数据,移到最前面,问题得到解决! 总结 导致这个问题的主要原因是:excel的第一行数据太短了,sqlserver未分配足够长度 1.把excel导入到access数据库中,再把access数据库导入到sqlsever中 2.把数据中很长的那 行 数据,移到excel的最前面 注意:是一行数据   一…

需求:需要做一个后台上传TXT文件,读取其中的内容,然后导入redis库中.要求速度快,并且支持至少10W以上的数据,而内容也就一个字段存类似openid和QQ 传统做法:我一开始做的时候就老套路,遍历.hset,然后就发现非常的慢,一千条数据就花了30-32秒,当时就觉得不行,于是就请教了一个大佬,然后就得知了方法 我生成了20W的数据用来做测试,文件大小6M多. 话不多说,直接贴代码了 $lines  = file_get_contents($_FILES['file']['tmp_name…

第一次写博客,哈哈,纯属用来记录一下自己工作中遇到的问题及解决办法. 昨天因为工作的需求,需要做一个后台上传TXT文件,读取其中的内容,然后导入redis库中.要求速度快,并且支持至少10W以上的数据,而内容也就一个字段存类似openid和QQ.我一开始做的时候就老套路,遍历.hset,然后就发现非常的慢,一千条数据就花了30-32秒,当时就觉得不行,于是就请教了一个大佬,然后就得知了方法 我生成了20W的数据用来做测试,文件大小6M多. 话不多说,直接贴代码了 $lines = file_ge…

一:创建数据库: CREATE TABLE IndustrialTownTB ( [ID] [NVARCHAR](36) PRIMARY KEY NOT NULL , IndustrialNewCityID [NVARCHAR](36) NULL, IndustrialNewCityName [NVARCHAR](36) NULL, IndustrialTownID [NVARCHAR](36) NULL, IndustrialTownName [NVARCHAR](36) NULL, [IsD…

因工作需要,需要导入一个200M左右的sql到user库 执行命令 mysql> use user Database changed mysql> source /tmp/user.sql 导入的过程中出现MySQL server has gone away错误,数据导入失败. 错误信息如下: ERROR 2006 (HY000): MySQL server has gone away ERROR 2006 (HY000): MySQL server has gone away No conn…

我做的项目有个功能需要进行批量删除,删除的数据量有4.5W条数据. 通过下面的sql语句删除这么多数据,直接导致结果超时,无法删除数据. ,,,......) 我查了一些资料,可能找的不全,找到了一个方法,分批次删除,每次删除100条或者1000条…… 代码如下: ) / ; ; i < page; i++) { ).Take().ToList(); rRoleUserService.BatchDelete(dls); } 这个只是我个人的方法,大家如果有更合适的方法,欢迎在评论区评论.…