Navicat导出百万级数据时,报错:2013 - Lost connection to MySQL server during query

网上一番搜索,修改mysql如下几处配置文件即可:


  1. select @@sql_mode;
  2. SET sql_mode=(SELECT REPLACE(@@sql_mode, 'ONLY_FULL_GROUP_BY', ''));
  3. 4194304 -- 2013 - Lost connection to MySQL server during query
  4. select @@max_allowed_packet;
  5. show global variables like 'max_allowed_packet';
  6. -- SET max_allowed_packet = 524288000
  7. SET GLOBAL max_allowed_packet = 524288000

最好修改配置文件my.cnf或my.ini,然后重启服务。

操作成功结果如下:

另一个VPN远端数据库(MySQL5.6.x)导出结果csv:


最近做数据处理时的一点感触:

1、网络IO对程序的影响真的很大,通过VPN插入更新数据比本机操作MySQL速度要慢数十倍;

如19114条数据,通过VPN网络操作DB用了164.2s,本地数据库操作使用了2.9s。(50+倍

2、索引真的很重要,百万级别的操作速度可相差好几百倍;

创建索引前,查询一百多万条数据用了481.3s,创建增加索引用了12.7s,创建索引后用了0.9s。(500+倍



PS:一些设置方法:


  1. SELECT version();
  2. SHOW engines;
  3. SHOW variables like '%storage_engine%';
  4. MySQL设置session,global变量的方法
  5. SHOW VARIABLES LIKE '%auto_increment%';
  6. -- SET GLOBAL auto_increment_offset = 1;
  7. -- SET GLOBAL auto_increment_increment = 1;
  8. -- -- 设置或修改系统日志有效期
  9. SHOW VARIABLES LIKE '%expire_logs_days%';
  10. -- SET GLOBAL expire_logs_days=8;
  11. SHOW VARIABLES LIKE '%max_connections%'
  12. -- SET GLOBAL max_connections = 2648;
  13. 如果要修改全局变量, 必须要显示指定"GLOBAL"或者"@@global.", 同时必须要有SUPER权限
  14. set global wait_timeout=100;
  15. set @@global.wait_timeout=100;
  16. select @@global.wait_timeout
  17. show global variables like 'wait_timeout';
  18. 其中show variables的话就等同于使用show session variables, 查询的是会话session变量, 只有使用show global variables查询的才是全局变量.
  19. 设置会话变量方法: 在命令行里通过SET来设置
  20. set wait_timeout=10;
  21. set session wait_timeout=10;
  22. set @@wait_timeout=10;
  23. set @@session.wait_timeout=10;
  24. 查看设置是否成功:
  25. select @@wait_timeout;
  26. select @@session.wait_timeout;
  27. show variables like 'wait_timeout';
  28. show session variables like 'wait_timeout';
  29. 将会话变量值设置为对应的全局变量值:
  30. set @@session.wait_timeout=@@global.wait_timeout;
  31. SHOW KEYS FROM user_csv_bak;
  32. SHOW INDEX FROM user_csv_bak;

Lost connection to MySQL server during query,MySQL设置session,global变量及网络IO与索引的更多相关文章

  1. [奇葩问题] ERROR 2013 (HY000): Lost connection to MySQL server during query

    查询一条耗时30s以上语句,实际为2分钟多. mysql> select version(); +------------+ | version() | +------------+ | 5.6 ...

  2. Error NO.2013 Lost connection to Mysql server during query

    系统:[root@hank-yoon ~]# cat /etc/redhat-release CentOS release 6.3 (Final) DB版本:mysql> select @@ve ...

  3. MySQL查询过程中出现lost connection to mysql server during query 的解决办法

    window7 64位系统,MySQL5.7 问题:在使用shell进行数据表更新操作的过程,输入以下查询语句: ,; 被查询的表记录数达到500W条,在查询过程中出现如题目所示的问题,提示" ...

  4. MySQL5.1升级5.6后,执行grant出错:ERROR 2013 (HY000): Lost connection to MySQL server during query【转载】

    转载: MySQL5.5升级5.6后,执行grant出错:ERROR 2013 (HY000): Lost connection to -mysql教程-数据库-壹聚教程网http://www.111 ...

  5. Procedure execution failed 2013 - Lost connection to MySQL server during query

    1 错误描述 Procedure execution failed 2013 - Lost connection to MySQL server during query 2 错误原因 由错误描述可知 ...

  6. MySQL中查询时"Lost connection to MySQL server during query"报错的解决方案

    一.问题描述: mysql数据库查询时,遇到下面的报错信息: 二.原因分析: dw_user 表数据量比较大,直接查询速度慢,容易"卡死",导致数据库自动连接超时.... 三.解决 ...

  7. 解决Lost connection to MySQL server during query错误方法

    昨天使用Navicat for MySQL导入MySQL数据库的时候,出现了一个严重的错误,Lost connection to MySQL server during query,字面意思就是在查询 ...

  8. mysqldump导出报错"mysqldump: Error 2013: Lost connection to MySQL server during query when dumping table `file_storage` at row: 29"

    今天mysql备份的crontab自动运行的时候,出现了报警,报警内容如下 mysqldump: Error 2013: Lost connection to MySQL server during ...

  9. Lost connection to MySQL server during query ([Errno 104] Connection reset by peer)

    Can't connect to MySQL server Lost connection to MySQL server during query · Issue #269 · PyMySQL/Py ...

随机推荐

  1. 爬虫_拉勾网(解析ajax)

    拉勾网反爬虫做的比较严,请求头多添加几个参数才能不被网站识别 找到真正的请求网址,返回的是一个json串,解析这个json串即可,而且注意是post传值 通过改变data中pn的值来控制翻页 job_ ...

  2. Django进阶-auth集成认证模块

    auth认证模块是Django内置集成的一个用户认证模块. auth认证模块方法 方法 释义 auth.authenticate() 认证校验 auth.login(request,user) 封装认 ...

  3. Hdoj 1086.You can Solve a Geometry Problem too 题解

    Problem Description Many geometry(几何)problems were designed in the ACM/ICPC. And now, I also prepare ...

  4. 【BZOJ5324】[JXOI2018]守卫(动态规划)

    [BZOJ5324][JXOI2018]守卫(动态规划) 题面 BZOJ 洛谷 题解 既然只能看到横坐标在左侧的点,那么对于任意一个区间\([l,r]\)而言,\(r\)必须被选. 假设\(r\)看不 ...

  5. rt-thread 学习路线

    @2019-01-25 [小记] > BSP制作与使用 将板载资源.芯片外设全部制作BSP,做到使用时只需在 menuconfig 中配置即用

  6. ssh 免密root登录

    安装SSH SERVER 在所有的节点上都安装SSH server服务. # apt-get install openssh-server1 因为我们搭建的Ceph直接使用root用户,所以需要修改s ...

  7. mysql安转过程中出现的问题! Fatal error: Can't open and lock privilege tables: Table 'mysql.user' doesn't exis

    net start mysql启动失败,报错信息如上,因缺少mysql这个库 所以跳过 在my.ini中添加 --skip-grant-tables 再启动mysql 然后进入mysql 倒入一个从其 ...

  8. 解决 pip attributeerror 'nonetype' object has no attribute 'bytes'

    for Windows : python -m pip install -U pip for Linux : pip install -U pip

  9. One-hot encoding 独热编码

    http://blog.sina.com.cn/s/blog_5252f6ca0102uy47.html

  10. STL的相关知识

    STL简介: STL(Standard Template Library,标准模版库)以模板类和模版函数的形式为程序员提供了各种数据结构和算法的实现,程序员通过利用STL,可以在代码空间.执行时间和编 ...