超大数据快速导入MySQL

 ----千万级数据只需几十分钟
本地测试方法
1.首先需要修改本地mysql的编码和路径,找到my.ini。
2.在里面添加或修改
character-set-server=utf8
collation-server=utf8_general_ci
default-storage-engine=INNODB
(最低部添加)secure_file_priv="C:\Users\Administrator\Desktop\ye(xlsx表格所在父路径)"
3.将需要的xlsx表格转换成csv格式保存
4.将csv格式用记事本打开,另存为编码为utf-8的csv格式
5.在mysql数据库里,如果某些字段涉及到html代码,需将这些字段的字段类型修改logtext。
6.在打开mysql命令行时,先建议添加一个自增ID列,方便统计记录数。
7.打开mysql命令行输入:
show databases;回车
use tablename(表名)回车
mysql>LOAD DATA INFILE "C:\\Users\\Administrator\\Desktop\\ye\\product.csv"(xlsx表格所在路径)
-> into table p1_product_description(需要传入的表名)
-> fields terminated by '&&'(字段分割符)
-> lines terminated by '\n'(换行符)
-> ignore 1 lines
-> (product_id,language_id,name,description,tag,meta_title,meta_description,meta_keyword);(字段名)

线上服务器方法(需要putty.exe软件)
1.将在本地测试修改好的csv格式文件上传到网站根目录下面
2.在mysql数据库里,如果某些字段涉及到html代码,需将这些字段的字段类型修改logtext。
6.在打开mysql命令行时,先建议添加一个自增ID列,方便统计记录数。
7.打开mysql命令行输入:
数据库远程登陆密码 回车
登陆数据库命令行mysql -h localhost -u root -p 回车
输入mysql数据库密码 回车
show databases;回车
use tablename(表名)回车
mysql> LOAD DATA LOCAL INFILE '/www/web/1hydraulicpump/public_html/product2.csv(csv所在路径)'
-> into table h1_product_description(需要传入的表名)
-> fields terminated by '&&(字段分割符)'
-> lines terminated by '\n(换行符)'
-> ignore 1 lines
-> (product_id,language_id,name,description,tag,meta_title,meta_description,meta_keyword)(字段名);

54.超大数据快速导入MySQL的更多相关文章

  1. 使用命令行将Excel数据表导入Mysql中的方法小结

    从Excel数据表导入MySQL,已经做过好几次了,但每次都会碰到各种问题:invalid utf8 character string, data too long, ...,浪费了不少时间 为了提高 ...

  2. Atitit.软件GUIbutton与仪表盘--db数据库区--导入mysql sql错误的解决之道

    Atitit.软件GUIbutton与仪表盘--db数据库区--导入mysql sql错误的解决之道 Keyword::截取文本文件后部分 查看提示max_allowed_packet限制 Targe ...

  3. Atitit.软件GUI按钮与仪表盘--db数据库区--导入mysql sql错误的解决之道

    Atitit.软件GUI按钮与仪表盘--db数据库区--导入mysql sql错误的解决之道 Keyword::截取文本文件后部分 查看提示max_allowed_packet限制 Target Se ...

  4. Mysql百万数据量级数据快速导入Redis

    前言 随着系统的运行,数据量变得越来越大,单纯的将数据存储在mysql中,已然不能满足查询要求了,此时我们引入Redis作为查询的缓存层,将业务中的热数据保存到Redis,扩展传统关系型数据库的服务能 ...

  5. 【PHP】将EXCEL表中的数据轻松导入Mysql数据表

    在网络上有不较多的方法,在此介绍我已经验证的方法. 方法一.利用EXCEL表本身的功能生成SQL代码 ①.先在“phpmyadmin”中建立数据库与表(数据库:excel,数据表:excel01,字段 ...

  6. .net core利用MySqlBulkLoader大数据批量导入MySQL

    最近用core写了一个数据迁移小工具,从SQLServer读取数据,加工后导入MySQL,由于数据量太过庞大,数据表都过百万,常用的dapper已经无法满足.三大数据库都有自己的大数据批量导入数据的方 ...

  7. 将EXCEL表中的数据轻松导入Mysql数据表

    转载自:http://blog.163.com/dielianjun@126/blog/static/164250113201042310181431/ 在网络上有不较多的方法,在此介绍我已经验证的方 ...

  8. Java实现数据批量导入mysql数据库

    本文完全照搬别人的. 原文标题:Java实现数据批量导入数据库(优化速度-2种方法) 原文地址:https://blog.csdn.net/qy20115549/article/details/526 ...

  9. [DJANGO] excel十几万行数据快速导入数据库研究

    先贴原来的导入数据代码: 8 import os os.environ.setdefault("DJANGO_SETTINGS_MODULE", "www.setting ...

随机推荐

  1. 类似于c语言读取文件进行解析

    $log_file_name = 'D:/static/develop/kuai_zhi/acagrid.com/public/Logs/'.date('Ym').'/'.date('d').'_er ...

  2. git rebase 的使用

    rebase 在 Git 中整合来自不同分支的修改主要有两种方法:merge 以及 rebase. 在本节中我们将学习什么是“rebase”,怎样使用“rebase”,并将展示该操作的惊艳之处,以及指 ...

  3. 【学习】C++异常处理,exception

    try.catch try { ... }中的语句按顺序执行,突然遇到错误了,则捕获,catch. try中语句执行到最后可以加一条语句,打印出,程序成功运行. catch(const .....e) ...

  4. linux可执行文件添加到PATH环境变量的方法

    linux命令行下面执行某个命令的时候,首先保证该命令是否存在,若存在,但输入命令的时候若仍提示:command not found 这个时候就的查看PATH环境变量的设置了,当前命令是否存在于PAT ...

  5. 基于 SOA 概念 RPC 框架 的 消息中心 云部署 设计 漫谈

    一.背景 假设有一个系统的最大并发量有2000TPS左右.同时该系统有闲时和忙时,希望可以随时进行拓展和削减服务能力,以节省服务器费用开销. 该系统能提供站内消息.短信.app消息.邮箱的一个消息系统 ...

  6. Linux set、env、declare、export显示shell变量的区别

    目录 Linux中 set.env.declare.export显示shell变量的区别 1. shell局部变量 2. 用户的环境变量 显示shell变量 declare 命令 export 命令 ...

  7. Android学习:Notification状态栏通知

    Notification是显示在手机状态栏的通知,它代表一种具有全局效果的通知,程序一般通过NotificationManager服务来发送Notification.在小米手机上,手指在屏幕顶端向下划 ...

  8. springBoot整合ftp上传图片功能

    知识点: springBoot后端项目,接收前端框架传到的图片,把图片上传到ftp图片服务器上 注意:在上传的过程中可能回出现,可以创建文件夹,但是图片上传不了的问题: 尝试了网上的很多方法,最后将f ...

  9. SpringBoot入坑-配置文件使用

    经过上一篇的介绍,相信小伙伴们已经按奈不住内心对springboot的向往,本篇我将继续向小伙伴介绍springboot配置文件的配置,已经全局配置参数如何使用,好了下面开始我们今天的内容介绍. 我们 ...

  10. PHP 高效导入导出Excel(csv)方法之fgetcsv()和fputcsv()函数

    CSV,是Comma Separated Value(逗号分隔值)的英文缩写,通常都是纯文本文件. 一.CSV数据导入函数fgetcsv() fgetcsv() 函数从文件指针中读入一行并解析 CSV ...