怎么对MySQL数据库操作大数据?这里有思路
最近学到一招关于使用java代码操作MySQL数据库,对大文本数据(LOB)进行CRUD的技巧,虽然向数据库很少向中存入大文本文件(一般都是存储在硬盘上),但是还是很有必要知道这一技巧的。下面我就来说一说我学到的这个小技巧咯。
CLOB操作
所谓CLOB,一般是指关于文本文件的数据,今天我就拿txt文件来测试吧。
必要的流程如下:
- 在MySQL数据库中建好testclob表
- 向Eclipse中导入相关的jar包
- 写代码进行测试
textblob.sql如下:
create table testclon(
id varchar(40) primary key,
resume clob
);
导入相关的符合要求的mysql驱动的jar包。
测试代码如下:
package LOB_Sample;
import java.io.File;
import java.io.FileReader;
import java.io.FileWriter;
import java.io.Reader;
import java.sql.Connection;
import java.sql.PreparedStatement;
import java.sql.ResultSet;
import org.junit.Test;
import utils.JDBCUtils;
public class CLOB {
@Test
public void insert() throws Exception {
Connection conn = null;
PreparedStatement ps = null;
ResultSet rs = null;
try{
conn = JDBCUtils.getConnection();
String sql = "insert into testclob(id,resume) values(?,?)";
ps = conn.prepareStatement(sql);
ps.setString(1, "1");
//先获取一个流,用于读取大文本数据
File file = new File("src/jdbcutils.txt");
FileReader reader = new FileReader(file);
ps.setCharacterStream(2, reader, (int)file.length());
int num = ps.executeUpdate();
if(num>0){
System.out.println("大文本数据插入成功!");
}
}catch(Exception e){
throw new RuntimeException(e);
}finally{
//最重要的一步,用完资源一定要实现资源的释放
JDBCUtils.release(conn, ps, rs);
}
}
@Test
public void read() throws Exception {
Connection conn = null;
PreparedStatement pst = null;
ResultSet rs = null;
try{
conn = JDBCUtils.getConnection();
String sql = "select * from testclob where id ='1'";
pst = conn.prepareStatement(sql);
rs = pst.executeQuery();
if(rs.next()){
Reader reader = rs.getCharacterStream("resume");
FileWriter writer = new FileWriter("src/result.txt");
try{
int len = 0;
char[] buffer = new char[1024];
while((len = reader.read(buffer))>0){
writer.write(buffer, 0, len);
}
}finally{
reader.close();
writer.close();
}
}
}catch(Exception e){
throw new RuntimeException(e);
}finally{
JDBCUtils.release(conn, pst, rs);
}
}
}
测试结果简单,就不贴图了。
小总结:
- 对于clob类型的数据,存进去的时候需要借助于一个流对象,先将数据转换成二进制,才能进行存储。
- 读取clob文件的时候要使用
rs.getCharacterStream("resume");,记忆方式是“怎么存进去,怎么取出来”所以就需要以流的形式获得了。 - 最后使用File的原因是,流操作需要知道流的长度信息,所以使用到了File。
BLOB操作
对于图片数据(BLOB),我们同样可以使用相似的代码进行操作。流程如下:
项目目录如下:
- 先在数据库中创建一个表的实例,testblob.sql
- 导入相关的jar包驱动
- 书写代码进行测试
要插入的图片如下:
数据库的建表语句如下:
create table testblob(
id varchar(40) primary key,
image blob
);
导入相关的jar包,我的工程的jar包文件名称为mysql-connector-java-5.0.8-bin.jar
具体的操作代码如下:
package LOB_Sample;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileOutputStream;
import java.io.InputStream;
import java.sql.Connection;
import java.sql.PreparedStatement;
import java.sql.ResultSet;
import org.junit.Test;
import utils.JDBCUtils;
public class BLOB {
@Test
public void insert() throws Exception {
Connection conn = null;
PreparedStatement pst = null;
ResultSet rs = null;
try{
conn = JDBCUtils.getConnection();
String sql = "insert into testblob values(?,?)";
pst = conn.prepareStatement(sql);
pst.setString(1, "图片一");
File file = new File("src/picture1.jpg");
FileInputStream fis = new FileInputStream(file);
pst.setBinaryStream(2, fis, (int)file.length());
int flag = pst.executeUpdate();
if(flag > 0 ){
System.out.println("图片插入数据库成功!!!");
}else{
System.out.println("对不起,图片插入数据库失败!!!");
}
}catch(Exception e){
throw new RuntimeException(e);
}finally{
JDBCUtils.release(conn, pst, rs);
}
}
@Test
public void read() throws Exception {
Connection conn = null;
PreparedStatement pst = null;
ResultSet rs = null;
try{
conn = JDBCUtils.getConnection();
String sql = "select image from testblob where id ='图片一'";
pst = conn.prepareStatement(sql);
rs = pst.executeQuery();
if(rs.next()){
FileOutputStream fos =null;
InputStream in = null;
try{
File file = new File("src/new.jpg");
fos = new FileOutputStream("src/newPicture.jpg");
in = rs.getBinaryStream("image");
int len = 0;
byte [] buffer = new byte[1024];
while((len=in.read(buffer))>0){
fos.write(buffer,0,len);
}
}catch(Exception e){
throw new RuntimeException(e);
}finally{
fos.close();
in.close();
}
}
}catch(Exception e){
throw new RuntimeException(e);
}finally{
JDBCUtils.release(conn, pst, rs);
}
}
}
代码运行结果如下:
经JUnit测试,可以获得正确的图片文件。
需要注意的是,代码中用到的JDBCUtils工具类是自己写的一个获得数据库连接的工具类,同样也是我clob测试获得的那个文件。其具体内容如下:
package utils;
import java.io.IOException;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.util.Properties;
/**
* MySQL数据库工具类
* @author Summer
*
*/
public class JDBCUtils {
//创建一个配置文件,用于读取相应配置文件中保存的数据信息
private static Properties config = new Properties();
/*
* 为了只加载一次驱动程序,因此在静态代码块中进行声明,这样驱动就只会加载一次
*/
static{
try {
config.load(JDBCUtils.class.getClassLoader().getResourceAsStream("db.properties"));
// Class.forName("com.mysql.jdbc.Driver");
Class.forName(config.getProperty("DRIVER"));
} catch (ClassNotFoundException | IOException e) {
// TODO Auto-generated catch block
throw new ExceptionInInitializerError();
}
}
/**
* 返回数据库连接对象
* @return
*/
public static Connection getConnection(){
Connection conn = null;
try {
conn = DriverManager.getConnection(config.getProperty("URL"),
config.getProperty("USER"),config.getProperty("PASSWORD"));
} catch (SQLException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
return conn;
}
/**
* 释放数据库链接资源
* @param conn
* @param st
* @param rs
*/
public static void release(Connection conn,PreparedStatement pst, ResultSet rs){
/*
* 释放数据库连接资源的时候注意释放的顺序,先申请的资源后释放
*/
//释放结果集对象
if(rs!=null){
try {
rs.close();
} catch (SQLException e) {
// TODO Auto-generated catch block
rs=null;
e.printStackTrace();
}
}
//释放查询对象
if(pst!=null){
try {
pst.close();
} catch (SQLException e) {
// TODO Auto-generated catch block
pst=null;
e.printStackTrace();
}
}
//释放数据库连接
if(conn!=null){
try {
conn.close();
} catch (SQLException e) {
// TODO Auto-generated catch block
conn=null;
e.printStackTrace();
}
}
}
}
//而这里面需要的配置信息在db.properties文件中,其实就是DRIVER,URL,USER,PASSWORD四个数据库连接必备信息,也是很简单的数据,故就不在贴出。
总结
- 对于数据库的JDBC操作,一定要记得释放数据库连接资源,否则会有意想不到的错误。
- 存储大文本数据的时候,记得方式的前后一致性,即PreparedStatement与ResultSet操作的一致性
- 应该使用PreparedStatement来防止SQL注入(原因是其会先进行检测)
好了,大致的操作就是这样了,希望此篇拙文能给广大博友些许帮助。如果有错误的地方,还望指出,不胜感激!
怎么对MySQL数据库操作大数据?这里有思路的更多相关文章
- MYSQL数据库导入大数据量sql文件失败的解决方案
1.在讨论这个问题之前首先介绍一下什么是"大数据量sql文件". 导出sql文件.选择数据库-----右击选择"转储SQL文件"-----选择"结构和 ...
- MySQL数据库解决大数据量存储问题
转载自:https://www.cnblogs.com/ryanzheng/p/8334915.html 提问:如何设计或优化千万级别的大表?此外无其他信息,个人觉得这个话题有点范,就只好简单说下该如 ...
- MySql数据库操作之数据约束
首先数据库的外键是数据库提供的一种完整性约束.在许多数据库的书上也会介绍到,然而对于外键这个完整性性约束究竟应该在数据库端实现,还是在项目业务端实现很多人有着不同的意见. 个人开发(小型应用).数据库 ...
- c#几种数据库的大数据批量插入(SqlServer、Oracle、SQLite和MySql)
这篇文章主要介绍了c#几种数据库的大数据批量插入(SqlServer.Oracle.SQLite和MySql),需要的朋友可以了解一下. 在之前只知道SqlServer支持数据批量插入,殊不知道Ora ...
- Python数据存储 — MySQL数据库操作
本地安装MySQL 调试环境python3.6,调试python操作mysql数据库,首先要在本地或服务器安装mysql数据库. 安装参考:https://mp.csdn.net/postedit/8 ...
- MySQL数据库表的数据插入、修改、删除、查询操作及实例应用
一.MySQL数据库表的数据插入.修改.删除和查询 CREATE DATABASE db0504; USE db0504; CREATE TABLE student ( sno ) NOT NULL ...
- linux mysql 数据库操作导入导出 数据表导出导入
linux mysql 数据库操作导入导出 数据表导出导入 1,数据库导入 mysql -uroot -p show databases; create database newdb; use 数据库 ...
- mysql数据库千万级别数据的查询优化和分页测试
原文地址:原创 mysql数据库千万级别数据的查询优化和分页测试作者:于堡舰 本文为本人最近利用几个小时才分析总结出的原创文章,希望大家转载,但是要注明出处 http://blog.sina.com. ...
- MySQL数据库操作常用命令
MySQL数据库操作常用命令DOS连接数据库1.安装MySQL配置好环境2.运行cmd命令net start mysql3.找到mysql文件根目录输入命令mysql -h localhost -u ...
随机推荐
- 使用VMware Converter Standalone Client进行虚拟机 P2V提示 权限不足,无法连接\\ip\admin$的解决方法集锦
使用VMware vCenter Converter Standalone Client进行虚拟机 P2V提示 权限不足,无法连接\\ip\admin$的解决方法集锦 步骤一 检查 远程桌面到&quo ...
- 将一个div置于另一个div之上
div piao置于div bg之上 <div class="bg"> <div class="piao" style="backg ...
- 读书笔记-《Maven实战》-2018/4/18
第五章:坐标和依赖 1.每个依赖中可以包含的元素有: groupId,artifactId,version: 这三个元素是Maven项目最重要的元素.Maven需要根据这三个坐标找到需要的依赖. ty ...
- 读书笔记-《Maven实战》-2018/4/17
第五章 坐标和依赖 1.如同笛卡尔坐标系一样,Maven也通过坐标三元素定位一个资源. <groupId>com.dengchengchao.test</groupId> &l ...
- 解决Mysql数据库拒绝远程连接和忘记密码的问题
解决数据库忘记密码的问题 ERROR 1045 (28000): Access denied for user 'root'@'localhost' (using password: YES) 编辑m ...
- RHEL(红帽七)的DNS配置
RHEL7的DNS配置 本文中用到的所有参数均位于文末附录中 查询bind-chroot这个安装包 Yum 安装 bind-chroot 进入named.conf文件 复制以下参数进去 进入这个文 ...
- Window下使用ftp命令往Linux中发送文件
操作步骤:首先,切换到文件目录1.ftp ip地址2.连接成功后,输入正确的用户名和密码.3.binary(表示以二进制的格式传送)4.put/get 文件名(或文件的绝对路径) 退出:bye
- Page Object设计模式实践
Page Object模式是使用Selenium的广大同行最为公认的一种设计模式.在设计测试时,把元素和方法按照页面抽象出来,分离成一定的对象,然后再进行组织. Page Object模式,创建一个对 ...
- python3+django2 开发易语言网络验证(上)
创作背景: 在某论坛中下载到一套php开发易语言网络验证的教程,照着看下来,花了两天的时间,结果发现教程里开发的网络验证,以及随着教程一起给学员的源码,都存在着根本用不了的bug!我想要看看能不能在原 ...
- 在linux系统中I/O 调度的选择
I/O 调度算法再各个进程竞争磁盘I/O的时候担当了裁判的角色.他要求请求的次序和时机做最优化的处理,以求得尽可能最好的整体I/O性能. 在linux下面列出4种调度算法 CFQ (Compl ...