jdbc 块提取方式
最近使用jdbc方式查询数据,保存为csv文件中。当然你可以在pl/sql中直接查出来,copy to excel就好了。但我想通过程序实现

1 @Test
2 public void test() throws IOException {
3 BufferedReader reader=new BufferedReader(new InputStreamReader(new FileInputStream("C:\\Users\\yhzh\\Desktop\\zh_20160913")));
4 String tmp=null;
5 List<String> nos=new ArrayList<String>();
6 while((tmp=reader.readLine()) !=null)
7 nos.add(tmp);
8
9 Connection con = null;// 创建一个数据库连接
10 PreparedStatement pre = null;// 创建预编译语句对象,一般都是用这个而不用Statement
11 PreparedStatement pre2 = null;
12 ResultSet result = null;// 创建一个结果集对象
13 BufferedWriter csvWriter=null;
14 try
15 {
16 String tag=(new SimpleDateFormat("hhmmss")).format(new Date());
17 csvWriter = new BufferedWriter(new OutputStreamWriter(new FileOutputStream(new File("C:\\Users\\yhzh\\Desktop\\贷后还款计划_"+tag+".csv")), "utf-8"));
18
19 Class.forName("oracle.jdbc.driver.OracleDriver");
20 //:6006/hotfix
21 String url = "jdbc:oracle:thin:@//*.*.*.*:16030/zcgl",user = "*",password = "*";
22 con = DriverManager.getConnection(url, user, password);// 获取连接
23 String sql="select max(lr_id) from t_loan_request where LR_REQUESTSTATUS ='2' and lr_applyid=?";
24 /*String sql = 27 "select req.LR_APPLYID,CURR_PERIODS,REPAY_DAY,\n" +
28 "(NEEDREPAY_PRINCIPAL+NEEDREPAY_INTEREST+NEEDREPAY_ADMIFEE+nvl(RISK_AMOUNT,0)+nvl(SERVICEFEE,0)+nvl(PARKINGFEE,0))NEEDREPAY_TOTAL,\n" +
29 "PERIOD_REPAY_AMOUNT \n" +
30 "from(\n" +
31 " select lr_id,LR_APPLYID from t_loan_request t \n" +
32 " where t.LR_REQUESTSTATUS ='2' and t.creater='PostLoanOuterAction'\n" +
33 " order by lr_id desc)req\n" +
34 "left join t_repay_plan rp\n" +
35 "on req.lr_id=rp.lr_id\n" +
36 "order by req.lr_id,CURR_PERIODS ";// 预编译语句,“?”代表参数*/
37 pre = con.prepareStatement(sql);
38 pre2=con.prepareStatement("select CURR_PERIODS,REPAY_DAY,\n" +
39 "(NEEDREPAY_PRINCIPAL+NEEDREPAY_INTEREST+NEEDREPAY_ADMIFEE+nvl(RISK_AMOUNT,0)+nvl(SERVICEFEE,0)+nvl(PARKINGFEE,0))NEEDREPAY_TOTAL,\n" +
40 "PERIOD_REPAY_AMOUNT \n" +
41 "from t_repay_plan\n" +
42 "where lr_id=? " +
43 "order by CURR_PERIODS");
44 for(String no:nos){
45 pre.setString(1,no);
46 result = pre.executeQuery();
47 if(result.next()) {
48 long lrId=result.getLong(1);
49 pre2.setLong(1,lrId);
50 result = pre2.executeQuery();
51 while (result.next()) {
52 csvWriter.write(no);
53 csvWriter.write(",");
54 csvWriter.write(result.getString(1));
55 csvWriter.write(",");
56 csvWriter.write(result.getString(2));
57 csvWriter.write(",");
58 csvWriter.write(result.getString(3));
59 csvWriter.write(",");
60 csvWriter.write(result.getString(4));
61 csvWriter.newLine();
62 }
63 }
64 }
65
66 csvWriter.flush();
67 }
68 catch (Exception e)
69 {
70 e.printStackTrace();
71 }
72 finally
73 {
74 try
75 {
76 if(csvWriter !=null)
77 csvWriter.close();
78 if (result != null)
79 result.close();
80 if (pre != null)
81 pre.close();
82 if (con != null)
83 con.close();
84 System.out.println("数据库连接已关闭!");
85 }
86 catch (Exception e)
87 {
88 e.printStackTrace();
89 }
90 }
91 }

先读取所有编号形成List,后遍历这个List,先查出id再查详细数据。这样的数据csv文件中大约8万多条
一条条的来肯定慢,如果不按照编号,直接一次查出,数据是9万多条。速度都很慢!!!
后来想提高下,至少要有个明显的提升呀。写文件这块基本排除了,剩下的疑问就是ResultSet是否拿到了所有结果呢?
根据网上查到的资料和实际调试,得出答案:ResultSet默认一次取10条数据,怪不得要慢,如果一次全部读入内存再写入文件就一定很快了。
怎样一次读取所有数据呢?
sql改为读取全部

1 String sql="select req.LR_APPLYID,CURR_PERIODS,REPAY_DAY,\n" +
2 "(NEEDREPAY_PRINCIPAL+NEEDREPAY_INTEREST+NEEDREPAY_ADMIFEE+nvl(RISK_AMOUNT,0)+nvl(SERVICEFEE,0)+nvl(PARKINGFEE,0))NEEDREPAY_TOTAL,\n" +
3 "PERIOD_REPAY_AMOUNT \n" +
4 "from(\n" +
5 " select lr_id,LR_APPLYID from t_loan_request t \n" +
6 " where t.LR_REQUESTSTATUS ='2' and t.creater='PostLoanOuterAction'\n" +
7 " order by lr_id desc)req\n" +
8 "left join t_repay_plan rp\n" +
9 "on req.lr_id=rp.lr_id\n" +
10 "order by req.lr_id,CURR_PERIODS";

设置PreparedStatement:
1 pre = con.prepareStatement(sql);
2 pre.setFetchSize(100000);
3 result = pre.executeQuery();
4 //result.setFetchSize(100000);
主要是PreparedStatement的 setFetchSize 方法,
后来发现ResultSet也有个setFetchSize 方法,也是可行的,只是这个时候resultset中已经有了10条记录直到循环10次后,再次使用result.next()才去取100000,fetchSize才起作用
这样设置后速度飞快!!!
jdbc 块提取方式的更多相关文章
- 浅析jdbc建立连接方式与背后的java类加载
关于jdbc的连接方式#1Connection conn;Class.forName("com.mysql.jdbc.Driver"); //2conn=DriverManager ...
- MySQL JDBC/MyBatis Stream方式读取SELECT超大结果集
情景: 遍历并处理一个大表中的所有数据, 这个表中的数据可能会是千万条或者上亿条, 很多人可能会说用分页limit……但需求本身一次性遍历更加方便, 且Oracle/DB2都有方便的游标机制. 对DB ...
- JDBC编程的方式
JDBC编程的方式,我们以一个简单的查询为例,使用JDBC编程,如下: 从上面可以看出JDBC编程一般要如下步骤: 1. 加载数据库驱动 2. 创建并获取数据库连接 3. 创建jdbc stateme ...
- 各种数据库使用JDBC连接的方式
Java数据库连接(JDBC)由一组用 Java 编程语言编写的类和接口组成.JDBC 为工具/数据库开发人员提供了一个标准的 API,使他们能够用纯Java API 来编写数据库应用程序.然而各个开 ...
- spring实例化dataSource使用jndi和jdbc两种方式
一.使用jndi的方式 这种方式方便测试人员不需要改代码,直接改变tomcat的server.xml就可以更改数据库连接 spring创建bean <bean id="dataSour ...
- ipv6下jdbc的连接数据库方式
ipv6下jdbc的连接数据库方式 MySQL: ipv4 Driver URL: jdbc:mysql://127.0.0.1:3306/database ipv6 Driv ...
- 按“块”的方式写dom以及代码注释
前言 首先这个文档中主要记述了自己在编写html代码时如何构建良好的dom结构的一些所思所想,在这一部分主要说明按“块”构建dom结构的思路.同时在这篇文档中也记述了自己对代码注释的理解,在这一部分主 ...
- JDBC纯驱动方式连接MySQL
1 新建一个名为MysqlDemo的JavaProject 2 从http://dev.mysql.com/downloads/connector/j/中下载最新的驱动包. 这里有.tar.gz和.z ...
- Java笔记4:JDBC纯驱动方式连接Oracle
JDBC纯驱动方式连接Oracle 1 下载Oracle提供的驱动程序包 下载地址: http://www.oracle.com/technetwork/database/enterprise-edi ...
随机推荐
- J15W-J45W全铜截止阀厂家,J15W-J45W全铜截止阀价格 - 专题栏目 - 无极资讯网
无极资讯网 首页 最新资讯 最新图集 最新标签 搜索 J15W-J45W全铜截止阀 无极资讯网精心为您挑选了(J15W-J45W全铜截止阀)信息,其中包含了(J15W-J45W全铜截止阀)厂家,( ...
- quickly calc pow(i, n) since i in [1~n]
#include <bits/stdc++.h> using namespace std; #define inf (0x3f3f3f3f) typedef long long int L ...
- (转)heartbeat原理及部署
原文:http://yjy724.blog.51cto.com/10897133/1840794---------------------------------------------------h ...
- Oracle 维护数据的完整性 一 索引
简介:索引是用于加速数据存取的数据对象,合理的使用索引可以大大降低i/o 次数,从而提高数据的访问性能. 当我们从一张表中检索我们需要的数据是,oralce往往会进行全表扫描,就是遍历所有的数据行,来 ...
- MySQL对结果进行排序order by
order by {col_name | expr | position} [ASC | DESC] 查询结果 排序条件的顺序 决定 排序条件 的优先级 如果同一条件下值相等,那么启 ...
- idea中运行maven安装jar包到本地仓库跳过test
- JSP中实现网页访问统计的方法【转】
我采用的是jsp网页,但是不管采用什么语言,原理是一样的. 第一种,单页面统计.就是说,只要点击这个页面就会统计一次. <body> <%!//在这种标记中定义的变量为全局变量 in ...
- HDU 5695 ——Gym Class——————【贪心思想,拓扑排序】
Gym Class Time Limit: 6000/1000 MS (Java/Others) Memory Limit: 65536/65536 K (Java/Others)Total S ...
- 如何在不接入微信API的情况下自定义分享内容(图片、链接、标题)
方法如下: 1.设置分享title:动态改变document.title值即可: document.title = 'test' 2.设置分享图片:在页面隐藏一张尺寸大于290*290的图(图片需要容 ...
- SQLite.dll在xp中部署时的报错处理
错误信息: System.IO.FileNotFoundException: Could not load file or assembly 'System.Data.SQLite.dll' or o ...