七、java操作swift对象存储(动态大对象)
系列导航
六、java操作swift对象存储(resultful方式实现)
前面讲了如何使用swift的动态大对象那么java如何操作呢?如下的例子是我自己写的不是官网的(官网的没找到)
一、依赖
与 六、java操作swift对象存储(resultful方式实现) 一样这里就不重复了。
二、重要方法类DynamicLargeObject.java
package largeobject; import java.io.File;
import org.apache.http.HttpResponse;
import org.apache.http.client.methods.HttpPut;
import org.apache.http.impl.client.DefaultHttpClient;
import org.json.JSONArray;
import org.apache.http.Header;
import base.ResultFulBase;
import largeobject.tool.CutFileUtil; //动态大对象操作
public class DynamicLargeObject { //访问swift的url地址
public static String X_Storage_Url = ""; //访问swift的令牌
public static String X_Auth_Token = ""; public static ResultFulBase resultFulBase = null; public DynamicLargeObject(ResultFulBase resultFulBase){
X_Storage_Url = resultFulBase.X_Storage_Url;
X_Auth_Token = resultFulBase.X_Auth_Token;
this.resultFulBase = resultFulBase;
} //上传动态大对象
/* 参数说明
* objectContainerName:存储对象分块的容器名称(实际上所有的段都可以在不同的容器里)
* maniFestContainerName:存储manifest对象的容器
* FilePath:上传的文件路径
* objectName:上传后的对象名称
* MBSize:切割文件的大小(单位MB)
*/
public static void upload_Dynamic_large_object(String objectContainerName,String maniFestContainerName,String FilePath,String objectName,long MBSize ){
CutFileUtil cutFileUtil = new CutFileUtil();
Long mbSzie = MBSize*1024*1024;
File file = new File(FilePath);
String fileName = file.getName();
String path = file.getParent()+"//"; int count =0 ;
count = cutFileUtil.cutFileBySize(FilePath, mbSzie, path ); System.out.println("FilePath:"+FilePath);
System.out.println("path:"+path);
System.out.println("fileName:"+fileName); JSONArray jsonArray = new JSONArray();
//上传可以改为多线程 获取信息单独出来
for(int i =0;i<count;i++ ){
resultFulBase.create_object(objectContainerName,objectName+"/"+i+"-"+fileName ,path +i+"-"+fileName );
String partFilePath = path+i+"-"+fileName; //删除上传过的 切割文件
File partFile = new File(partFilePath);
partFile.delete();
} create_Dynamic_Manifest_object(objectContainerName,maniFestContainerName,objectName); } //动态大文件Manifest保存
public static void create_Dynamic_Manifest_object(String containerName,String maniFestContainerName ,String objectName){
try {
HttpPut req = new HttpPut(X_Storage_Url+ "/"+maniFestContainerName +"/"+objectName);
req.addHeader("X-Auth-Token", X_Auth_Token); req.addHeader("Content-Type", "text/plain; charset=\"UTF-8\"");
req.addHeader("X-Object-Manifest", containerName+"/"+objectName+"/"); //好像不是必须的
//req.addHeader("Content-Transfer-Encoding", "binary"); DefaultHttpClient httpclient = new DefaultHttpClient();
HttpResponse rsp = httpclient.execute(req); System.out.println("----------------------------------------");
System.out.println(rsp.getStatusLine());
Header[] headers = rsp.getAllHeaders();
for (int i = 0; i < headers.length; i++) {
System.out.println(headers[i]);
}
System.out.println("----------------------------------------"); }catch (Exception e){
e.printStackTrace();
}
} }
三、数据切割类CutFileUtil.java
package largeobject.tool; import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.OutputStream;
import java.io.RandomAccessFile;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;
import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit; /**
* <功能简要> <br>
* <切割文件工具>
*
* @Author yc
* @since
*/
public class CutFileUtil { public static void main(String[] args) throws Exception {
CutFileUtil cutFileUtil = new CutFileUtil();
int count =0 ;
cutFileUtil.cutFileBySize("E://1.jpg", new Long(30000), "E://1/" );
} /**
* @param filePath 文件所在主机的路径 例:/home/gyt/nginx.tar
* @param byteSize 拆分文件字节大小
* @param saveAddr 拆分后的文件保存目录 /homt/gyt/
* @return
*/
public int cutFileBySize(String filePath, Long byteSize, String saveAddr ){
List<String> fileNames = new ArrayList<String>();
File file = new File(filePath);
//计算总共段数
int count = (int) Math.ceil(file.length()/(double)byteSize);
int countLen = (count +"").length();
BlockingQueue<Runnable> workQueue = new ArrayBlockingQueue<Runnable>(count * 2); ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(2,4,1,TimeUnit.SECONDS, workQueue ); //ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(2,4,1,TimeUnit.SECONDS,new ArrayBlockingQueue<>(count * 2)); //时间戳
String timeStamp = String.valueOf(System.currentTimeMillis()); for (int i = 0; i < count; i++) {
//分段文件名
// String fileName = timeStamp + "-" + leftPad((i+1) +"", countLen, '0') + "-" +file.getName();
String fileName = i+ "-" +file.getName();
threadPoolExecutor.execute(new SplitRunnable(byteSize.intValue(), fileName, file, i*byteSize, saveAddr));
fileNames.add(fileName);
}
threadPoolExecutor.shutdown();
while (true){
if (threadPoolExecutor.isTerminated()){
return count;
}
try {
Thread.sleep(1000);
}catch (InterruptedException e){
e.printStackTrace();
}
} } public static String leftPad(String str, int length, char ch){
if (str.length() >= length){
return str;
}
char[] chs = new char[length];
Arrays.fill(chs, ch);
char[] src = str.toCharArray();
System.arraycopy(src, 0, chs, length - src.length, src.length);
return new String(chs);
} private class SplitRunnable implements Runnable{
int byteSize;
String fileName;
File originFile;
Long startPos;
String currentWorkDir; public SplitRunnable(int byteSize, String fileName, File originFile, Long startPos, String currentWorkDir) {
this.byteSize = byteSize;
this.fileName = fileName;
this.originFile = originFile;
this.startPos = startPos;
this.currentWorkDir = currentWorkDir;
} public void run(){
RandomAccessFile randomAccessFile = null;
OutputStream outputStream = null;
try {
randomAccessFile = new RandomAccessFile(originFile, "r");
byte[] b = new byte[byteSize];
randomAccessFile.seek(startPos); //移动指针到每“段”开头
int s = randomAccessFile.read(b);
outputStream = new FileOutputStream(currentWorkDir+fileName);
outputStream.write(b, 0 , s);
outputStream.flush();
b= null;
}catch (IOException e){
e.printStackTrace();
}finally {
if (outputStream !=null){
try {
outputStream.close();
} catch (IOException e) {
e.printStackTrace();
}
} if (randomAccessFile !=null){
try {
randomAccessFile.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
}
}
四、调用的主类DynamicLargeObjectMain.java
package mian; import largeobject.DynamicLargeObject;
import base.ResultFulBase; //动态大对象上传调用
public class DynamicLargeObjectMain {
public static void main(String[] args) { //连接到swift获得令牌
ResultFulBase resultFulBase = new ResultFulBase("192.168.0.1","8080","admin:admin","admin"); //初始化动态大对象的操作类
DynamicLargeObject dynamicLargeObjectd = new DynamicLargeObject(resultFulBase); //上传一个动态大对象
//注:E://1/1.zip 是一个5M多的文件, 切割大小为3M每块
dynamicLargeObjectd.upload_Dynamic_large_object("SegmentContainer","maniFestContainer","E://1/1.zip", "1.zip",new Long(3) ); //下载上传上去的大对象
resultFulBase.get_container_object("maniFestContainer","1.zip","E:\\mylarge.zip"); }
}

七、java操作swift对象存储(动态大对象)的更多相关文章
- Hibernate 中 联合主键映射 组合关系映射 大对象映射(或者说文本大对象,二进制数据大对象)
Clob:文本大对象,最长4G Blob:二进制数据大对象,最长4G util: public class HibUtil { private static SessionFactory sessio ...
- java操作文件常用的 IO流对象
1.描述:流是字节数据或字符数据序列.Java采用输入流对象和输出流对象来支持程序对数据的输入和输出.输入流对象提供了数据从源点流向程序的管道,程序可以从输入流对象读取数据:输出流对象提供了数据从程序 ...
- swift对象存储安装
对象存储服务概览 OpenStack对象存储是一个多租户的对象存储系统,它支持大规模扩展,可以以低成本来管理大型的非结构化数据,通过RESTful HTTP 应用程序接口. 它包含下列组件: 代理服务 ...
- [原创]java WEB学习笔记81:Hibernate学习之路--- 对象关系映射文件(.hbm.xml):hibernate-mapping 节点,class节点,id节点(主键生成策略),property节点,在hibernate 中 java类型 与sql类型之间的对应关系,Java 时间和日期类型的映射,Java 大对象类型 的 映射 (了解),映射组成关系
本博客的目的:①总结自己的学习过程,相当于学习笔记 ②将自己的经验分享给大家,相互学习,互相交流,不可商用 内容难免出现问题,欢迎指正,交流,探讨,可以留言,也可以通过以下方式联系. 本人互联网技术爱 ...
- 22.Java面试学习平台-整合OSS对象存储
SpringCloud实战项目全套学习教程连载中 PassJava 学习教程 简介 PassJava-Learning项目是PassJava(佳必过)项目的学习教程.对架构.业务.技术要点进行讲解. ...
- [转载] 文件系统vs对象存储——选型和趋势
原文: http://www.testlab.com.cn/Index/article/id/1082.html#rd?sukey=fc78a68049a14bb2699b479d5e730f6f45 ...
- .Net 垃圾回收和大对象处理
CLR垃圾回收器根据所占空间大小划分对象.大对象和小对象的处理方式有很大区别.比如内存碎片整理 —— 在内存中移动大对象的成本是昂贵的,让我们研究一下垃圾回收器是如何处理大对象的,大对象对程序性能有哪 ...
- .Net 垃圾回收和大对象处理 内存碎片整理
CLR垃圾回收器根据所占空间大小划分对象.大对象和小对象的处理方式有很大区别.比如内存碎片整理 —— 在内存中移动大对象的成本是昂贵的,让我们研究一下垃圾回收器是如何处理大对象的,大对象对程序性能有哪 ...
- .Net垃圾回收和大对象处理
本文引自:http://www.cnblogs.com/yukaizhao/archive/2011/11/21/dot_net_gc_large_object_heap.html CLR垃圾回收器根 ...
- 大对象数据LOB的应用(Day_10)
当你有永不放弃的精神,全力以赴的态度,你会惊叹自己也能创造奇迹! LOB数据类型概述 由于于无结构的数据往往都是大型的,存储量非常大,而LOB(large object)类型主要用来支持无结构的大型数 ...
随机推荐
- JavaWeb开发-HTML基础学习
1.HTML的基本语法 HTML是什么?:HTML是一种超文本标记语言,负责网页的结构,设计页面的元素内容等 超文本:超越文本限制,除了文本信息,还可以定义图片,音频,视频等 标记语言:由标签构成的语 ...
- isAlive
线程存活 当线程执行时显示线程存活 执行完毕为false
- LeetCode54、59:螺旋矩阵|、||(递归,模拟)
解题思路:定义一个方向数组,用栈或者直接从左上角的起点进行DFS,如果碰到下一步无法访问,调整方向,继续遍历,直到所有元素都访问了. (这道题好有历史感,到现在还记得我读大一的时候参加院队培训的时候做 ...
- Go 泛型之类型参数
Go 泛型之类型参数 一.Go 的泛型与其他主流编程语言的泛型差异 Go泛型和其他支持泛型的主流编程语言之间的泛型设计与实现存在差异一样,Go 的泛型与其他主流编程语言的泛型也是不同的.我们先看一下 ...
- 太牛叉了!国产 AI 智能体惊艳问世,全面致敬 FastGPT!
太震撼了!太厉害了!昆仑万维正式发布了「天工 SkyAgents」平台,助力大模型走入千家万户.你听听,这个名字一听就有一种巧夺天工的感觉,技艺那是相当的高超. 这个平台基于昆仑万维「天工大模型」打造 ...
- 可视化大屏与GIS之间如何实现互补?
在当今数字化时代,可视化大屏和地理信息系统(GIS)是两个在不同领域发挥重要作用的技术.可视化大屏以其生动.直观的图表.图像和动画展示方式,为数据可视化和信息展示提供了强大的工具.而GIS则通过地理空 ...
- Dest0g3 520迎新赛-CRYPTO MISC 复现
CRYPTO babyRSA 题目 from Crypto.Util.number import bytes_to_long, getPrime from gmpy2 import next_prim ...
- Luogu1419 区间问题 二分 单调优化
原题链接 题意 给定一段长度为1e5的序列A,并且给我们一个范围 \([S, T]\), 要求我们求出一段长度在这个范围内的连续子序列,并且要使这个连续子序列的平均值最大,输出这个平均值. 思路 一开 ...
- linux中创建新用户并且放到用户组中
1.打开终端并以 root 用户身份登录到 Linux 系统 2.使用以下命令创建一个新用户 sudo useradd -m username 将 "username" 替换为你要 ...
- 数仓性能优化:倾斜优化-表达式计算倾斜的hint优化
本文分享自华为云社区<GaussDB(DWS)性能调优:倾斜优化-表达式计算倾斜的hint优化>,作者: 譡里个檔 . 1.原始SQL SELECT TMP4.TAX_AMT, CATE. ...