系列导航

一、swift对象存储环境搭建

二、swift添加存储策略

三、swift大对象--动态大对象

四、swift大对象--静态态大对象

五、java操作swift对象存储(官网样例)

六、java操作swift对象存储(resultful方式实现)

七、java操作swift对象存储(动态大对象)

八、java操作swift对象存储(静态大对象)

前面讲了如何使用swift的动态大对象那么java如何操作呢?如下的例子是我自己写的不是官网的(官网的没找到)

一、依赖

与  六、java操作swift对象存储(resultful方式实现)  一样这里就不重复了。

二、重要方法类DynamicLargeObject.java

package largeobject;

import java.io.File;
import org.apache.http.HttpResponse;
import org.apache.http.client.methods.HttpPut;
import org.apache.http.impl.client.DefaultHttpClient;
import org.json.JSONArray;
import org.apache.http.Header;
import base.ResultFulBase;
import largeobject.tool.CutFileUtil; //动态大对象操作
public class DynamicLargeObject { //访问swift的url地址
public static String X_Storage_Url = ""; //访问swift的令牌
public static String X_Auth_Token = ""; public static ResultFulBase resultFulBase = null; public DynamicLargeObject(ResultFulBase resultFulBase){
X_Storage_Url = resultFulBase.X_Storage_Url;
X_Auth_Token = resultFulBase.X_Auth_Token;
this.resultFulBase = resultFulBase;
} //上传动态大对象
/* 参数说明
* objectContainerName:存储对象分块的容器名称(实际上所有的段都可以在不同的容器里)
* maniFestContainerName:存储manifest对象的容器
* FilePath:上传的文件路径
* objectName:上传后的对象名称
* MBSize:切割文件的大小(单位MB)
*/
public static void upload_Dynamic_large_object(String objectContainerName,String maniFestContainerName,String FilePath,String objectName,long MBSize ){
CutFileUtil cutFileUtil = new CutFileUtil();
Long mbSzie = MBSize*1024*1024;
File file = new File(FilePath);
String fileName = file.getName();
String path = file.getParent()+"//"; int count =0 ;
count = cutFileUtil.cutFileBySize(FilePath, mbSzie, path ); System.out.println("FilePath:"+FilePath);
System.out.println("path:"+path);
System.out.println("fileName:"+fileName); JSONArray jsonArray = new JSONArray();
//上传可以改为多线程 获取信息单独出来
for(int i =0;i<count;i++ ){
resultFulBase.create_object(objectContainerName,objectName+"/"+i+"-"+fileName ,path +i+"-"+fileName );
String partFilePath = path+i+"-"+fileName; //删除上传过的 切割文件
File partFile = new File(partFilePath);
partFile.delete();
} create_Dynamic_Manifest_object(objectContainerName,maniFestContainerName,objectName); } //动态大文件Manifest保存
public static void create_Dynamic_Manifest_object(String containerName,String maniFestContainerName ,String objectName){
try {
HttpPut req = new HttpPut(X_Storage_Url+ "/"+maniFestContainerName +"/"+objectName);
req.addHeader("X-Auth-Token", X_Auth_Token); req.addHeader("Content-Type", "text/plain; charset=\"UTF-8\"");
req.addHeader("X-Object-Manifest", containerName+"/"+objectName+"/"); //好像不是必须的
//req.addHeader("Content-Transfer-Encoding", "binary"); DefaultHttpClient httpclient = new DefaultHttpClient();
HttpResponse rsp = httpclient.execute(req); System.out.println("----------------------------------------");
System.out.println(rsp.getStatusLine());
Header[] headers = rsp.getAllHeaders();
for (int i = 0; i < headers.length; i++) {
System.out.println(headers[i]);
}
System.out.println("----------------------------------------"); }catch (Exception e){
e.printStackTrace();
}
} }

 三、数据切割类CutFileUtil.java

package largeobject.tool;

import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.OutputStream;
import java.io.RandomAccessFile;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;
import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit; /**
* <功能简要> <br>
* <切割文件工具>
*
* @Author yc
* @since
*/
public class CutFileUtil { public static void main(String[] args) throws Exception {
CutFileUtil cutFileUtil = new CutFileUtil();
int count =0 ;
cutFileUtil.cutFileBySize("E://1.jpg", new Long(30000), "E://1/" );
} /**
* @param filePath 文件所在主机的路径 例:/home/gyt/nginx.tar
* @param byteSize 拆分文件字节大小
* @param saveAddr 拆分后的文件保存目录 /homt/gyt/
* @return
*/
public int cutFileBySize(String filePath, Long byteSize, String saveAddr ){
List<String> fileNames = new ArrayList<String>();
File file = new File(filePath);
//计算总共段数
int count = (int) Math.ceil(file.length()/(double)byteSize);
int countLen = (count +"").length();
BlockingQueue<Runnable> workQueue = new ArrayBlockingQueue<Runnable>(count * 2); ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(2,4,1,TimeUnit.SECONDS, workQueue ); //ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(2,4,1,TimeUnit.SECONDS,new ArrayBlockingQueue<>(count * 2)); //时间戳
String timeStamp = String.valueOf(System.currentTimeMillis()); for (int i = 0; i < count; i++) {
//分段文件名
// String fileName = timeStamp + "-" + leftPad((i+1) +"", countLen, '0') + "-" +file.getName();
String fileName = i+ "-" +file.getName();
threadPoolExecutor.execute(new SplitRunnable(byteSize.intValue(), fileName, file, i*byteSize, saveAddr));
fileNames.add(fileName);
}
threadPoolExecutor.shutdown();
while (true){
if (threadPoolExecutor.isTerminated()){
return count;
}
try {
Thread.sleep(1000);
}catch (InterruptedException e){
e.printStackTrace();
}
} } public static String leftPad(String str, int length, char ch){
if (str.length() >= length){
return str;
}
char[] chs = new char[length];
Arrays.fill(chs, ch);
char[] src = str.toCharArray();
System.arraycopy(src, 0, chs, length - src.length, src.length);
return new String(chs);
} private class SplitRunnable implements Runnable{
int byteSize;
String fileName;
File originFile;
Long startPos;
String currentWorkDir; public SplitRunnable(int byteSize, String fileName, File originFile, Long startPos, String currentWorkDir) {
this.byteSize = byteSize;
this.fileName = fileName;
this.originFile = originFile;
this.startPos = startPos;
this.currentWorkDir = currentWorkDir;
} public void run(){
RandomAccessFile randomAccessFile = null;
OutputStream outputStream = null;
try {
randomAccessFile = new RandomAccessFile(originFile, "r");
byte[] b = new byte[byteSize];
randomAccessFile.seek(startPos); //移动指针到每“段”开头
int s = randomAccessFile.read(b);
outputStream = new FileOutputStream(currentWorkDir+fileName);
outputStream.write(b, 0 , s);
outputStream.flush();
b= null;
}catch (IOException e){
e.printStackTrace();
}finally {
if (outputStream !=null){
try {
outputStream.close();
} catch (IOException e) {
e.printStackTrace();
}
} if (randomAccessFile !=null){
try {
randomAccessFile.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
}
}

四、调用的主类DynamicLargeObjectMain.java

package mian;

import largeobject.DynamicLargeObject;
import base.ResultFulBase; //动态大对象上传调用
public class DynamicLargeObjectMain {
public static void main(String[] args) { //连接到swift获得令牌
ResultFulBase resultFulBase = new ResultFulBase("192.168.0.1","8080","admin:admin","admin"); //初始化动态大对象的操作类
DynamicLargeObject dynamicLargeObjectd = new DynamicLargeObject(resultFulBase); //上传一个动态大对象
//注:E://1/1.zip 是一个5M多的文件, 切割大小为3M每块
dynamicLargeObjectd.upload_Dynamic_large_object("SegmentContainer","maniFestContainer","E://1/1.zip", "1.zip",new Long(3) ); //下载上传上去的大对象
resultFulBase.get_container_object("maniFestContainer","1.zip","E:\\mylarge.zip"); }
}

七、java操作swift对象存储(动态大对象)的更多相关文章

  1. Hibernate 中 联合主键映射 组合关系映射 大对象映射(或者说文本大对象,二进制数据大对象)

    Clob:文本大对象,最长4G Blob:二进制数据大对象,最长4G util: public class HibUtil { private static SessionFactory sessio ...

  2. java操作文件常用的 IO流对象

    1.描述:流是字节数据或字符数据序列.Java采用输入流对象和输出流对象来支持程序对数据的输入和输出.输入流对象提供了数据从源点流向程序的管道,程序可以从输入流对象读取数据:输出流对象提供了数据从程序 ...

  3. swift对象存储安装

    对象存储服务概览 OpenStack对象存储是一个多租户的对象存储系统,它支持大规模扩展,可以以低成本来管理大型的非结构化数据,通过RESTful HTTP 应用程序接口. 它包含下列组件: 代理服务 ...

  4. [原创]java WEB学习笔记81:Hibernate学习之路--- 对象关系映射文件(.hbm.xml):hibernate-mapping 节点,class节点,id节点(主键生成策略),property节点,在hibernate 中 java类型 与sql类型之间的对应关系,Java 时间和日期类型的映射,Java 大对象类型 的 映射 (了解),映射组成关系

    本博客的目的:①总结自己的学习过程,相当于学习笔记 ②将自己的经验分享给大家,相互学习,互相交流,不可商用 内容难免出现问题,欢迎指正,交流,探讨,可以留言,也可以通过以下方式联系. 本人互联网技术爱 ...

  5. 22.Java面试学习平台-整合OSS对象存储

    SpringCloud实战项目全套学习教程连载中 PassJava 学习教程 简介 PassJava-Learning项目是PassJava(佳必过)项目的学习教程.对架构.业务.技术要点进行讲解. ...

  6. [转载] 文件系统vs对象存储——选型和趋势

    原文: http://www.testlab.com.cn/Index/article/id/1082.html#rd?sukey=fc78a68049a14bb2699b479d5e730f6f45 ...

  7. .Net 垃圾回收和大对象处理

    CLR垃圾回收器根据所占空间大小划分对象.大对象和小对象的处理方式有很大区别.比如内存碎片整理 —— 在内存中移动大对象的成本是昂贵的,让我们研究一下垃圾回收器是如何处理大对象的,大对象对程序性能有哪 ...

  8. .Net 垃圾回收和大对象处理 内存碎片整理

    CLR垃圾回收器根据所占空间大小划分对象.大对象和小对象的处理方式有很大区别.比如内存碎片整理 —— 在内存中移动大对象的成本是昂贵的,让我们研究一下垃圾回收器是如何处理大对象的,大对象对程序性能有哪 ...

  9. .Net垃圾回收和大对象处理

    本文引自:http://www.cnblogs.com/yukaizhao/archive/2011/11/21/dot_net_gc_large_object_heap.html CLR垃圾回收器根 ...

  10. 大对象数据LOB的应用(Day_10)

    当你有永不放弃的精神,全力以赴的态度,你会惊叹自己也能创造奇迹! LOB数据类型概述 由于于无结构的数据往往都是大型的,存储量非常大,而LOB(large object)类型主要用来支持无结构的大型数 ...

随机推荐

  1. 【已解决】nrm -g安装成功后不是全局应用(command not found: nrm)

    本机情况: 服务器系统:CentOS 8.1 nodejs版本:20 问题描述: 在命令行执行命令,npm install -g nrm,全局安装nrm. 安装之后,执行nrm ls 报command ...

  2. 后端程序员必会的前端知识-05:React

    五. React 1. React 基础 react 是前端三大框架之一 没有 vue 的基础更好,因为两者思想不太一样,不能用 vue 的习惯学习 react 需要有 js 基础,视频 19-58 ...

  3. 16级C程序设计竞赛C题

    问题 C: 回文 时间限制: 1 Sec  内存限制: 128 MB提交: 74  解决: 36[提交][状态][讨论版] 题目描述 给定一个字符串,你可以对字符串做任意改动,你可以在任意地方增加一个 ...

  4. modeless dialog in html

    <!DOCTYPE html> <html lang="zh_CN"> <head> <meta charset="UTF-8& ...

  5. Python——第四章:作用域

    作用域: 变量的访问权限 全局变量 -> 全局作用域 局部变量 -> 局部作用域(比如在函数内定义的变量,只能在函数内调用) a = 10 # 全局变量 -> 全局作用域 print ...

  6. PHP中的反序列化漏洞理解

    序列化serialize() 序列化说通俗点就是把一个对象变成可以传输的字符串,比如下面是一个对象: class S{ public $test="pikachu"; } $s=n ...

  7. 三大基础方案和AI出海计划重磅发布!加速盘古大模型生态发展

    本文分享自华为云社区<三大基础方案和AI出海计划重磅发布!加速盘古大模型生态发展>,作者: 华为云头条. 近日,以"开放同飞,共赢行业AI新时代"为主题的华为云盘古大模 ...

  8. 云小课 | 玩转HiLens Studio之手机实时视频流调试代码

    摘要:在开发技能过程中,搭配视频流调试技能是非常必要的环节,也是检验技能效果的重要环节.HiLens Studio推出使用手机实时视频流调试代码的功能,以手机摄像头实时的视频流作为技能输入,查看技能输 ...

  9. 10倍!BoostKit鲲鹏全局缓存3大创新技术助力Ceph性能提升

    摘要:本文从四个方面阐述了BoostKit鲲鹏全局缓存技术,该技术针对Ceph开源存储方案存在的痛点,采用三大创新技术,有效的提高了Ceph的性能,最高可以将Ceph性能提升10倍. 本文分享自华为云 ...

  10. 再谈BOM和DOM(6):dom对象及event对象位值计算—如offsetX/Top,clentX

    总是会被javascript的event对象的clientX,offsetX,screenX,pageX 弄得头晕,于是决定做个图来区分一下(画得我手那个酸呀....) event对象位置信息获取 先 ...