系列导航

一、swift对象存储环境搭建

二、swift添加存储策略

三、swift大对象--动态大对象

四、swift大对象--静态态大对象

五、java操作swift对象存储(官网样例)

六、java操作swift对象存储(resultful方式实现)

七、java操作swift对象存储(动态大对象)

八、java操作swift对象存储(静态大对象)

前面讲了如何使用swift的动态大对象那么java如何操作呢?如下的例子是我自己写的不是官网的(官网的没找到)

一、依赖

与  六、java操作swift对象存储(resultful方式实现)  一样这里就不重复了。

二、重要方法类DynamicLargeObject.java

package largeobject;

import java.io.File;
import org.apache.http.HttpResponse;
import org.apache.http.client.methods.HttpPut;
import org.apache.http.impl.client.DefaultHttpClient;
import org.json.JSONArray;
import org.apache.http.Header;
import base.ResultFulBase;
import largeobject.tool.CutFileUtil; //动态大对象操作
public class DynamicLargeObject { //访问swift的url地址
public static String X_Storage_Url = ""; //访问swift的令牌
public static String X_Auth_Token = ""; public static ResultFulBase resultFulBase = null; public DynamicLargeObject(ResultFulBase resultFulBase){
X_Storage_Url = resultFulBase.X_Storage_Url;
X_Auth_Token = resultFulBase.X_Auth_Token;
this.resultFulBase = resultFulBase;
} //上传动态大对象
/* 参数说明
* objectContainerName:存储对象分块的容器名称(实际上所有的段都可以在不同的容器里)
* maniFestContainerName:存储manifest对象的容器
* FilePath:上传的文件路径
* objectName:上传后的对象名称
* MBSize:切割文件的大小(单位MB)
*/
public static void upload_Dynamic_large_object(String objectContainerName,String maniFestContainerName,String FilePath,String objectName,long MBSize ){
CutFileUtil cutFileUtil = new CutFileUtil();
Long mbSzie = MBSize*1024*1024;
File file = new File(FilePath);
String fileName = file.getName();
String path = file.getParent()+"//"; int count =0 ;
count = cutFileUtil.cutFileBySize(FilePath, mbSzie, path ); System.out.println("FilePath:"+FilePath);
System.out.println("path:"+path);
System.out.println("fileName:"+fileName); JSONArray jsonArray = new JSONArray();
//上传可以改为多线程 获取信息单独出来
for(int i =0;i<count;i++ ){
resultFulBase.create_object(objectContainerName,objectName+"/"+i+"-"+fileName ,path +i+"-"+fileName );
String partFilePath = path+i+"-"+fileName; //删除上传过的 切割文件
File partFile = new File(partFilePath);
partFile.delete();
} create_Dynamic_Manifest_object(objectContainerName,maniFestContainerName,objectName); } //动态大文件Manifest保存
public static void create_Dynamic_Manifest_object(String containerName,String maniFestContainerName ,String objectName){
try {
HttpPut req = new HttpPut(X_Storage_Url+ "/"+maniFestContainerName +"/"+objectName);
req.addHeader("X-Auth-Token", X_Auth_Token); req.addHeader("Content-Type", "text/plain; charset=\"UTF-8\"");
req.addHeader("X-Object-Manifest", containerName+"/"+objectName+"/"); //好像不是必须的
//req.addHeader("Content-Transfer-Encoding", "binary"); DefaultHttpClient httpclient = new DefaultHttpClient();
HttpResponse rsp = httpclient.execute(req); System.out.println("----------------------------------------");
System.out.println(rsp.getStatusLine());
Header[] headers = rsp.getAllHeaders();
for (int i = 0; i < headers.length; i++) {
System.out.println(headers[i]);
}
System.out.println("----------------------------------------"); }catch (Exception e){
e.printStackTrace();
}
} }

 三、数据切割类CutFileUtil.java

package largeobject.tool;

import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.OutputStream;
import java.io.RandomAccessFile;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;
import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit; /**
* <功能简要> <br>
* <切割文件工具>
*
* @Author yc
* @since
*/
public class CutFileUtil { public static void main(String[] args) throws Exception {
CutFileUtil cutFileUtil = new CutFileUtil();
int count =0 ;
cutFileUtil.cutFileBySize("E://1.jpg", new Long(30000), "E://1/" );
} /**
* @param filePath 文件所在主机的路径 例:/home/gyt/nginx.tar
* @param byteSize 拆分文件字节大小
* @param saveAddr 拆分后的文件保存目录 /homt/gyt/
* @return
*/
public int cutFileBySize(String filePath, Long byteSize, String saveAddr ){
List<String> fileNames = new ArrayList<String>();
File file = new File(filePath);
//计算总共段数
int count = (int) Math.ceil(file.length()/(double)byteSize);
int countLen = (count +"").length();
BlockingQueue<Runnable> workQueue = new ArrayBlockingQueue<Runnable>(count * 2); ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(2,4,1,TimeUnit.SECONDS, workQueue ); //ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(2,4,1,TimeUnit.SECONDS,new ArrayBlockingQueue<>(count * 2)); //时间戳
String timeStamp = String.valueOf(System.currentTimeMillis()); for (int i = 0; i < count; i++) {
//分段文件名
// String fileName = timeStamp + "-" + leftPad((i+1) +"", countLen, '0') + "-" +file.getName();
String fileName = i+ "-" +file.getName();
threadPoolExecutor.execute(new SplitRunnable(byteSize.intValue(), fileName, file, i*byteSize, saveAddr));
fileNames.add(fileName);
}
threadPoolExecutor.shutdown();
while (true){
if (threadPoolExecutor.isTerminated()){
return count;
}
try {
Thread.sleep(1000);
}catch (InterruptedException e){
e.printStackTrace();
}
} } public static String leftPad(String str, int length, char ch){
if (str.length() >= length){
return str;
}
char[] chs = new char[length];
Arrays.fill(chs, ch);
char[] src = str.toCharArray();
System.arraycopy(src, 0, chs, length - src.length, src.length);
return new String(chs);
} private class SplitRunnable implements Runnable{
int byteSize;
String fileName;
File originFile;
Long startPos;
String currentWorkDir; public SplitRunnable(int byteSize, String fileName, File originFile, Long startPos, String currentWorkDir) {
this.byteSize = byteSize;
this.fileName = fileName;
this.originFile = originFile;
this.startPos = startPos;
this.currentWorkDir = currentWorkDir;
} public void run(){
RandomAccessFile randomAccessFile = null;
OutputStream outputStream = null;
try {
randomAccessFile = new RandomAccessFile(originFile, "r");
byte[] b = new byte[byteSize];
randomAccessFile.seek(startPos); //移动指针到每“段”开头
int s = randomAccessFile.read(b);
outputStream = new FileOutputStream(currentWorkDir+fileName);
outputStream.write(b, 0 , s);
outputStream.flush();
b= null;
}catch (IOException e){
e.printStackTrace();
}finally {
if (outputStream !=null){
try {
outputStream.close();
} catch (IOException e) {
e.printStackTrace();
}
} if (randomAccessFile !=null){
try {
randomAccessFile.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
}
}

四、调用的主类DynamicLargeObjectMain.java

package mian;

import largeobject.DynamicLargeObject;
import base.ResultFulBase; //动态大对象上传调用
public class DynamicLargeObjectMain {
public static void main(String[] args) { //连接到swift获得令牌
ResultFulBase resultFulBase = new ResultFulBase("192.168.0.1","8080","admin:admin","admin"); //初始化动态大对象的操作类
DynamicLargeObject dynamicLargeObjectd = new DynamicLargeObject(resultFulBase); //上传一个动态大对象
//注:E://1/1.zip 是一个5M多的文件, 切割大小为3M每块
dynamicLargeObjectd.upload_Dynamic_large_object("SegmentContainer","maniFestContainer","E://1/1.zip", "1.zip",new Long(3) ); //下载上传上去的大对象
resultFulBase.get_container_object("maniFestContainer","1.zip","E:\\mylarge.zip"); }
}

七、java操作swift对象存储(动态大对象)的更多相关文章

  1. Hibernate 中 联合主键映射 组合关系映射 大对象映射(或者说文本大对象,二进制数据大对象)

    Clob:文本大对象,最长4G Blob:二进制数据大对象,最长4G util: public class HibUtil { private static SessionFactory sessio ...

  2. java操作文件常用的 IO流对象

    1.描述:流是字节数据或字符数据序列.Java采用输入流对象和输出流对象来支持程序对数据的输入和输出.输入流对象提供了数据从源点流向程序的管道,程序可以从输入流对象读取数据:输出流对象提供了数据从程序 ...

  3. swift对象存储安装

    对象存储服务概览 OpenStack对象存储是一个多租户的对象存储系统,它支持大规模扩展,可以以低成本来管理大型的非结构化数据,通过RESTful HTTP 应用程序接口. 它包含下列组件: 代理服务 ...

  4. [原创]java WEB学习笔记81:Hibernate学习之路--- 对象关系映射文件(.hbm.xml):hibernate-mapping 节点,class节点,id节点(主键生成策略),property节点,在hibernate 中 java类型 与sql类型之间的对应关系,Java 时间和日期类型的映射,Java 大对象类型 的 映射 (了解),映射组成关系

    本博客的目的:①总结自己的学习过程,相当于学习笔记 ②将自己的经验分享给大家,相互学习,互相交流,不可商用 内容难免出现问题,欢迎指正,交流,探讨,可以留言,也可以通过以下方式联系. 本人互联网技术爱 ...

  5. 22.Java面试学习平台-整合OSS对象存储

    SpringCloud实战项目全套学习教程连载中 PassJava 学习教程 简介 PassJava-Learning项目是PassJava(佳必过)项目的学习教程.对架构.业务.技术要点进行讲解. ...

  6. [转载] 文件系统vs对象存储——选型和趋势

    原文: http://www.testlab.com.cn/Index/article/id/1082.html#rd?sukey=fc78a68049a14bb2699b479d5e730f6f45 ...

  7. .Net 垃圾回收和大对象处理

    CLR垃圾回收器根据所占空间大小划分对象.大对象和小对象的处理方式有很大区别.比如内存碎片整理 —— 在内存中移动大对象的成本是昂贵的,让我们研究一下垃圾回收器是如何处理大对象的,大对象对程序性能有哪 ...

  8. .Net 垃圾回收和大对象处理 内存碎片整理

    CLR垃圾回收器根据所占空间大小划分对象.大对象和小对象的处理方式有很大区别.比如内存碎片整理 —— 在内存中移动大对象的成本是昂贵的,让我们研究一下垃圾回收器是如何处理大对象的,大对象对程序性能有哪 ...

  9. .Net垃圾回收和大对象处理

    本文引自:http://www.cnblogs.com/yukaizhao/archive/2011/11/21/dot_net_gc_large_object_heap.html CLR垃圾回收器根 ...

  10. 大对象数据LOB的应用(Day_10)

    当你有永不放弃的精神,全力以赴的态度,你会惊叹自己也能创造奇迹! LOB数据类型概述 由于于无结构的数据往往都是大型的,存储量非常大,而LOB(large object)类型主要用来支持无结构的大型数 ...

随机推荐

  1. 数据结构(C语言版 第2版)课后习题答案全集 严蔚敏

    有的小伙伴在网上奋力的找 严蔚敏版 第2版 数据结构 的始终无果,那么我这里就整理好,放在同名公众号中了,也可扫文章末尾的二维码直达公众号,回复数据结构的关键词即可拿到.

  2. [AGC038E] Gachapon

    Problem Statement Snuke found a random number generator. It generates an integer between $0$ and $N- ...

  3. MybatisPlus自定义枚举映射

    1.问题的由来 在平时开发中多多少少肯定会遇到一些例如status...等特殊含义的字段值,虽然传递10:ADMIN,20:NORMAL可以解决业务需求,但是不是很直观 2.使用MP自定义枚举解决 U ...

  4. hello Flask最简单的Flask项目

    # 1.导包 from flask import Flask # 2.实例化Flask对象.一般变量名都叫app,大家都是这样用,很多扩展插件的文档也是叫app,所以统一都叫app. # __name ...

  5. MySQL 8.0.32 InnoDB ReplicaSet 配置和手动切换

    1.环境准备 主库:192.168.137.4 mytest3 从库:192.168.137.5 mytest4 MySQL: 8.0.32 2.配置 ReplicaSet 实例 启动 mysql s ...

  6. 华企盾DSC:wps个人模式无策略组新建的文件仍然加密

    解决方法:右键wps安装目录手动解密即可(原因:wps模板被加密导致)

  7. Java使用HttpUtil.request方法可以发送请求即【Java访问url得到响应数据】

    Java使用HttpUtil.request方法可以发送请求即[Java访问url得到响应数据] 注:这个工具类可以在网上找,也可以自己手写 ,手写的话需要用到以下依赖: <dependency ...

  8. ElasticSearch之Search settings

    相关参数 indices.query.bool.max_clause_count 本参数当前已失效. search.max_buckets 本参数用于控制在单个响应中返回的聚合的桶的数量. 默认值为6 ...

  9. 在Linux上部署.net Core 步骤以及遇到的一些问题

    Linux安装部署手册 一.安装.NET Core SDK centos 7 系统命令为: sudo rpm -Uvh https://packages.microsoft.com/config/ce ...

  10. java:JDBC使用步骤(mysql)java小白的第一篇博客

    1:环境要求 先在你的mysql里面创造一个数据库(并添加一点数据) 下载并导入驱动 2:jdbc的五大步骤 第一步:加载mysql驱动: 1 Class.forName("com.mysq ...