首先由内容阻止所有文件(块大小的约束),然后对于每一个chunk构造单独的一个UDP 数据报进行传输,在应用层的開始是自己定义的包头,有块号,块长度,块指纹等元数据信息,这些信息便于接收端可以按序正确接收。

/*--vonzhou
---this project is to upload file after chunking using
rabin fingerprint, here use UDP so that every packet nodelay.
but we need to ensure the reliability. */ #include "global.h" #define SERV_PORT 2500 typedef struct {
unsigned char fp[20];
int chunk_id;
short flags;
short chunk_len; // The max is 32767 enough
char data[MAX_CHUNK_SIZE];
}TransferUnit; // some flags for this chunk transfered.
enum{
CHUNK_NEED_DEDU = 0x0001, // need deduplication
CHUNK_OTHER = 0x0002 // other for extension
}; FileInfo *fi; int sendUDP(FileInfo *fi,int sockfd,struct sockaddr *pservaddr,socklen_t servlen){
char buf[sizeof(TransferUnit)];
fd_set wrset;
struct timeval tv;
int rlen,wlen, len = 1;
int fd;
int ret;
int i,j;
FingerChunk *p;
TransferUnit unit; //connect to server
if(connect(sockfd,(struct sockaddr *)pservaddr,servlen) == -1)
err_quit("connet error");
else
printf("connect server ok!\n"); fd = open(fi->file_path, O_RDONLY);
if(fd==-1)
err_quit("fopen error %s\n",strerror(errno)); // begin to transfer the file to the server;
i=0;
p = fi->first; while(1){
tv.tv_sec = 1;// tell select to wait 1 second;
tv.tv_usec = 0; FD_ZERO(&wrset);
FD_SET(sockfd,&wrset);
// wait for the socket can write
ret = select(sockfd+1,NULL,&wrset,NULL,&tv);
if(ret == -1)
err_quit("select error %s\n",strerror(errno));
else if(ret==0){
printf("select timeout,continue circle\n");
continue;
} //prepare for writing the socket
memset(&unit, 0, sizeof(unit));
if(FD_ISSET(sockfd,&wrset)){
/* we should first transfer some medadata,like filename,filter feature vector,
*FIXME: file fingerprint to controller? to make a packetin,
*here just let the fp = 20 1s
*/
if(i == 0){
for(j=0;j<20;j++)
unit.fp[j] = 0xff;
unit.chunk_id = 0;
//need not dedu
unit.chunk_len = strlen(fi->file_path);
wlen = write(sockfd, &unit, 28 + strlen(fi->file_path));
if(wlen != (28 + strlen(fi->file_path)))
err_quit("write data to sockfd error:%s\n",strerror(errno));
memset(&unit, 0, sizeof(unit));
} if(p != NULL)
len = p->chunklen;
// the last read , p is null, so cannnot use p->chu
rlen = read(fd, unit.data, len);
if(rlen < 0)
err_quit("fread data error %s\n",strerror(errno));
else if(rlen==0){
//indicate the transfer completed
for(j=0;j<20;j++)
unit.fp[j] = 0xff;
unit.chunk_id = 0;
//need not dedu
unit.chunk_len = 3;
strncpy(unit.data,"end", 3);
wlen = write(sockfd,&unit,28 + 3);
if(wlen !=31)
err_quit("write end flag error:%s\n",strerror(errno)); printf("File %s Transfer Success!\n", fi->file_path);
close(fd);
return 0;
}
// construct this tranfer unit we cannot before read
//bcos the following p pointer used.
for(j=0; j< 20;j++)
unit.fp[j] = p->chunk_hash[j];// 20B fingerprint;
unit.chunk_id = i; // 4B chunk ID
unit.chunk_len = p->chunklen;
unit.flags = CHUNK_NEED_DEDU;
//write to socket
wlen = write(sockfd, &unit, 28+p->chunklen);
if(wlen != (rlen + 28))
err_quit("write data to sockfd error:%s\n",strerror(errno)); i++;
p = p->next;
memset(&unit, 0, sizeof(unit));
usleep(500);
printf("The %d times read\n",i);
}
}// end while(1)
} int main(int argc ,char *argv[])
{
char *fh;
struct sysinfo s_info;
long time1,time2;
int error1,error2;
int sockfd;
struct stat fsize;
struct sockaddr_in servaddr;
error1= sysinfo(&s_info);
time1 = s_info.uptime;
int r;
// FileInfo *fi;
fi = file_new(); if(argc != 3)
err_quit("useage:udpclient<IPaddress>;\n");
bzero(&servaddr,sizeof(servaddr));
servaddr.sin_family= AF_INET;
servaddr.sin_port = htons(SERV_PORT); if(inet_pton(AF_INET,argv[1],&servaddr.sin_addr) <= 0)
err_quit("[%s]is not a valid IPaddress\n",argv[1]); sockfd =socket(AF_INET,SOCK_DGRAM,0); r = fcntl(sockfd, F_GETFL, 0);
fcntl(sockfd, F_SETFL, r & ~O_NONBLOCK); // chunking file
strcpy(fi->file_path, argv[2]);
chunk_file(fi);
printf("File size : %lld\n",fi->file_size);
printf("Chunk Num : %d\n",fi->chunknum); sendUDP(fi, sockfd, (struct sockaddr *)&servaddr,sizeof(servaddr));
close(sockfd); fprintf(stderr,"ServerIP:\t%s\n",argv[1]);
if(stat(argv[2],&fsize) == -1)
perror("failed to get fiel statusi\n");
else
fprintf(stderr,"file name:\t%s\nfile size:\t%dK\n",argv[2],fsize.st_size/1024);
error2=sysinfo(&s_info);
time2 = s_info.uptime;
printf("tranfice file time =%ld seconds\n",(time2-time1));
}

转载请注明出处:http://blog.csdn.net/vonzhoufz/article/details/31429585

版权声明:本文博客原创文章,博客,未经同意,不得转载。

上传文件块client实现的更多相关文章

  1. node 上传文件 http client to post file

    node做http client 发送post数据是很容易的事情,但要上传文件就不是太容易了主要是因为上传文件的报文和普通post是不太一样的 要了解http post可以看下这个 https://i ...

  2. OSS上传文件到阿里云

    最近做项目,需要上传文件,因为上传到项目路径下,感觉有时候也挺不方便的,就试了一下上传文件到阿里云oss上去了, oss的使用网上有很多介绍,都是去配置一下需要的数据,然后直接调用他的api就可以了. ...

  3. PHP上传文件超过了最大文件大小限制导致无法上传成功

    最近的研究<HeadFirst PHP & MySQL>第一本书5章"使用存储在文件中的数据",难道当一个文件上传应用程序,发生了错误.即,文件不能成功上传.这 ...

  4. C 上传文件到服务器(含接收端源码)

    本文demo下载地址:http://www.wisdomdd.cn/Wisdom/resource/articleDetail.htm?resourceId=1067 实例向大家展示了如何用Visua ...

  5. HDFS上传文件

    1.client端向namenode请求上传文件,查看文件是否存在,是否有权限往hdfs写入 2.如果文件不存在,权限OK就根据副本数N(例如2个),根据网络拓扑选择N个离client端最近的data ...

  6. 4 django系列之HTML通过form标签来同时提交表单内容与上传文件

    preface 我们知道提交表单有2种方式,一种直接通过submit页面刷新方法来提交,另一种通过ajax异步局部刷新的方法提交,上回我们说了通过ajax来提交文件到后台,现在说说通过submit来提 ...

  7. PHP socket上传文件图片

    最近了解了下下socket方面的东西,想做一个socket上传文件的例子. 在网上搜了搜代码执行后,图片数据传输了一半,图片的下半部分是灰色的.然后就自己仿着搜来的代码和php.net 中socket ...

  8. WPF上传文件到服务器

    利用WebClient 上传文件到服务器 创建一个空网站,创建一个UploadFile.aspx项, 服务器报500错误:检查文件保存路径是否存在,检查文件大小限制 protected void Pa ...

  9. 通过Ajax使用FormData对象无刷新上传文件

    写在前面:本文说的这个方案有浏览器兼容性问题:所有主流浏览器的较新版本已经支持这个对象了,比如Chrome 7+.Firefox 4+.IE 10+.Opera 12+.Safari 5+,对兼容性比 ...

随机推荐

  1. centos 6.5 升级内核 linux 3.12.17

    环境: 系统硬件:vmware vsphere (CPU:2*4核,内存2G) 系统版本:Linux centos 2.6.32-431.el6.x86_64(Centos-6.5-x86_64-mi ...

  2. PL/SQL“ ORA-14551: 无法在查询中执行 DML 操作”解决

    环境 Oracle 11.2.0 + SQL Plus 问题 根据以下要求编写函数:将scott.emp表中工资低于平均工资的职工工资加上200,并返回修改了工资的总人数.PL/SQL中有更新的操作, ...

  3. mysql安装注意

    mysql安装教程,网上到处都有,我这里就不细说了. 但是有一点要注意,安装完之后,点击MySql 5.5 Command Line Client时,有可能出现一闪而过,打不开mysql的情况: 首先 ...

  4. wpf 模拟3D效果(和手机浏览图片效果相似)(附源码)

    原文 wpf 模拟3D效果(和手机浏览图片效果相似)(附源码) pf的3D是一个很有意思的东西,类似于ps的效果,类似于电影动画的效果,因为动画的效果,(对于3D基础的摄像机,光源,之类不介绍,对于依 ...

  5. 玩转web之javaScript(五)---js和jquery一些不可不知的方法(input篇)

    很多时候我们都利用js和jquery中操作input,比如追加属性,改变属性值等等,我在这里简单的整理了一下,并在以后逐步补充. 1:删除input的某一属性. <input name=&quo ...

  6. 【SICP读书笔记(三)】练习2.18 --- 表序列的reverse方法

    来自练习2.18 请定义出过程reverse,它以一个表为参数,返回的表中所包含的元素与参数表相同,但排列顺序与参数表相反: (reverse (list 1 4 9 16 25)) (25 16 9 ...

  7. 特征选择(三)-K-L变换

    上一讲说到,各个特征(各个分量)对分类来说,其重要性当然是不同的. 舍去不重要的分量,这就是降维. 聚类变换觉得:重要的分量就是能让变换后类内距离小的分量. 类内距离小,意味着抱团抱得紧. 可是,抱团 ...

  8. 国内三大PTPrivate Tracker站分析

    除这一行外,下面全部内容都是转载.出处不明. 国内三大PT(Private Tracker)站分析 先郑重的声明一下:本文以下的内容所有是复制粘贴的,不代表老夫的观点. 事实上内容我也没细致看. 贴这 ...

  9. Android自己主动化測试——CTS測试

    一.为什么须要兼容性測试(下面称CTS)? 1.1.让APP提供更好的用户体验.用户能够选择很多其它的适合自己设备的APP.让APP更稳定. 1.2.让开发人员设计更高质量的APP. 1.3.通过CT ...

  10. Ubuntu14.04下安装ZendStudio10.6.1+SVN出现Failed to load JavaHL Library

    Subclipse不能正常工作,打开后报错: Failed to load JavaHL Library. These are the errors that were encountered: no ...