CLion之C++框架篇-优化开源框架,引入curl,实现get方式获取资源(四)
 
cmake_minimum_required(VERSION 3.11.2) project(work) message(STATUS "start load boost ========================================")
# BOOST
## 设置个变量控制
SET(BOOST_MIN_VERSION "1.67.0")
## 动态查找
FIND_PACKAGE(Boost ${BOOST_MIN_VERSION} REQUIRED)
if(NOT Boost_FOUND)
message(FATAL_ERROR "Fatal error:Boost (version >=${BOOST_MIN_VERSION}) required.\n")
endif()
message(STATUS "Boost_INCLUDE_DIRS: ${Boost_INCLUDE_DIRS}")
message(STATUS "Boost_LIBRARIES: ${BOOST_LIBRARY_DIRS}")
message(STATUS "Boost_VERSION: ${Boost_VERSION}")
## 头文件
INCLUDE_DIRECTORIES(${Boost_INCLUDE_DIRS})
LINK_DIRECTORIES(${Boost_LIBRARY_DIRS})
# .BOOST
message(STATUS "end load boost ========================================") # 编译google test,会在当前目录生成libtest.a静态库
add_subdirectory(lib/ext/googletest) #头文件
INCLUDE_DIRECTORIES(${PROJECT_SOURCE_DIR}/src/include ${PROJECT_SOURCE_DIR}lib/ext/googletest/include) #库文件 : libtest.a 添加到链接路径中
link_directories(${PROJECT_SOURCE_DIR}/lib ${PROJECT_SOURCE_DIR}/lib/ext/googletest /usr/local/opt/curl/lib/) #编译器相关设置
set(CMAKE_RUNTIME_OUTPUT_DIRECTORY "${CMAKE_CURRENT_SOURCE_DIR}/output/bin")
set(LIBRARIES pthread)
set(CMAKE_CXX_STANDARD 11)
set(CMAKE_CXX_COMPILER "clang++" ) # 显示指定使用的C++编译器
set(CMAKE_CXX_FLAGS "-g") # 调试信息
set(CMAKE_CXX_FLAGS "-Wall") # 开启所有警告
set(CMAKE_CXX_FLAGS "-lboost_date_time-mt-d") # boost #源码目录
FILE(GLOB_RECURSE SOURCEFILES ${PROJECT_SOURCE_DIR}/src/utility/*.cpp)
FILE(GLOB_RECURSE TEST_SOURCEFILES ${PROJECT_SOURCE_DIR}/src/test/*.cpp) add_custom_target(cmake-build-debug)
add_executable(${PROJECT_NAME} ${PROJECT_SOURCE_DIR}/src/main/main.cpp ${SOURCEFILES})
add_executable(work_test ${TEST_SOURCEFILES} ${SOURCEFILES}) target_link_libraries(${PROJECT_NAME} gtest ${Boost_LIBRARIES} curl)
target_link_libraries(work_test gtest ${Boost_LIBRARIES} curl)
 
//
// Created by Zhou,Baochuan on 18/6/5.
// #ifndef WORK_HTTP_H
#define WORK_HTTP_H #include "common.h"
#include <curl/curl.h> namespace work {
class Http {
public:
Http();
~Http();
static string get(string url, unsigned retries = 3);
};
} #endif //WORK_HTTP_H
注意:get方法中增加了retries重试机制。在实现中看一下细节!

//
// Created by Zhou,Baochuan on 18/6/5.
// #include "http.h" using namespace work; Http::Http()
{
curl_global_init(CURL_GLOBAL_NOTHING);
} Http::~Http()
{
curl_global_cleanup();
} size_t req_reply(void* ptr, size_t size, size_t nmemb, void* stream) {
//cout << "----->reply" << endl;
std::string* str = (std::string*)stream;
//cout << *str << endl;
(*str).append((char*)ptr, size * nmemb);
return size * nmemb;
}
string Http::get(string url, unsigned int retries)
{
string response;
CURL *curl;
struct curl_slist *headers = NULL;
//headers = curl_slist_append(headers, "Accept: Agent-007"); curl = curl_easy_init() ;
if (curl) {
//curl_easy_setopt(curl, CURLOPT_PROXY, "10.99.60.201:8080");// 代理
curl_easy_setopt(curl, CURLOPT_HTTPHEADER, headers);
curl_easy_setopt(curl, CURLOPT_URL, url.c_str());
curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, req_reply);
curl_easy_setopt(curl, CURLOPT_WRITEDATA, (void*) &response);
//curl_easy_setopt(curl, CURLOPT_VERBOSE, 1);
curl_easy_setopt(curl, CURLOPT_TIMEOUT, 0); // 传输超时
curl_easy_setopt(curl, CURLOPT_CONNECTTIMEOUT, 0); // 连接超时
curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1L);
curl_easy_setopt(curl, CURLOPT_FORBID_REUSE, 1);
CURLcode res = curl_easy_perform(curl); // 执行 // 重试
while (res != CURLE_OK && --retries > 0) {
res = curl_easy_perform(curl); // 执行
} curl_easy_cleanup(curl);
}
curl_slist_free_all(headers);
return response;
}
测试代码:

#include "common.h"
#include "http.h"
#include <gtest/gtest.h> using namespace work; // curl版本要求
TEST(curl, all)
{
EXPECT_EQ(3, CURLVERSION_NOW);
Http http;
string url = "http://47.95.220.249/";
ASSERT_FALSE(http.get(url).empty());
}
1、解决线程安全及避免core错误问题方式
1) curl_global_init()在多线程环境下,是线程不安全的。所以在多线程环境下,要在主线程中调用这个方法。配套的,在主线程中调用curl_global_cleanup()方法。
2)curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1L); 控制域名解析的超时,其需要一个sigjmp_buf型的全局变量,多线程时会修改它。
3) curl_easy_setopt(curl, CURLOPT_FORBID_REUSE, 1);默认情况下libcurl完成一个任务以后,出于重用连接的考虑不会马上关闭。如果没有新的TCP请求来重用这个连接,那么只能等到CLOSE_WAIT超时,这个时间默认在7200秒甚至更高,太多的CLOSE_WAIT连接会导致性能问题
2、要想让curl_easy_perform(),能够执行,必须得有个配套方法curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, req_reply);

CLion之C++框架篇-优化开源框架,引入curl,实现get方式获取资源(四)的更多相关文章
- CLion之C++框架篇-优化框架,引入boost(三)
		背景 结合上一篇CLion之C++框架篇-优化框架,单元测试(二),继续进行框架优化!这一版优化引入一个我们日常经常使用的操作库Boost,估算使用频率在70%以上! Boost的优势在哪 ... 
- [转]Android中Xposed框架篇—利用Xposed框架实现拦截系统方法
		一.前言 关于Xposed框架相信大家应该不陌生了,他是Android中Hook技术的一个著名的框架,还有一个框架是CydiaSubstrate,但是这个框架是收费的,而且个人觉得不怎么好用,而Xpo ... 
- CLion之C++框架篇-优化框架,单元测试(二)
		背景 结合上一篇CLion之C++框架篇-安装工具,基础框架的搭建(一),继续进行框架优化! googletest(GTest)是Google开源的C++测试框架,与CLion组合,对C++环 ... 
- 转载一篇c++开源框架和库
		值得学习的C语言开源项目 -1. Webbench Webbench是一个在linux下使用的非常简单的网站压测工具.它使用fork()模拟多个客户端同时访问我们设定的URL,测试网站在压力下工作的性 ... 
- [转载] Android中Xposed框架篇---利用Xposed框架实现拦截系统方法
		本文转载自: http://www.wjdiankong.cn/android%E4%B8%ADxposed%E6%A1%86%E6%9E%B6%E7%AF%87-%E5%88%A9%E7%94%A8 ... 
- 开源框架.netCore DncZeus学习(五)下拉树的实现
		千里之行,始于足下,先从一个小功能研究起,在菜单管理页面有一个下拉树,先研究下它怎么实现的 1.先找到menu.vue页面 惯性思维先搜索请选择三个字,原来是动态生成的 再向上找DropDown组件, ... 
- 开源框架.netCore DncZeus学习(四)项目升级
		今天发现开源代码从1.0.0.1升级到了1.0.1.0,主要去掉了id主键,升级办法打开DncZeus,右键Git Bash Here,输入以下命令 合并失败,因为上一节尝试修改了几个代码,解决办法 ... 
- 开源框架.netCore DncZeus学习(三)增加一个菜单
		框架运行起来了,先尝试增加一个菜单. 本节增加一个菜单名字:公司管理,需要注意一点,所有的name都要保持一致,注意圈中部分.为了防止手敲代码出错,建议复制已有的代代码进行修改(比如这里用的Role页 ... 
- 开源框架.netCore DncZeus学习(二)配置连接
		配置连接字符串,update-database,初始数据后,访问报错,提示offset错误.因为本机上使用的sql2008. .net Core 2.X中的EF访问sqlserver2008默认使用的 ... 
随机推荐
- http 6000端口 chrome  ERR_UNSAFE_PORT
			参考原因 折腾了半天.chrome的提示真不够意思,还是火狐的提示厉害,知道真相的我眼泪流下来. 
- Python数据库连接池DBUtils
			Python数据库连接池DBUtils DBUtils是Python的一个用于实现数据库连接池的模块. 此连接池有两种连接模式: 模式一:为每个线程创建一个连接,线程即使调用了close方法,也不 ... 
- 自定义扩展实现相对于addRoutes的removeRoutes方法——vue-router
			使用vue-router的addRoutes方法做登录权限控制,当用户推出登录回到login页后,切换不同权限的账号,如果不reload页面,会导致router权限问题,故在vue-router代码中 ... 
- Go 学习
			学习Golang,可以在线实践:https://www.tutorialspoint.com/go/index.htm 
- iOS.redefinition-of-struct-x
			Error: Redefinition of struct x Reference 
- 关于CDN与缓存(浏览器和CDN)
			本文目录:一.引入 二.CDN定义 三.关于缓存 四.浏览器缓存 一.引入 客户端直接从源站点获取数据,当服务器访问量大时会影响访问速度,进而影响用户体验,且无法保证客户端与源站点间的距离足够短,适合 ... 
- 博客1--tensorflow的图像基本处理操作
			话不多,具体内容在开源中国里我的博客:https://my.oschina.net/u/3770644 代码: #!/usr/bin/env python# -*- coding:utf-8 -*-# ... 
- C#下载Url文件到本地
			protected void Page_Load(object sender, EventArgs e) { string filePath = Request.Params["FilePa ... 
- js 选择指定区域
			/根据id 选择特定区域function SelectRange(id) { var div = document.getElementById(id); var controlRange; if ( ... 
- 推荐一款Notepad++主题Dracula
			https://draculatheme.com/notepad-plus-plus/ Activating theme Go to %AppData%\Notepad++\themes Place ... 
