CURL 实战下载
- #include <string>
- #include <stdio.h>
- #include <iostream>
- #include<fstream>
- #include "curl.h"
- #ifdef WIN32
- #include <corecrt_io.h>
- #else
- #include "unistd.h"
- #include<unistd.h>
- #endif
- #include "curl_http.h"
- #include "md5.h"
- #include "OperateFile.h"
- using namespace std;
- curl_http::curl_http()
- : list(NULL)
- {
- }
- curl_http::~curl_http()
- {
- if (list)
- {
- curl_slist_free_all(list);
- }
- }
- void curl_http::add_header(const std::string & header)
- {
- list = curl_slist_append(list, header.c_str());
- }
- static size_t OnWriteData(void* buffer, size_t size, size_t nmemb, void* lpVoid)
- {
- std::string* str = dynamic_cast<std::string*>((std::string *)lpVoid);
- if (NULL == str || NULL == buffer)
- {
- return -1;
- }
- char* pData = (char*)buffer;
- str->append(pData, size * nmemb);
- return nmemb;
- }
- int curl_http::Post(std::string strUrl, std::string strPost, int& statusCode, std::string& strResponse) {
- CURLcode res;
- CURL* curl = curl_easy_init();
- if (NULL == curl)
- {
- return CURLE_FAILED_INIT;
- }
- curl_easy_setopt(curl, CURLOPT_URL, strUrl.c_str());
- if (list)
- {
- curl_easy_setopt(curl, CURLOPT_HTTPHEADER, list);
- }
- curl_easy_setopt(curl, CURLOPT_SSL_VERIFYPEER, 0L); //验证SSL证书
- curl_easy_setopt(curl, CURLOPT_SSL_VERIFYHOST, 0L); //验证主机名的SSL
- curl_easy_setopt(curl, CURLOPT_POST, 1); //发送一个HTTP POST要求
- curl_easy_setopt(curl, CURLOPT_POSTFIELDS, strPost.c_str()); //用这个数据发送一个POST
- curl_easy_setopt(curl, CURLOPT_READFUNCTION, NULL); //读取数据回调
- curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, OnWriteData); //写入数据的回调
- curl_easy_setopt(curl, CURLOPT_WRITEDATA, (void *)&strResponse); //数据指针传递给写回调
- curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1); //不安装信号处理程序
- curl_easy_setopt(curl, CURLOPT_TIMEOUT, 3); //整个请求超时时间
- curl_easy_setopt(curl, CURLOPT_CONNECTTIMEOUT, 3); //连接阶段超时时间
- curl_easy_setopt(curl, CURLOPT_USERAGENT, "pc_student"); //用户代理:标头
- res = curl_easy_perform(curl);
- curl_easy_getinfo(curl, CURLINFO_RESPONSE_CODE, &statusCode);
- curl_easy_cleanup(curl);
- return res;
- }
- static size_t OnWriteFile(void* buffer, size_t size, size_t nmemb, void* lpVoid)
- {
- FILE* stream = (FILE*)lpVoid;
- if (nullptr == stream || nullptr == buffer)
- {
- return -1;
- }
- size_t nWrite = fwrite(buffer, size, nmemb, stream);
- return nWrite;
- }
- int OnProgress(void *ptr, double totalToDownload, double nowDownloaded, double totalToUpLoad, double nowUpLoaded)
- {
- int tmp = 0;
- long localLen = *(long*)ptr;
- if ( totalToDownload > 0 )
- {
- tmp = (int)((nowDownloaded + (double)localLen) / (totalToDownload + (double)localLen) * 100);
- }
- printf("下载进度%0d%%\r", tmp);
- return 0;
- }
- size_t ProgressFunc(double* pFileLen,
- double t,// 下载时总大小
- double d, // 已经下载大小
- double ultotal, // 上传是总大小
- double ulnow) // 已经上传大小
- {
- if(t == 0) return 0;
- *pFileLen = d;
- return 0;
- }
- curl_http_downloader::curl_http_downloader(const std::string& name)
- : m_file(nullptr)
- , m_TargetName(name)
- , m_progress(nullptr)
- {
- }
- curl_http_downloader::~curl_http_downloader()
- {
- }
- bool curl_http_downloader::DownloadFileContent(const std::string& url,
- const std::string& Targetfilepath,
- const std::string& Temfilepath,
- string SizeRange)
- {
- CURLcode res;
- if(OpenFile(Temfilepath,m_file) || OpenFile(Targetfilepath,m_ExitFile))
- return false;
- CURL* _curl = curl_easy_init();
- if (nullptr == _curl)
- {
- CloseFile(m_file);
- CloseFile(m_ExitFile);
- return false;
- }
- curl_easy_setopt(_curl, CURLOPT_URL, url.c_str());
- curl_easy_setopt(_curl, CURLOPT_WRITEFUNCTION, OnWriteFile);
- curl_easy_setopt(_curl, CURLOPT_WRITEDATA, m_file);
- curl_easy_setopt(_curl, CURLOPT_NOPROGRESS, false);
- curl_easy_setopt(_curl, CURLOPT_PROGRESSFUNCTION, OnProgress);
- curl_easy_setopt(_curl, CURLOPT_NOSIGNAL, 1L);
- curl_easy_setopt(_curl, CURLOPT_LOW_SPEED_LIMIT, 1L);
- curl_easy_setopt(_curl, CURLOPT_LOW_SPEED_TIME, 5L);
- curl_easy_setopt(_curl, CURLOPT_HEADER, 0L);
- curl_easy_setopt(_curl, CURLOPT_NOBODY, 0L);
- curl_easy_setopt(_curl, CURLOPT_FOLLOWLOCATION, 1L);
- //curl_easy_setopt(_curl, CURLOPT_MAX_RECV_SPEED_LARGE, (curl_off_t)1000);
- if (SizeRange == "")
- curl_easy_setopt(_curl, CURLOPT_RESUME_FROM, m_LocalFilelen);
- else
- curl_easy_setopt(_curl, CURLOPT_RANGE, SizeRange.c_str());
- curl_easy_setopt(_curl, CURLOPT_PROGRESSDATA, &m_LocalFilelen);
- res = curl_easy_perform(_curl); //完成curl_easy_setopt指定的所有选项,并返回状态
- curl_easy_cleanup(_curl);
- CloseFile(m_file);
- CloseFile(m_ExitFile);
- if (CURLE_OK == res)
- return true;
- else
- return false;
- }
- int curl_http_downloader::Download(const std::string& url, const std::string& path, progressFunc func,string CurrectMD5)
- {
- m_filePath = path;
- #ifdef WIN32
- m_TargetFileNamepath = m_filePath + "temp.downloading";
- m_Tempinterfilepath = m_filePath + "temp";
- #else
- m_TargetFileNamepath = m_filePath + "temp.downloading";
- m_Tempinterfilepath = m_filePath + "temp";
- #endif
- m_LocalFilelen = GetFileLength(m_TargetFileNamepath); //获取已下载文件大小
- bool CricleFlags = true; //CricleFlags为dfalse时,说明下载文件错误,重新下载错误部分
- bool Downloadflags = true; //Downloadflags为dfalse时,将进行下载与拼接
- string range = "";
- do{
- bool result = DownloadFileContent(url, m_TargetFileNamepath, m_Tempinterfilepath, range);
- if (result) {
- std::string fullName = m_filePath + m_TargetName;
- if(Downloadflags)
- MergerFile(m_Tempinterfilepath,m_TargetFileNamepath);
- else
- ToRightMergerFile(m_TargetFileNamepath, m_Tempinterfilepath);
- string m_fileMD5 = MD5::getFileMd5(m_TargetFileNamepath);
- int bmoved = 0;
- #ifdef WIN32
- if (_access(m_TargetFileNamepath.c_str(), 0) == 0)
- remove(fullName.c_str());
- #else
- if (access(m_TargetFileNamepath.c_str(), 0) == 0)
- remove(fullName.c_str());
- #endif // WIN 32
- if(CurrectMD5 == m_fileMD5){ //MD5校验
- bmoved = rename(m_TargetFileNamepath.c_str(), fullName.c_str());
- remove(m_Tempinterfilepath.c_str());
- CricleFlags = true;
- }
- else{
- ExchangFileName(m_Tempinterfilepath, m_TargetFileNamepath);
- remove(m_Tempinterfilepath.c_str());
- if((Downloadflags = !Downloadflags))
- range = "";
- else
- range = "0-" + to_string(m_LocalFilelen-1) ;
- CricleFlags = false;
- }
- if (bmoved) {
- //std::cerr << "move file: " << m_fileNameTmp << " to: " << fullName <<" failed! ";
- return -1;
- }
- }
- else{
- if(GetFileLength(m_Tempinterfilepath)){
- MergerFile(m_Tempinterfilepath,m_TargetFileNamepath);
- remove(m_Tempinterfilepath.c_str());
- }
- }
- }while(!CricleFlags);
- CloseFile(m_file);
- CloseFile(m_ExitFile);
- return 0;
- }
- int curl_http_downloader::Pause() {
- if (nullptr != m_download_info) {
- m_download_info->status = PAUSED;
- }
- return 0;
- }
CURL 实战下载的更多相关文章
- curl -O 下载文件
curl -O 下载文件 学习了:http://blog.csdn.net/wulong710/article/details/53127606 curl -O http://a.b.c/a.tar ...
- Linux如何使用cURL分割下载大文件
Linux如何使用cURL分割下载大文件 - 51CTO.COM http://os.51cto.com/art/201508/489368.htm
- curl多线程下载类
<?php /** * curl多线程下载类 */class MultiHttpRequest{ public $urls = array (); private $res = array () ...
- Python简单网络爬虫实战—下载论文名称,作者信息(下)
在Python简单网络爬虫实战—下载论文名称,作者信息(上)中,学会了get到网页内容以及在谷歌浏览器找到了需要提取的内容的数据结构,接下来记录我是如何找到所有author和title的 1.从sou ...
- Windows系统下curl的下载和配置
curl的下载和配置 简介:用URL规则在命令行下工作的文件传输工具. 下载:下载地址为 https://curl.haxx.se/download.html,在最底部找到Windows的版本,我下载 ...
- C++代码利用pthread线程池与curl批量下载地图瓦片数据
项目需求编写的程序,稳定性有待进一步测试. 适用场景:在网络地图上,比如天地图与谷歌地图,用户用鼠标在地图上拉一个矩形框,希望下载该矩形框内某一层级的瓦片数据,并将所有瓦片拼接成一个完整的,包含地理坐 ...
- curl定时任务下载执行
服务器入侵后有定时任务执行如下,通过cron,下载脚本并执行!达到杀不死的木马进程 */5 * * * * curl -fsSL http://xxxx/pm.sh?0111 | sh curl参数解 ...
- Linux curl 命令下载文件
引用自http://blog.csdn.net/wh211212/article/details/54285921 命令:curl 在Linux中curl是一个利用URL规则在命令行下工作的文件传输工 ...
- wget和curl方式下载JDK
有时候我们需要在Linux服务器上安装Oracle JDK,这时候我们发现直接复制网页上面的地址是不能下载的 以下载jdk-8u101-linux-i586.tar.gz为例,右键查看到的地址为htt ...
随机推荐
- object_pool对象池
object_pool对象池 object_pool是用于类实例(对象)的内存池,它能够在析构时调用所有已经分配的内存块调用析构函数,从而正确释放资源,需要包含以下头文件: #include < ...
- 如何屏蔽 iOS 软件自动更新,去除更新通知和标记
适用于 iOS.iPadOS 和 watchOS,即 iPhone.iPad 和 Apple Watch 通用. 请访问原文链接:https://sysin.org/article/Disable-i ...
- 你是不是对MD5算法有误解?
大家常听到"MD5加密"."对称加密"."非对称加密",那么MD5属于哪种加密算法? 面试问这样的问题,准是在给你挖坑. "MD5 ...
- 第三方跨平台进程和系统监控库gopsutil
gopsutil psutil是一个跨平台进程和系统监控的Python库,而gopsutil是其Go语言版本的实现.本文介绍了它的基本使用. Go语言部署简单.性能好的特点非常适合做一些诸如采集系统信 ...
- Step By Step(Lua系统库)
Step By Step(Lua系统库) Lua为了保证高度的可移植性,因此,它的标准库仅仅提供了非常少的功能,特别是和OS相关的库.但是Lua还提供了一些扩展库,比如Posix库等.对于文件操作而言 ...
- conda 按照指定源下载python包
conda 按照指定源下载python包 换成了国内的pip源就可以正常安装了,我使用的是:pip install xlrd -i http://pypi.douban.com/simple --tr ...
- 自动驾驶QNX,Linux,Autosar概述
自动驾驶QNX,Linux,Autosar概述 QNX是一个分布式.嵌入式.可规模扩展的实时操作系统.遵循POSIX.1 (程序接口)和POSIX.2 (Shell和工具).部分遵循POSIX.1b( ...
- TVM量化小结手册
TVM量化小结手册 文章目录 Offical References TVM quantization roadmap INT8 quantization proposal Quantization S ...
- Bayer滤镜转换颜色方案
Bayer滤镜如何转换颜色? Bayer模式是颜色模式,被广泛应用于CCD和CMOS摄像头.相机使用了拜耳滤镜,分别过滤得到红绿蓝三种颜色.既然要得到的是红绿蓝频段光线的强度,要通过的就是红绿蓝光,就 ...
- OpenGL在图形管道中调用了什么用户模式图形驱动程序(UMD)?
OpenGL在图形管道中调用了什么用户模式图形驱动程序(UMD)? 图形硬件供应商,需要为显示适配器编,编写用户模式显示驱动程序.用户模式显示驱动程序,是由Microsoft Direct3D运行时加 ...