Node.js m03122图片批量下载爬虫1.00
//====================================================== // m03122图片批量下载爬虫1.00 // 2017年11月18日 //====================================================== // 内置http模块 var http=require("http"); // 内置文件处理模块,用于创建目录和图片文件 var fs=require('fs'); // cheerio模块,提供了类似jQuery的功能,用于从HTML code中查找图片地址和下一页 var cheerio = require("cheerio"); // 请求参数JSON。http和https都有使用 var options; // request请求 var req; // 图片数组,找到的图片地址会放到这里 var pictures=[]; // 存放图片的目录 var folder=""; //-------------------------------------- // 爬取网页,找图片地址,再爬 // pageUrl sample:http://m.03122.com/xinggan/14428/ // pageUrl sample: //-------------------------------------- function crawl(pageUrl){ console.log("Current page="+pageUrl); // 得到hostname和path var currUrl=pageUrl.replace("http://",""); var pos=currUrl.indexOf("/"); var hostname=currUrl.slice(0,pos); var path=currUrl.slice(pos); //console.log("hostname="+hostname); //console.log("path="+path); // 初始化options options={ hostname:hostname, port:80, path:path,// 子路径 method:'GET', }; req=http.request(options,function(resp){ var html = []; resp.on("data", function(data) { html.push(data); }) resp.on("end", function() { var buffer = Buffer.concat(html); var body=buffer.toString(); //console.log(body); var $ = cheerio.load(body); var picCount=0; // 找图片放入数组 $(".post-content a mip-img").each(function(index,element){ var picUrl=$(element).attr("src"); console.log(picUrl); if(picUrl.indexOf('.jpg')!=-1){ pictures.push(picUrl); picCount++; } }) console.log("找到图片"+picCount+"张."); var nextPageUrl=null; // 找下一页 $(".infoPages a").each(function(index,element){ var text=$(element).text(); if(text.indexOf('下一页')!=-1){ nextPageUrl=$(element).attr("href"); //console.log("找到下一页="+nextPageUrl); } }) // 用正则表达式分析判别是否最后一页 var curr=0; var total=0; $(".infoPages span").each(function(index,element){ var htm=$(element).html();// <em>2</em>/47 var reg=/<em>(\d+)<[/]em>[/](\d+)/g; var res; while((res = reg.exec(htm)) != null){ curr=parseInt(res[1]); //console.log("curr="+curr); total=parseInt(res[2]); //console.log("total="+total); } }) if(nextPageUrl==null || curr>=total){ console.log(pageUrl+"已经是最后一页了.\n"); saveFile(pageUrl,pictures);// 保存 download(pictures); }else{ console.log("继续下一页"); crawl(nextPageUrl); } }).on("error", function() { saveFile(pageUrl,pictures);// 保存 console.log("crawl函数失败,请进入断点续传模式继续进行"); }) }); // 超时处理 req.setTimeout(7500,function(){ req.abort(); }); // 出错处理 req.on('error',function(err){ console.log('请求发生错误'+err); saveFile(pageUrl,pictures);// 保存 console.log("crawl函数失败,请进入断点续传模式继续进行"); }); // 请求结束 req.end(); } //-------------------------------------- // 下载图片 //-------------------------------------- function download(pictures){ var total=0; total=pictures.length; console.log("总计有"+total+"张图片将被下载."); appendToLogfile(folder,"总计有"+total+"张图片将被下载.\n"); for(var i=0;i<pictures.length;i++){ var picUrl=pictures[i]; downloadPic(picUrl,folder); } } //-------------------------------------- // 写log文件 //-------------------------------------- function appendToLogfile(folder,text){ fs.appendFile('./'+folder+'/log.txt', text, function (err) { if(err){ console.log("不能书写log文件"); console.log(err); } }); } //-------------------------------------- // 取得当前时间 //-------------------------------------- function getNowFormatDate() { var date = new Date(); var seperator1 = "-"; var seperator2 = "_"; var month = date.getMonth() + 1; var strDate = date.getDate(); if (month >= 1 && month <= 9) { month = "0" + month; } if (strDate >= 0 && strDate <= 9) { strDate = "0" + strDate; } var currentdate =date.getFullYear() + seperator1 + month + seperator1 + strDate + " " + date.getHours() + seperator2 + date.getMinutes() + seperator2 + date.getSeconds(); return currentdate; } //-------------------------------------- // 下载单张图片 // picUrl sample:http://img.cdjqjy.com/pic/scimg/2017/02-22/1487731179884350759.jpg //-------------------------------------- function downloadPic(picUrl,folder){ console.log("图片:"+picUrl+"下载开始"); // 得到hostname,path和port var currUrl=picUrl.replace("http://",""); var pos=currUrl.indexOf("/"); var hostname=currUrl.slice(0,pos); var path=currUrl.slice(pos); // 有端口加端口,没有端口默认80 var port=80; //console.log("hostname="+hostname); //console.log("path="+path); //console.log("port="+port); var picName=currUrl.slice(currUrl.lastIndexOf("/")); // 初始化options options={ hostname:hostname, port:port, path:path, method:'GET', }; req=http.request(options,function(resp){ var imgData = ""; resp.setEncoding("binary"); resp.on('data',function(chunk){ imgData+=chunk; }); resp.on('end',function(){ // 创建文件 var fileName="./"+folder+picName; fs.writeFile(fileName, imgData, "binary", function(err){ if(err){ console.log("[downloadPic]文件 "+fileName+" 下载失败."); console.log(err); appendToLogfile(folder,"文件 "+picUrl+" 下载失败.\n"); }else{ appendToLogfile(folder,"文件 "+picUrl+" 下载成功.\n"); console.log("文件"+fileName+"下载成功"); } }); }); }); // 超时处理 req.setTimeout(7500,function(){ req.abort(); }); // 出错处理 req.on('error',function(err){ if(err){ console.log('[downloadPic]文件 '+picUrl+" 下载失败,"+'因为'+err); appendToLogfile(folder,"文件"+picUrl+"下载失败.\n"); } }); // 请求结束 req.end(); } //-------------------------------------- // 程序入口 //-------------------------------------- function getInput(){ process.stdin.resume(); process.stdout.write("\033[33m 新建模式输入第一页URL,断点续传模式输入0,请输入: \033[39m");// 草黄色 process.stdin.setEncoding('utf8'); process.stdin.on('data',function(text){ var input=text.trim(); process.stdin.end();// 退出输入状态 if(text.trim()=='0'){ process.stdout.write("\033[36m 进入断点续传模式. \033[39m"); // 蓝绿色 // Read File fs.readFile('./save.dat','utf8',function(err,data){ if(err){ console.log('读取文件save.dat失败,因为'+err); }else{ //console.log(data); var obj=JSON.parse(data); pictures=obj.pictures; console.log('提取图片'+pictures.length+'张'); folder=obj.folder; // 创建目录 fs.mkdir('./'+folder,function(err){ if(err){ console.log("目录"+folder+"已经存在"); } }); crawl(obj.url); } }); // Resume crawl }else{ process.stdout.write("\033[35m 进入新建模式. \033[039m"); //紫色 folder='pictures('+getNowFormatDate()+")"; // 创建目录 fs.mkdir('./'+folder,function(err){ if(err){ console.log("目录"+folder+"已经存在"); } }); crawl(input); } }); } //-------------------------------------- // 将爬行中信息存入数据文件 //-------------------------------------- function saveFile(url,pictures){ var obj=new Object; obj.url=url; obj.pictures=pictures; obj.folder=folder; var text=JSON.stringify(obj); fs.writeFile('./save.dat',text,function(err){ if(err){ console.log('写入文件save.dat失败,因为'+err); } }); } // 调用getInput函数,程序开始 getInput();
2017年11月18日15:11:16
Node.js m03122图片批量下载爬虫1.00的更多相关文章
- Node.js mzitu图片批量下载爬虫1.00
又攻下一座山头. //====================================================== // mzitu图片批量下载爬虫1.00 // 2017年11月19 ...
- Node.js 4493图片批量下载爬虫1.00
这个爬虫依然需要iconv转码,想不到如今非utf8的网页还这么多.另外此网页找下一页的方式比较异常,又再次借助了正则表达式. 代码如下: //============================ ...
- Node.js monly图片批量下载爬虫1.00
此爬虫又用到了iconv转码,代码如下: //====================================================== // mmonly图片批量下载爬虫1.00 ...
- Node.js mm131图片批量下载爬虫1.00 iconv协助转码
//====================================================== // mm131图片批量下载爬虫1.00 // 2017年11月15日 //===== ...
- Node.js mimimn图片批量下载爬虫 1.00
这个爬虫在Referer设置上和其它爬虫相比有特殊性.代码: //====================================================== // mimimn图片批 ...
- Node.js nvshens图片批量下载爬虫 1.00
//====================================================== // www.nvshens.com图片批量下载Node.js爬虫1.00 // 此程 ...
- Node.js mm131图片批量下载爬虫1.01 增加断点续传功能
这里的断点续传不是文件下载时的断点续传,而是指在爬行页面时有时会遇到各种网络中断而从中断前的页面及其数据继续爬行的过程,这个过程和断点续传原理上相似故以此命名.我的具体做法是:在下载出现故障或是图片已 ...
- Node.js abaike图片批量下载爬虫1.02
//====================================================== // abaike图片批量下载爬虫1.02 // 用最近的断点续传框架改写原有1.01 ...
- Node.js nvshens图片批量下载爬虫1.01
//====================================================== // nvshens图片批量下载爬虫1.01 // 用最近的断点续传框架改写原有1.0 ...
随机推荐
- 如何开启apache的PHP-FPM实例
PHP-FPM 作为 FastCGI 进程管理器而广为熟知,它是PHPFastCGI 实现的改进,带有更为有用的功能,用于处理高负载的服务器和网站.下面列出其中一些功能: 新功能 拥有具有优雅(gra ...
- linux下LD_PRELOAD的用处
linux下LD_PRELOAD的用处 在UNIX的动态链接库的世界中,LD_PRELOAD就是这样一个环境变量,它可以影响程序的运行时的链接(Runtime linker),它允许你定义在程序运行前 ...
- 转:fortios 5.4后门植入
提示: 1.经过实验,fortios 5.4 beta4也是可以的. 2.在实验时,选择先下载fortios 5.2(做了快照),再升级5.4,则虚拟机挂载需要选择FortiGate-VM-disk1 ...
- Luogu P3178 树上操作(树链剖分+线段树)
题意 见原题 题解 重链剖分模板题 #include <cstdio> #include <algorithm> using std::swap; typedef long l ...
- 【BZOJ 2802】 2802: [Poi2012]Warehouse Store (贪心)
2802: [Poi2012]Warehouse Store Description 有一家专卖一种商品的店,考虑连续的n天.第i天上午会进货Ai件商品,中午的时候会有顾客需要购买Bi件商品,可以选择 ...
- 【BZOJ 1150】 1150: [CTSC2007]数据备份Backup (贪心+优先队列+双向链表)
1150: [CTSC2007]数据备份Backup Description 你在一家 IT 公司为大型写字楼或办公楼(offices)的计算机数据做备份.然而数据备份的工作是枯燥乏味 的,因此你想设 ...
- luogu P1440 求m区间内的最小值
题目描述 一个含有n项的数列(n<=2000000),求出每一项前的m个数到它这个区间内的最小值.若前面的数不足m项则从第1个数开始,若前面没有数则输出0. 输入输出格式 输入格式: 第一行两个 ...
- [BZOJ4824][CQOI2017]老C的键盘(树形DP)
4824: [Cqoi2017]老C的键盘 Time Limit: 10 Sec Memory Limit: 512 MBSubmit: 193 Solved: 149[Submit][Statu ...
- 【最大权森林/Kruskal】POJ3723-Conscription
[题目大意] 招募m+n个人每人需要花费$10000,给出一些关系,征募某个人的费用是原价-已招募人中和他亲密值的最大值,求最小费用. [思路] 人与人之间的亲密值越大,花费越少,即求出最大权森林,可 ...
- 20162312 实验一 Linux基础与Java开发环境
实 验 报 告 课程:程序设计与数据结构 姓名:张家铖 班级:1623 学号:20162312 实验名称: Linux基础与Java开发环境 实验器材:msi GL62M 7RD 实验目的与要求:1. ...