之前写过使用python抓取有路网图书信息,见http://www.cnblogs.com/dyf6372/p/3529703.html. 最近想学习一下Node.js,所以想试试手,比较一下http抓取上的性能,采用事件驱动的Node.js比python好一些,以下上代码(刚学还未优化): var http = require('http'); var iconv = require('iconv-lite'); var url = require('./gb2312_url_encode.j…

以前挺喜欢去有路网买二手书的,但是有路网有个缺陷,就是放在图书列表中的书很多都没货了,尤其是一些热门的方向,比如android,在列表中的书大多都没有货了,你必须一个一个点进入查看详细信息才能得知图书是否有货.因此,很久之前用python写了一个抓取的脚本,用来按书名搜索图书以及库存信息.现在拿出来与大家分享一下,因为是最开始学python的时候写的,有些地方写的不是特别好.比如那个时候对于正则表达式不是特别懂,所以用的不是特别好.其次,采用urllib库发送http请求的,效率太低.建议使用t…

代码地址如下:http://www.demodashi.com/demo/12368.html 1 概述 本实例主要使用Node.js去抓取电影的节目单,方便大家使用下载. 2 node package fs cheerio superagent superagent-charset express path fs 用来读写文件 cherrio 类似jquery superagent (ajax http模块) superagent-charset 解决中文乱码问题 express 搭建serv…

前几天四六级成绩出来(然而我没考),用Node.js做了一个模拟表单提交并抓取数据的Web 总结一下用到的知识,简单的网页抓取大概就是这个流程了 发送Get或Post请求 表单提交,首先弄到原网页提交的地址,然后引入http或https模块 也可以下载使用request模块. 这边以get为例 var http = require('http'); //设置请求参数,包括headers var options = { url: 'www.chsi.com.cn', encoding: null,…

在node.js中,有了 cheerio 模块.request 模块,抓取特定URL页面的数据已经非常方便. 一个简单的就如下 var request = require('request'); var cheerio = require('cheerio'); request(url,function(err,res){ if(err) return console.log(err); var $ = cheerio.load(res.body.toString()); //解析页面内容 })…

var $ = require('jquery'); var request = require('request'); request({ url: 'http:\\www.baidu.com',//需要抓取的页面地址 }, function(error, response, body){ if (!error && response.statusCode == 200) {//返回的状态 //可以用jquery找到需要的元素 var l = $(body).find('body').l…

一个简单的 CURD 实例 ---对图书信息进行管理 目录 1 开发环境 1.1 前端开发环境 1.2 后端开发环境 2 数据库设计和创建 2.1 数据库和表设计 2.2 book 表设计 2.3 sql 语句编写 3 后台模块开发 3.1 创建数据库连接 3.2 创建表模型 3.3 编写接口 3.4 接口测试 4 前端模块开发 4.1 安装并引入前端开发所需外部模块 4.2 建立路由 4.3 编写组件 1 开发环境 前端:vue.axios 后端:node.js.express 数据库:mys…

http://blog.csdn.net/youyudehexie/article/details/11910465 http://www.tuicool.com/articles/z2YbAr http://www.sufeinet.com/thread-8413-1-1.html https://github.com/cheeriojs/cheerio http://blog.fens.me/nodejs-crawler-douban/…

用到两个模块,http和fs var http = require("http");var fs = require("fs"); var server = http.createServer(function(req, res){}).listen(50082);console.log("http start"); var url = "http://s0.hao123img.com/res/img/logo/logonew.png&…

selenium模块主要用来做测试,模拟键盘.鼠标来操作浏览器. phantomjs 就像一个无界面的浏览器一样. 两个结合能很好的解决js抓取的问题. 测试代码: #coding=utf-8 from selenium import webdriver driver = webdriver.PhantomJS() #抓取百度搜索结果的相关链接 url = "http://www.baidu.com/s?wd=web&ie=utf-8&tn=baiduhome" dri…