1.爬虫：爬虫，是一种按照一定的规则，自动地抓取网页信息的程序或者脚本；利用NodeJS实现一个简单的爬虫案例，爬取Boss直聘网站的web前端相关的招聘信息，以广州地区为例；

2.脚本所用到的nodejs模块

express     用来搭建一个服务，将结果渲染到页面

swig          模板引擎

cheerio      用来抓取页面的数据

requests    用来发送请求数据(具体可查:https://www.npmjs.com/package/requests)

async        用来处理异步操作，解决请求嵌套的问题，脚本中只使用了async.whilst(test,iteratee,callback),具体可见：https://caolan.github.io/async/

3.实现流程：

首先先获取到所爬取页面的URL,打开boss直聘网站，搜索web前端既可以获取到https://www.zhipin.com/c101280100-p100901/?page=1&ka=page-next

然后通过Chrome浏览器打开F12,获取到信息中多对应的dom节点，即可知道想要获取信息；

4.代码实现

目录结构：

app.js

var cheerio = require('cheerio');

var requests = require('requests');

var async = require('async');

var express = require('express');

var swig = require('swig');

var app = express();

swig.setDefaults({cache:false});

app.set('views','./views/');

app.set('view engine','html');

app.engine('html',swig.renderFile);

app.get('/',function(req,res,next){

    var page = 1;  //当前页数

    var list = []; //保存记录

    async.whilst(

        function(){

            return page < 11;

        },

        function(callback){

            requests(`https://www.zhipin.com/c101280100-p100901/?page=${page}&ka=page-next`)

            .on('data',function(chunk){

            var $ = cheerio.load(chunk.toString());

            $('.job-primary').each(function(){

                var company = $(this).find('.info-company .company-text .name').text();

                var job_title = $(this).find('.info-primary .name .job-title').text();

                var salary = $(this).find('.info-primary .name .red').text();

                var description = $(this).find('.info-company .company-text p').text();

                var area = $(this).find('.info-primary p').text();

                var item = {

                    company:company,

                    job_title:job_title,

                    salary:salary,

                    description:description,

                    area:area

                };

                list.push(item);

            });

            page++;

            callback();

           }).on('end',function(err){

                   if(err){

                       console.log(err);

                   }

                   if(page==10){

                    res.render('index',{

                        lists:list

                    });

                }

           });

        },

        function(err){

            console.log(err);

        }

    );

});

//监听

app.listen(8080);

　view/index.html页面

<!DOCTYPE html>

<html lang="en">

<head>

    <meta charset="UTF-8">

    <title>Document</title>

</head>

<style>

    table{

        width:1300px;

        border:1px solid #ccc;

        border-collapse: collapse;

        text-align: center;

        margin:0 auto;

    }

    td,tr,th{

        border:1px solid #ccc;

        border-collapse: collapse;

    }

    tr{

        height:30px;

        line-height: 30px;

    }

</style>

<body>

    <table>

        <thead>

            <tr>

                <th>公司名称</th>

                <th>公司地址</th>

                <th>薪资</th>

                <th>公司描述</th>

                <th>岗位名称</th>

            </tr>

        </thead>

        <tbody>

            {% for list in lists %}

                <tr>

                    <td>{{list.company}}</td>

                    <td>{{list.area}}</td>

                    <td>{{list.salary}}</td>

                    <td>{{list.description}}</td>

                    <td>{{list.job_title}}</td>

                </tr>

            {% endfor %}

        </tbody>

    </table>

</body>

</html>

5.启动

直接通过 node app.js启动即可；

6.运行结果（http://localhost:8080），只截取部分数据

NodeJs实现简单的爬虫的更多相关文章

  1. 视频博文结合的教程：用nodejs实现简单的爬虫

    教学视频地址: https://v.qq.com/x/page/b0643tut4ze.html 前言   本喵最近工作中需要使用node,并也想晋升为全栈工程师,所以开始了node学习之旅,在学习过 ...

  2. nodeJS实现简单网页爬虫功能

    前面的话 本文将使用nodeJS实现一个简单的网页爬虫功能 网页源码 使用http.get()方法获取网页源码,以hao123网站的头条页面为例 http://tuijian.hao123.com/h ...

  3. nodejs的简单爬虫

    闲聊       好久没写博客了,前几天小颖在朋友的博客里看到了用nodejs的简单爬虫.所以小颖就自己试着做了个爬博客园数据的demo.嘻嘻......      小颖最近养了条泰日天,自从养了我家 ...

  4. nodejs实现最简单的爬虫

    本文将以抓取百度搜索结果中关键词的相关搜索为例子,教会大家以nodejs制作最简单的爬虫:  开始之前呢,先来个公众号求粉:      将使用的node模块及属性介绍:   request:     ...

  5. 用nodejs实现简单爬虫

    前言   本喵最近工作中需要使用node,并也想晋升为全栈工程师,所以开始了node学习之旅,在学习过程中, 我会总结一些实用的例子,做成博文和视频教程,以实例形式来理解体会node的用法,所以跟小猫 ...

  6. 每天几分钟跟小猫学前端之node系列：用node实现最简单的爬虫

    先来段求分小视频: https://www.iesdouyin.com/share/video/6550631947750608142/?region=CN&mid=6550632036246 ...

  7. 用node.js从零开始去写一个简单的爬虫

    如果你不会Python语言,正好又是一个node.js小白,看完这篇文章之后,一定会觉得受益匪浅,感受到自己又新get到了一门技能,如何用node.js从零开始去写一个简单的爬虫,十分钟时间就能搞定, ...

  8. Selenium + PhantomJS + python 简单实现爬虫的功能

    Selenium 一.简介 selenium是一个用于Web应用自动化程序测试的工具,测试直接运行在浏览器中,就像真正的用户在操作一样 selenium2支持通过驱动真实浏览器(FirfoxDrive ...

  9. asp.net简单小爬虫

    所谓爬虫简单点说,就是把别人网站上的东西爬下来,至于爬做什么用就看你自己了,比如:把别人网站上的东西爬下来放在自己网站中(感觉有点像小偷^v^). 这里随便写了一个爬虫代码(可以自己再去进行完善): ...

随机推荐

  1. Win10开启PIN码使用教程

    很多电脑爱好者对于Win10内置的PIN码功能不太了解,很多朋友都还没有使用.其实,创建PIN码可以提到密码使用,当你登录到Windows和其它应用服务时,可以通过PIN码替代输入账户密码,提升安全性 ...

  2. SRAM（静态）存储器芯片的读/写周期

    一. 要保证正确地读/写,必须注意CPU时序与存储器读/写周期的配合.一般存储器芯片手册都会给出芯片读/写周期的时序图. Intel 2114芯片的读.写周期时序如图所示. 二. 读周期 读操作时,必 ...

  3. Linq to Entities，ADO.NET Entity Framework 模型优先

    一.概念: Database First(数据库优先):存在的DB------------->生成Data Model  .edmx文件 Model First(模型优先):Data Model ...

  4. codeforces 808G Anthem of Berland

    codeforces 808G Anthem of Berland 题面 给定\(s\)串和\(t\)串,字符集是小写字母.\(s\)串中有些位置的值不确定,要求你确定这些位置上的值,使得\(t\)在 ...

  5. C++中在子类实现父类的方法调用

  6. P2585 [ZJOI2006]三色二叉树

    题目描述 输入输出格式 输入格式: 输入文件名:TRO.IN 输入文件仅有一行,不超过500000个字符,表示一个二叉树序列. 输出格式: 输出文件名:TRO.OUT 输出文件也只有一行,包含两个数, ...

  7. Zookeeper学习之路 （一）初识

    本文引用自 http://www.cnblogs.com/sunddenly/p/4033574.html 引言 Hadoop 集群当中 N 多的配置信息如何做到全局一致并且单点修改迅速响应到整个集群 ...

  8. 数论——扩展的欧几里德算法 - HDU2669

    http://acm.hdu.edu.cn/showproblem.php?pid=2669 #include <iostream> using namespace std; int gc ...

  9. 3、Spring Cloud - Eureka（高可用Eureka Server集群）

    在实际的项目中,可能有几十个或者几百个的微服务实例,这时 Eureka Server 承担了非 常高的负载.由于 Eureka Server 在微服务架构中有着举足重轻的作用,所以需要对 Eureka ...

  10. 《metasploit渗透测试魔鬼训练营》学习笔记第三章----情报搜集

    Kali渗透测试系统集成了metasploit开源的漏洞测试框架,是渗透测试必备的神器.下面是我在学习metasploit的笔记,有什么错误的地方请指出来,我会立即纠正的~ 一.情报搜集     1. ...