1.创建项目 在你存放项目的目录下,按shift+鼠标右键打开命令行,输入命令创建项目: PS F:\ScrapyProject> scrapy startproject weather # weather是项目名称 回车即创建成功 这个命令其实创建了一个文件夹而已,里面包含了框架规定的文件和子文件夹. 我们要做的就是编辑其中的一部分文件即可. 其实scrapy构建爬虫就像填空.这么一想就很简单了 cmd执行命令: PS F:\ScrapyProject> cd weather #进入刚刚创建…

Python爬取中国天气网 基于requests库制作的爬虫. 使用方法:打开终端输入 “python3 weather.py 北京(或你所在的城市)" 程序正常运行需要在同文件夹下加入一个“data.csv”文件,内容请参考链接: 城市代码 运行效果: 源码: import sys import re import requests import webbrowser from PIL import Image from requests.exceptions import RequestEx…

用到模块: 获取网页并解析:import requests,html5lib from bs4 import BeautifulSoup 使用pyecharts的Bar可视化工具"绘制图表",写入HTML文件,附pyecharts官方中文API地址:https://pyecharts.org/#/from pyecharts.charts import Bar 表格主题设置:from pyecharts import optionsfrom pyecharts.globals impo…

1.创建项目 scrapy startproject weather # weather是项目名称 scrapy crawl spidername开始运行,程序自动使用start_urls构造Request并发送请求,然后调用parse函数对其进行解析, 在这个解析过程中使用rules中的规则从html(或xml)文本中提取匹配的链接,通过这个链接再次生成Request,如此不断循环,直到返回的文本中再也没有匹配的链接,或调度器中的Request对象用尽,程序才停止. 2.确定爬取目标: scr…

思路:1.根据city.txt文档来获取不同城市code2.获取中国天气网7d和15d不同城市url3.利用requests库请求url获取html内容4.利用beautifulsoup获取7d和15d指定天气数据5.将获取的天气数据保存到csv文件中 # -*- coding: utf-8 -*- import requests from bs4 import BeautifulSoup import csv ''' 获取不同城市code ''' def get_citycode(city_n…

闲来无事用Python的scrapy框架练练手,爬取顶点小说网的所有小说的详细信息. 看一下网页的构造: tr标签里面的 td 使我们所要爬取的信息 下面是我们要爬取的二级页面 小说的简介信息: 下面上代码: mydingdian.py import scrapy from scrapy.http import Request from ..items import DingdianItem class MydingdianSpider(scrapy.Spider): name = 'mydin…

爬取的页面为https://book.qidian.com/info/1010734492#Catalog 爬取的小说为凡人修仙之仙界篇,这边小说很不错. 正文的章节如下图所示 其中下面的章节为加密部分,现在暂时无法破解加密的部分.ε=(´ο｀*)))唉.. 下面直接上最核心的代码(位于spiders中的核心代码) # -*- coding: utf-8 -*- import scrapy from qidian.items import QidianItem import enum class…

楼主准备爬取此页面的小说,此页面一共有125章 我们点击进去第一章和第一百二十五章发现了一个规律 我们看到此链接的  http://www.17k.com/chapter/271047/6336386.html ->http://www.17k.com/chapter/271047/6336510.html 6336386依次递增到6336510 我们根据此灵感 得到下面的spiders核心的代码 # -*- coding: utf-8 -*- import scrapy from k17.it…

无意间看到17小说网里面有一些小说小故事,于是决定用爬虫爬取下来自己看着玩,下图这个页面就是要爬取的来源. a 这个页面一共有125个标题,每个标题里面对应一个内容,如下图所示 下面直接看最核心spiders中的代码 # -*- coding: utf-8 -*- import scrapy from k17.items import K17Item import json class A17kSpider(scrapy.Spider): name = '17k' allowed_domains…

爬取CBO中国票房网所有电影片名和演员名字 # -*- coding: utf-8 -*- # 爬取CBO中国票房网所有电影片名 import json import requests import time with open("moviename.txt", 'a') as fh: for pn in range(1,320): url = 'http://www.cbooo.cn/Mdata/getMdata_movie?area=50&type=0&year=0…