爬虫(二)之scrapy框架
01-scrapy介绍
02-项目的目录结构:
scrapy.cfg 项目的主配置信息。(真正爬虫相关的配置信息在settings.py 文件中) items.py 设置数据存储模板,用于结构化数据,如:Django的model pipelines 数据持久化处理 settings.py 配置文件 spiders 爬虫目录,如:创建文件,编写爬虫解析规则
03-配置文件settings.py的配置
# 建议修改:
ROBOTSTXT_OBEY = False # 默认为True # 进行身份伪装
USER_AGENT = "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36"
04-创建项目和爬虫文件
# 创建项目
scrapy startproject firstScrapy # 先切换到项目文件里
cd firstScrapy/ # 然后执行创建
scrapy genspider first www.qiushibaike.com
05-执行
# 执行爬取程序, first 为爬虫文件名称 scrapy crawl first # 此方式是阻止日志信息的输出
scrapy crawl first --nolog
06-基于终端指令的持久化存储
持久化存储操作:
a.磁盘文件
a)基于终端指令
i.保证parse方法返回一个可迭代类型的对象(存储解析到的页面内容)
ii.使用终端指令完成数据存储到制定磁盘文件中的操作
1.scrapy crawl 爬虫文件名称 –o 磁盘文件.后缀
b)基于管道
i.items:存储解析到的页面数据
ii.pipelines:处理持久化存储的相关操作
iii.代码实现流程:
1.将解析到的页面数据存储到items对象
2.使用yield关键字将items提交给管道文件进行处理
3.在管道文件中编写代码完成数据存储的操作
4.在配置文件中开启管道操作 b.数据库
a)mysql
b)redis
c)编码流程:
1.将解析到的页面数据存储到items对象
2.使用yield关键字将items提交给管道文件进行处理
3.在管道文件中编写代码完成数据存储的操作
4.在配置文件中开启管道操作 需求:将爬取到的数据值分别存储到本地磁盘、redis数据库、mysql数据。
1.需要在管道文件中编写对应平台的管道类
2.在配置文件中对自定义的管道类进行生效操
# 案例:
# firstScrapy/spiders/first.py # -*- coding: utf-8 -*-
import scrapy class FirstSpider(scrapy.Spider):
# 爬虫文件的名称name
name = 'first'
# 允许的域名:只允许爬取当前域名下的页面数据
# allowed_domains = ['www.qiushibaike.com/text/'] # 起始的url:当前工程所要爬取的页面所对应的url
# 注意:start_urls 是 allowed_domains 下的页面的url
start_urls = ['https://www.qiushibaike.com/text/'] # 解析方法:对获取的页面数据进行指定内容的解析
# response:请求成功后返回的响应对象
# parse 方法的返回值,必须为迭代器 或者为 空None
def parse(self, response):
# 建议大家用xpath 进行指定内容的解析(框架集成了xpath解析的接口)
# 获取段子的内容和作者
div_list = response.xpath('//div[@id="content-left"]/div') # 存储解析到的页面数据
data_list = []
for div in div_list:
# xpath解析到的指定内容被存储到 Selector对象
# extract() 该方法可以将 Selector对象 中存储的数据值拿到
# author = div.xpath('./div/a[2]/h2/text()').extract()[0]
# extract_first() == extract()[0]
author = div.xpath('./div/a[2]/h2/text()').extract_first()
content = div.xpath('.//div[@class="content"]/span/text()').extract_first()
dict_data = {
'author': author,
'content': content
}
data_list.append(dict_data) return data_list
# 在终端执行命令:(在first爬虫文件下) scrapy crawl first -o qiubai.csv --nolog
07-基于管道的持久化存储
# 修改配置文件settings.py
# 打开注释
ITEM_PIPELINES = {
'firstScrapy.pipelines.FirstscrapyPipeline': 300,
}
# firstScrapy/first.py # -*- coding: utf-8 -*-
import scrapy
from firstScrapy.items import FirstscrapyItem class FirstSpider(scrapy.Spider):
# 爬虫文件的名称name
name = 'first'
start_urls = ['https://www.qiushibaike.com/text/'] def parse(self, response):
# 获取段子的内容和作者
div_list = response.xpath('//div[@id="content-left"]/div') for div in div_list:
author = div.xpath('./div/a[2]/h2/text()').extract_first()
content = div.xpath('.//div[@class="content"]/span/text()').extract_first() # 1.将解析到的数据值(author和content)存储到items对象中
item = FirstscrapyItem()
item['author'] = author
item['content'] = content # 2.将item对象提交给管道
yield item
# firstScrapy/items.py import scrapy class FirstscrapyItem(scrapy.Item):
# define the fields for your item here like:
# name = scrapy.Field()
author = scrapy.Field()
content = scrapy.Field()
# firstScrapy/pipelines.py class FirstscrapyPipeline(object):
fp = None
# open_spider 在整个爬虫过程中,该方法只会在开始爬虫的时候,被调用一次! def open_spider(self, spider):
print("开始爬虫")
self.fp = open('./qiubai_pipe.txt', 'w', encoding='utf-8') # 3.在管道文件中编写代码完成数据储存的操作
# process_item 该方法就可以接受爬虫文件中提交过来的item对象,并且对item对象中存储的页面数据进行持久化存储
# 参数:item 表示的是 接收到的item对象
# 每当爬虫文件向管道提交一次item,则该方法就会被执行一次! def process_item(self, item, spider):
# 取出item对象中存储的数据值
author = item['author']
content = item['content'] # 持久化存储
self.fp.write(author + ':' + content + '\n\n\n') return item # 只会在爬虫结束的时候,被调用一次! def close_spider(self, spider):
print('爬虫结束!')
self.fp.close()
08-基于MySQL的持久化存储
# pipelines.py import pymysql class FirstscrapyPipeline(object):
conn = None
cursor = None def open_spider(self, spider):
print("爬虫开始!")
# 链接数据库
self.conn = pymysql.Connect(host='127.0.0.1', port=3306, user='root', passwd='', db='qiubai') # 编写向数据库中存储数据的相关代码 def process_item(self, item, spider):
# 1.连接数据库
# 2.执行sql语句
sql = 'insert into qiubai values("%s", "%s")' % (item['author'], item['content'])
self.cursor = self.conn.cursor()
try:
self.cursor.execute(sql) # 3.提交事务
self.conn.commit()
except Exception as e:
print(e)
self.conn.rollback() # 取出item对象中存储的数据值
author = item['author']
content = item['content'] return item def close_spider(self, spider):
print("爬虫结束!")
self.cursor.close()
self.conn.close()
09-基于redis的持久化存储
# pipelines.py import redis class FirstscrapyPipeline(object):
conn = None
cursor = None def open_spider(self, spider):
print("爬虫开始!")
# 链接redis数据库
self.conn = redis.Redis(host='127.0.0.1', port=6379) # 编写向数据库中存储数据的相关代码 def process_item(self, item, spider):
dict_data = {
'author': item['author'],
'content': item['content'],
}
self.conn.lpush('data', dict_data) return item
10-管道的高级操作
# 修改配置文件settings.py ITEM_PIPELINES = {
'firstScrapy.pipelines.FirstscrapyPipeline': 300,
'firstScrapy.pipelines.FirstByFiles': 200,
'firstScrapy.pipelines.FirstByMysql': 400,
}
# 需求:将爬取到的数据值分别存储到本地磁盘、redis数据库、mysql数据。
1.需要在管道文件中编写对应平台的管道类
2.在配置文件中对自定义的管道类进行生效操作 # pipelines.py import redis
import pymysql class FirstscrapyPipeline(object):
conn = None
cursor = None def open_spider(self, spider):
print("爬虫开始!")
# 链接redis数据库
self.conn = redis.Redis(host='127.0.0.1', port=6379) # 编写向数据库中存储数据的相关代码 def process_item(self, item, spider):
dict_data = {
'author': item['author'],
'content': item['content'],
}
self.conn.lpush('data', dict_data) return item # 实现将数据值存储到本地磁盘中
class FirstByFiles(object):
def process_item(self, item, spider):
print('数据已经写入指定的磁盘文件中')
return item class FirstByMysql(object):
def process_item(self, item, spider):
print('数据已经写入到MySQL数据库中') return item
11-就多个url的数据爬取
# 解决方案:请求的手动发送
# spider.py/qiubai.py # -*- coding: utf-8 -*-
import scrapy
from qiubaiByPages.items import QiubaibypagesItem class QiubaiSpider(scrapy.Spider):
name = 'qiubai'
# allowed_domains = ['www.qiushibaike.com/text']
start_urls = ['https://www.qiushibaike.com/text/'] # 设计一个通用的url模板
url = 'https://www.qiushibaike.com/text/page/%d/'
pageNum = 1 def parse(self, response):
div_list = response.xpath('//*[@id="content-left"]/div') for div in div_list:
author = div.xpath('./div[@class="author clearfix"]/a[2]/h2/text()').extract_first()
content = div.xpath('.//div[@class="content"]/span/text()').extract_first() item = QiubaibypagesItem()
item['author'] = author
item['content'] = content yield item
# 请求的手动发送
if self.pageNum <= 13:
print('爬取了第%s的页面数据!' % self.pageNum)
self.pageNum += 1
new_url = format(self.url % self.pageNum)
# callback 将请求获取的页面数据进行解析
yield scrapy.Request(url=new_url, callback=self.parse)
爬虫(二)之scrapy框架的更多相关文章
- 第三百三十五节,web爬虫讲解2—Scrapy框架爬虫—豆瓣登录与利用打码接口实现自动识别验证码
第三百三十五节,web爬虫讲解2—Scrapy框架爬虫—豆瓣登录与利用打码接口实现自动识别验证码 打码接口文件 # -*- coding: cp936 -*- import sys import os ...
- 第三百三十四节,web爬虫讲解2—Scrapy框架爬虫—Scrapy爬取百度新闻,爬取Ajax动态生成的信息
第三百三十四节,web爬虫讲解2—Scrapy框架爬虫—Scrapy爬取百度新闻,爬取Ajax动态生成的信息 crapy爬取百度新闻,爬取Ajax动态生成的信息,抓取百度新闻首页的新闻rul地址 有多 ...
- 第三百三十三节,web爬虫讲解2—Scrapy框架爬虫—Scrapy模拟浏览器登录—获取Scrapy框架Cookies
第三百三十三节,web爬虫讲解2—Scrapy框架爬虫—Scrapy模拟浏览器登录 模拟浏览器登录 start_requests()方法,可以返回一个请求给爬虫的起始网站,这个返回的请求相当于star ...
- 第三百三十二节,web爬虫讲解2—Scrapy框架爬虫—Scrapy使用
第三百三十二节,web爬虫讲解2—Scrapy框架爬虫—Scrapy使用 xpath表达式 //x 表示向下查找n层指定标签,如://div 表示查找所有div标签 /x 表示向下查找一层指定的标签 ...
- 第三百三十一节,web爬虫讲解2—Scrapy框架爬虫—Scrapy安装—Scrapy指令
第三百三十一节,web爬虫讲解2—Scrapy框架爬虫—Scrapy安装—Scrapy指令 Scrapy框架安装 1.首先,终端执行命令升级pip: python -m pip install --u ...
- Python爬虫进阶之Scrapy框架安装配置
Python爬虫进阶之Scrapy框架安装配置 初级的爬虫我们利用urllib和urllib2库以及正则表达式就可以完成了,不过还有更加强大的工具,爬虫框架Scrapy,这安装过程也是煞费苦心哪,在此 ...
- 十二 web爬虫讲解2—Scrapy框架爬虫—Scrapy模拟浏览器登录—获取Scrapy框架Cookies
模拟浏览器登录 start_requests()方法,可以返回一个请求给爬虫的起始网站,这个返回的请求相当于start_urls,start_requests()返回的请求会替代start_urls里 ...
- 爬虫基础(五)-----scrapy框架简介
---------------------------------------------------摆脱穷人思维 <五> :拓展自己的视野,适当做一些眼前''无用''的事情,防止进入只关 ...
- python爬虫学习之Scrapy框架的工作原理
一.Scrapy简介 Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架. 可以应用在包括数据挖掘,信息处理或存储历史数据等一系列的程序中. 其最初是为了 页面抓取 (更确切来说, 网 ...
随机推荐
- Mysql内置优化工具show profiles
一.概述: Mysql的explain工具目前还没有Oracle的explain plan工具那么强大,但是结合show profiles工具可以实现相似的效果.show profiles语句用于在当 ...
- 思科4506E做ehterchannel故障排查
思科4506E做ehterchannel故障排查 转载于:https://blog.51cto.com/eric1026/1910912 一.故障描述 某客户有两台4506E汇聚交换机,需要做ethe ...
- 浅析data:image/png;base64的应用
...我也是加一个网安交流群发现了他们的入群密码是这个 数据:图像/ PNG; BASE64,iVBORw0KGgoAAAANSUhEUgAAANwAAAAoCAIAAAAaOwPZAAAAAXNSR ...
- 在Ubuntu 12.04下创建eclipse的桌面链接
在Ubuntu 12.04下创建eclipse的桌面链接 作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ 在Ubuntu 12.04上安装Hadoop并 ...
- nginx 学习笔记
Nginx是一个自由的.开源的.高性能的HTTP服务器和反向代理服务器:同时也是一个IMAP.POP3.SMTP代理服务器:nginx可以作为一个HTTP服务器进行网站的发布处理,另外nginx可以作 ...
- (转)Spring Boot(五):Spring Boot Jpa 的使用
http://www.ityouknow.com/springboot/2016/08/20/spring-boot-jpa.html 在上篇文章Spring Boot(二):Web 综合开发中简单介 ...
- Java面试知识点之线程篇(二)
前言:接上篇,这里继续对java线程相关知识点进行总结. 1.notify和notifyall的区别 notify()方法能够唤醒一个正在等待该对象的monitor的线程,当有多个线程都在等待该对象的 ...
- linux学习笔记整理(六)
第七章 Centos7-文件权限管理本节所讲内容:7.1文件的基本权限:r w x (UGO)7.2文件的特殊权限:suid sgid sticky和文件扩展权限ACL7.3实战:创建一个让root都 ...
- 看Linux 之父是如何定义 Linux?
看Linux 之父是如何定义 Linux? LINUX是什么? LINUX是一个免费类unix内核,适用于386-AT计算机,附带完整源代码.主要让黑客.计算机科学学生使用,学习和享受.它大部分用C编 ...
- ElasticSearch(二):允许外网连接服务配置
上一篇文章的配置,只能在本机使用,但是要想为集群或者其他的机器连接,则需要做以下配置: 一.修改/opt/elasticsearch-6.4.0/config/elasticsearch.yml文件 ...