概述

本次爬虫任务是爬取图片网站图片，网址是https://www.vmgirls.com/

分析网页

第一步，打开需要爬取的页面https://www.vmgirls.com/13344.html

打开F12，随便选择一张图片查看图片，操作如下

第二步，寻找所需下载图片的地址，并分析最优的方式

第三步，得出结论，可以通过获取每张图片的url地址，进行保存图片的动作

代码操作

请求网页

第一步，我们请求网页并打印网页返回的请求

import requests

'''请求网页'''

response = requests.get('https://www.vmgirls.com/13344.html', headers=headers)#请求网址并得到一个回复

print(response.text)

发现出现403 Forbidden，我们需要寻找原因

# <html>

# <head><title>403 Forbidden</title></head>

# <body>

# <center><h1>403 Forbidden</h1></center>

# <hr><center>Her</center>

# </body>

# </html>

我们插入一个代码

print(response.request.headers)

发现问题所在，网页返回的信息中表示，我们发送的请求来源于一个爬虫程序，所以我们需要伪装一个header，

# {'User-Agent': 'python-requests/2.23.0',

# 'Accept-Encoding': 'gzip, deflate',

# 'Accept': '*/*',

# 'Connection': 'keep-alive'}

怎么做，打开浏览器，指定网页，F12查看浏览器发送的headers

复制heades到代码中

import requests

'''请求网页'''

headers = {

    'user-agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36'

}

response = requests.get('https://www.vmgirls.com/13344.html', headers=headers)#请求网址并得到一个回复

print(response.text)

print(response.request.headers)

能够正常得到网页返回的信息了

解析网页

解析网页本次使用正则表达式

导入re库

import re

urls = re.findall('<a href="(.*?)" alt=".*?" title=".*?">', html)

print(urls)

得到5个图片的url链接

['https://static.vmgirls.com/image/2019/12/2019122210292813-scaled.jpeg',

'https://static.vmgirls.com/image/2019/12/2019122210294290-scaled.jpeg',

'https://static.vmgirls.com/image/2019/12/2019122210295639-scaled.jpeg',

'https://static.vmgirls.com/image/2019/12/2019122210300913-scaled.jpeg',

'https://static.vmgirls.com/image/2019/12/2019122210301954-scaled.jpeg']

保存图片

将所有的图片保存为文件格式

for url in urls:

    response = requests.get(url, headers=headers)

    # 将url中后面的数字字段截取出来作为图片的文件名

    file_name = url.split('/')[-1]

    # 以二进制格式打开一个文件只用于写入。如果该文件已存在则将其覆盖。如果该文件不存在，创建新文件。

    with open(file_name,'wb') as f:

    # 文件写入每一个response返回的内容,最终保存的即为图片,图片地址在该py文件相同目录

        f.write(response.content)

此时需要考虑到两个问题

1.访问频次

2.文件应该需要保存在但个文件夹中，问不是散乱的存放

修改代码如下

import os
# 获得文件夹名

dir_name = re.findall('<h1 class="post-title h3">(.*?)</h1>', html)[-1]

# 判断文件夹是否存在,并创建文件夹

if not  os.path.exists(dir_name):

    os.makedirs(dir_name)

# 遍历所有的url，将所有的url单独保存

for url in urls:

    # 放置访问频次太高，设置访问频率，需要导入time模块

    time.sleep(1)

    response = requests.get(url, headers=headers)

    # 将url中后面的数字字段截取出来作为图片的文件名

    file_name = url.split('/')[-1]

    # 以二进制格式打开一个文件只用于写入。如果该文件已存在则将其覆盖。如果该文件不存在，创建新文件。

    # 由于加入了文件夹的步骤，所以with open（file_path,wb）as f中file_path需要带上文件夹

    # with open(file_name,'wb') as f:

    with open(dir_name+'/'+file_name, 'wb') as f:

        # 文件写入每一个response返回的内容,最终保存的即为图片,图片地址在该py文件相同目录

        f.write(response.content)

# 由于这种方式文件是一个个单独的存放在目录下面,并没有较好的分类,我们需要加入一个分类的步骤

# 根据网页中的名称设置文件夹名为dir_name = re.findall('<h1 class="post-title h3">(.*?)</h1>')[-1]

# 若想创建文件夹，需要导入os库

# 判断文件夹是否存在

任务完成

完整代码

import requests

import re

import time

import os

'''请求网页'''

headers = {

    'user-agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36'

}

response = requests.get('https://www.vmgirls.com/13344.html', headers=headers)#请求网址并得到一个回复

html = response.text

"""

print(response.text)

# <html>

# <head><title>403 Forbidden</title></head>

# <body>

# <center><h1>403 Forbidden</h1></center>

# <hr><center>Her</center>

# </body>

# </html>

# 发现了403 Forbidden,也就是这个系统设置了反爬虫，所以需要改变

# 我们查看一下返回的headers,也就是请求的头信息

print(response.request.headers)

# {'User-Agent': 'python-requests/2.23.0',

# 'Accept-Encoding': 'gzip, deflate',

# 'Accept': '*/*',

# 'Connection': 'keep-alive'}

# 发现这是用python端请求，理所当然的被网页拒绝了，所以我们需要一个伪装的headers，伪装成浏览器发送的请求

# 怎么做，打开浏览器，指定网页，F12查看浏览器发送的headers

# {user-agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36}

# 制作伪装的headers

# headers = {'user-agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36'}

# 注意headers是一个字典，不是字符串，所以格式为"user-agent":"头部具体信息"

# 将headers放置到网页请求的前面,即response前

# 同时response里面带上headers

# 程序运行之后发现可以正常运行

"""

'''解析网页'''

# 解析网页本次使用正则表达式

# 导入re库

# 获得文件夹名

dir_name = re.findall('<h1 class="post-title h3">(.*?)</h1>', html)[-1]

# 判断文件夹是否存在,并创建文件夹

if not  os.path.exists(dir_name):

    os.makedirs(dir_name)

# 获得所有图片的url链接

urls = re.findall('<a href="(.*?)" alt=".*?" title=".*?">', html)

print(urls)

"""保存图片"""

# 遍历所有的url，将所有的url单独保存

for url in urls:

    # 放置访问频次太高，设置访问频率，需要导入time模块

    time.sleep(1)

    response = requests.get(url, headers=headers)

    # 将url中后面的数字字段截取出来作为图片的文件名

    file_name = url.split('/')[-1]

    # 以二进制格式打开一个文件只用于写入。如果该文件已存在则将其覆盖。如果该文件不存在，创建新文件。

    # 由于加入了文件夹的步骤，所以with open（file_path,wb）as f中file_path需要带上文件夹

    # with open(file_name,'wb') as f:

    with open(dir_name+'/'+file_name, 'wb') as f:

        # 文件写入每一个response返回的内容,最终保存的即为图片,图片地址在该py文件相同目录

        f.write(response.content)

# 由于这种方式文件是一个个单独的存放在目录下面,并没有较好的分类,我们需要加入一个分类的步骤

# 根据网页中的名称设置文件夹名为dir_name = re.findall('<h1 class="post-title h3">(.*?)</h1>')[-1]

# 若想创建文件夹，需要导入os库

# 判断文件夹是否存在

图片结果

python爬虫-vmgirls-正则表达式的更多相关文章

玩转python爬虫之正则表达式
玩转python爬虫之正则表达式这篇文章主要介绍了python爬虫的正则表达式,正则表达式在Python爬虫是必不可少的神兵利器,本文整理了Python中的正则表达式的相关内容,感兴趣的小伙伴们可以 ...
【Python爬虫】正则表达式与re模块
正则表达式与re模块阅读目录在线正则表达式测试常见匹配模式 re.match re.search re.findall re.compile 实战练习在线正则表达式测试 http://tool ...
python 爬虫之-- 正则表达式
正则表达式是一个特殊的字符序列,它能帮助你方便的检查一个字符串是否与某种模式匹配. 正则表达式非python独有,python 提供了正则表达式的接口,re模块一.正则匹配字符简介模式描述 \d ...
python爬虫训练——正则表达式+BeautifulSoup爬图片
这次练习爬传送门这贴吧里的美食图片. 如果通过img标签和class属性的话,用BeautifulSoup能很简单的解决,但是这次用一下正则表达式,我这也是参考了该博主的博文:传送门所有图片的s ...
【python爬虫和正则表达式】爬取表格中的的二级链接
开始进公司实习的一个任务是整理一个网页页面上二级链接的内容整理到EXCEL中,这项工作把我头都搞大了,整理了好几天,实习生就是端茶送水的.前段时间学了爬虫,于是我想能不能用python写一个爬虫一个个 ...
Python爬虫运用正则表达式
我看到最近几部电影很火,查了一下猫眼电影上的数据,发现还有个榜单,里面有各种经典和热映电影的排行榜,然后我觉得电影封面图还挺好看的,想着一张一张下载真是费时费力,于是突发奇想,好像可以用一下最近学的东 ...
Python爬虫之正则表达式（3）
# re.sub # 替换字符串中每一个匹配的子串后返回替换后的字符串 import re content = 'Extra strings Hello 1234567 World_This is a ...
Python爬虫之正则表达式（1）
廖雪峰正则表达式学习笔记 1:用\d可以匹配一个数字:用\w可以匹配一个字母或数字: '00\d' 可以匹配‘007’,但是无法匹配‘00A’; ‘\d\d\d’可以匹配‘010’: ‘\w\w\d’ ...
python爬虫之正则表达式
一.简介正则表达式,又称正规表示式.正规表示法.正规表达式.规则表达式.常规表示法(英语:Regular Expression,在代码中常简写为regex.regexp或RE),计算机科学的一个概念 ...
Python爬虫基础——正则表达式
说到爬虫,不可避免的会牵涉到正则表达式. 因为你需要清晰地知道你需要爬取什么信息?它们有什么共同点?可以怎么去表示它们? 而这些,都需要我们熟悉正则表达,才能更好地去提取. 先简单复习一下各表达式所代 ...

随机推荐

python3_learn 实现文件夹内批量对图片重命名
初衷练习Python,提高动手能力. 珍藏的壁纸文件夹名命有点乱. 可以学习下一些基础的库开始(.jpg,无筛选) First 首先找到OS库,寻找可以遍历文件名的.找到了OS.walk() os ...
[YII2] 增删改查2
一.新增使用model::save()操作进行新增数据 $user= new User; $user->username =$username; $user->password =$pa ...
HTML+CSS教程（六）浮动-float+定位-position+居中问题
一.浮动(float)1.文档流:是指盒子按照 html 标签编写的顺序依次从上到下,从左到右排列,块元素占一行,行内元素在一行之内从左到右排列,先写的先排列,后写的排在后面,每个盒子都占据自己的位置 ...
Java IO 流-- 字节数组流ByteArrayInPutStream ByteArrayOutPutStream
字节数组流输于缓冲流,放在jvm内存中,java可以直接操作.我们使用时可以不用关闭,交给GC垃圾回收机制处理. 当然我们为了保持良好习惯和代码一致性也可以加上关闭语句. 当其实我么打开ByteArr ...
windows下部署.netcore+docker系列三（unbuntu 18.4 下安装ftp）
// 先更新下系统sudo apt-get update//安装ftpsudo apt-get install vsftpd// 启动服务sudo service vsftpd start//ftp ...
css的变量教程,更强大的css
当微软宣布 Edge 浏览器将支持 CSS 变量.这个重要的 CSS 新功能,所有主要浏览器已经都支持了.本文全面介绍如何使用它,你会发现原生 CSS 从此变得异常强大. 一.变量的声明声明变量的时 ...
更加安全的密钥生成方法Diffie-Hellman
更加安全的密钥生成方法Diffie-Hellman 之前我们谈到了密钥配送的问题,这个世界是如此的危险, 一不小心通信线路就会被监听,那么我们怎么在这种不安全的线路中传递密钥呢? 这里我们介绍一下Di ...
dockerfile简介及书写规则
Dockerfile 简介 Dockfile是一种被Docker程序解释的脚本, Dockerfile由一条一条的指令组成,每条指 ...
【JAVA基础】09 Eclipse
1. Java开发工具操作系统自带的记事本软件高级记事本软件集成开发环境 IDE (Integrated Development Environment) Eclipse和MyEclipse的区 ...
(原創) 如何在Nios II顯示8位數的七段顯示器? (SOC) (Nios II) (SOPC Builder) (DE2-70)
Abstract本文討論如何在Nios II控制8位數的七段顯示器. Introduction使用環境:Quartus II 8.0 + Nios II EDS 8.0 + DE2-70 (Cyclo ...

python爬虫-vmgirls-正则表达式

概述