「黑客必备技能」Python正则表达式详解

说在前面

正则表达式是一个很强大的字符串处理工具，几乎任何关于字符串的操作都可以使用正则表达式来完成，作为一个爬虫工作者，每天和字符串打交道，正则表达式更是不可或缺的技能。

正则表达式在不同的语言中使用方式不尽相同，不过只要学会了任意一门语言的正则表达式用法，其他语言中大部分也只是换了个函数的名称而已，本质都是一样的。

注：本文摘自 i 春秋社区（bbs.ichunqiu.com），欢迎更多优秀作者去社区投稿，帮助更多萌新们快速掌握新技能。文章阅读用时约10分钟。

原子

原子是正则表达式中最基本的单位，每个正则表达式中至少要包含一个原子。常见的原子类型：

• 普通字符作为原子
• 非打印字符作为原子
• 通用字符作为原子
• 原子表

普通字符作为原子

演示代码：

import re#引用re
string = "shentouyun"#定义整段，普通字符作为原子
pat = "yun"#提取yun
ret = re.search(pat,string)#第一个参数为提取，第二个为整个字段
print(ret)#输出

输出

<_sre.SRE_Match object; span=(7, 10), match='yun'>

非打印字符作为原子

什么是非打印字符，如\n,\t(换行，制表)，代表一些操作的字符也可以作为原子

操作代码与小知识

string1 = '''shentouyun
nuibi
'''
pat1 = '\n'
ret=re.search(pat1,string1)
print(ret)

运行后

<_sre.SRE_Match object; span=(10, 11), match='\n'>

小知识

#在这里解释一个基础，我没有提到过
string = '''
shentouyun
nuibi
'''
print(string)
#这段代码里，其特点为string被三引号包裹，并在代码里实现换行其运行结果
shentouyun
nuibi
#实现了一个\n的操作其代码等同于
string ="shentouyun\nnuibi"
print(string)

通用字符作为原子

什么是通用字符？

1. \w匹配任意一个字母数字或下划线；

2. \W匹配除去字母数字或下划线任意一个字符；

3. \d匹配十进制数；

4. \D除十进制以外的任意一个字符；

5. \s匹配一个空白字符；

6. \S除去空白字符。

简单的例子

string1 = "shentouyun3215454biji"
pat1 = '\d\d\d\d'#匹配四个十进制数
ret=re.search(pat1,string1)
print(ret)

运行后

<_sre.SRE_Match object; span=(10, 14), match='3215'>

也可以混合使用

string1 = "shentouyun3215454biji"
pat1 = '\w\d\d\d\d'#匹配一个字母+匹配四个十进制数
ret=re.search(pat1,string1)
print(ret)

运行后

<_sre.SRE_Match object; span=(9, 14), match='n3215'>

没有符合格式的，如空白就不会匹配出来，这里不过多的描述，占用空间。

原子表

[ots]任意的提取一个原子出来，直接任意选择一个原子表原子，如下：

string1 = "shentouyun3215454biji"
pat1 = "shen[otoasdjojds]ou"
ret=re.search(pat1,string1)
print(ret)

运行后

<_sre.SRE_Match object; span=(0, 7), match='shentou'>

只从原子表中选择一个原子，其原子表内原子地位平等。

非原子表

符号^ 英文状态下的shift+6

字符串里出现了非原子表，返回None，其代码如下：

string1 = "shentouyun3215454biji"
pat1 = "shen[^tun]ou"
#shen后面应该是匹配t结果原子表里出了[tun]三个原子外其他的原子都可以匹配
#显然本代码中的原子是无法匹配的
ret=re.search(pat1,string1)
print(ret)

返回如下：

None

如果正常运行非原子表外的字符如string1字符串中截取的shen后面是t，在非原子表上，没有出现t，则返回shent。

string1 = "shentouyun3215454biji"
pat1 = "shen[^asd]"
#为了更加直白我把ou两个字符去掉了
ret=re.search(pat1,string1)
print(ret)

运行后

<_sre.SRE_Match object; span=(0, 5), match='shent'>

元字符

特殊含义的字符

所谓的元字符，就是正则表达式中具有一些特殊含义的字符，比如重复N多次前面的字符。

"."除换行外任意一个字符

代码如下：

string1 = "shentouyun3215454biji"
pat1 = "shen.ou"#这里.匹配除了换行符外的任意字符
ret=re.search(pat1,string1)
print(ret)

运行结果

<_sre.SRE_Match object; span=(0, 7), match='shentou'>

当然你也可以多匹配些，比如多些点点。

string1 = "shentouyun3215454biji"
pat1 = "shen......"
ret=re.search(pat1,string1)
print(ret)

运行后

<_sre.SRE_Match object; span=(0, 10), match='shentouyun'>

开始位置^与结束位置$

string1 = "shentouyun3215454biji"
pat1 = "^s..."
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 4), match='shen'>

因为s是开始，也就是“排头”结束位置也同理。

string1 = "shentouyun3215454biji"
pat1 = "b...$"
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(17, 21), match='biji'>

*""0次1次多次**

string1 = "shentouyun3215454biji"
pat1 = "shen.*"
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 21), match='shentouyun3215454biji'>

为什么会全匹配，看*号的定义为多次，咱们的"."表示除了换行外全匹配，两者一配合。

+号与？号

+匹配多次，正常显示无法匹配0次，演示错误例子。

string1 = "shentouyun3215454biji"
pat1 = "a+"
ret=re.search(pat1,string1)
print(ret)
None

演示正确例子

string1 = "aaaaaaaaaaaa"
pat1 = "a+"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 12), match='aaaaaaaaaaaa'>

问号就更好弄了

问号直接演示错误例子，无法显示多次

string1 = "aaaafsedfsfdffasafadaaaaaaaa"
pat1 = "a?"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 1), match='a'>

{n}与{n,}

string1 = "aaaa"
pat1 = "a{4}"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 4), match='aaaa'>

如果换成3呢

<_sre.SRE_Match object; span=(0, 3), match='aaa'>

打印了三次，成功演示了什么叫做至少，当然你多了不行，改成5试试。

None

{n,m}至少多少次，至多多少次

string1 = "aaaa"
pat1 = "a{3,5}"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 4), match='aaaa'>

模式修正符

所谓的模式修正符，即可以在不改变正则表达式的情况下，通过模式修正符改变正则表达式的含义，从而实现一些匹配结果的调整等功能。

模式修正符有什么？

I忽略大小写

M多行匹配

L本地化识别匹配

U unicode编码

S让，匹配包括换行符

错误代码演示

string = "ShenTouYun"
pat="shen"
ret = re.search(pat,string)
print(ret)

返回None，因为默认有大小写限制，引用一下I就可以了。

string = "ShenTouYun"
pat="shen"
ret = re.search(pat,string,re.I)
print(ret)

运行结果

<_sre.SRE_Match object; span=(0, 4), match='Shen'>

贪婪模式与懒惰模式

贪婪模式的核心点就是尽可能多的匹配

懒惰模式的核心就是尽可能少的匹配

贪婪模式

string = "SheSnTouYunYS"
pat="s.*S"
ret = re.search(pat,string,re.I)
print(ret)

运行结果

<_sre.SRE_Match object; span=(0, 13), match='SheSnTouYunYS'>

贪婪模式与懒惰模式有什么用呢？

看对比

string = "SheSnTouYunYS"
pat="s.*S"#贪婪模式找到最后一个s
pat1="s.*?S"#懒惰模式,特征为？，找到第一个s就不往下找了
ret = re.search(pat,string,re.I)
ret1 = re.search(pat1,string,re.I)
print(ret)
print(ret1)

运行结果

<_sre.SRE_Match object; span=(0, 13), match='SheSnTouYunYS'>
<_sre.SRE_Match object; span=(0, 4), match='SheS'>

正则表达式函数

1、re.match( )函数从头开始匹配

2、re.search( )函数从任何地方开始匹配

3、全局匹配函数

match函数演示

string1 = "a**fewfaaa"
pat1 = "a"
ret=re.match(pat1,string1)
print(ret)
运行结果可匹配
<_sre.SRE_Match object; span=(0, 1), match='a'>

不是第一个开始匹配

string1 = "a**fewfaaa"
pat1 = "d"
ret=re.match(pat1,string1)
print(ret)
运行结果不可匹配
None

全局匹配函数

全局匹配格式

re.compile(正则表达式).findall(数据)
string1 = "a**fewfaaa"
pat1 = "d.*?a"
ret=re.compile(pat1).findall(string1)
print(ret)
结果
['da']

在码文中的一些杂乱代码

import re#引用re
'''
string = "shentouyun"#定义整段，普通字符作为原子
pat = "yun"#提取yun
ret = re.search(pat,string)#第一个参数为提取，第二个为整个字段
print(ret)#输出
match
sub
search
全局匹配
string = "SheSnTouYunYS"
pat="s.*S"#贪婪模式找到最后一个s
pat1="s.*?S"#懒惰模式,特征为？，找到一个y就不往下找了
ret = re.search(pat,string,re.I)
ret1 = re.search(pat1,string,re.I)
print(ret)
print(ret1)
'''

首先预热下，爬取豆瓣首页

导入urllib库下的request

import urllib.request

使用下urlopen打开网站返回HTML

urllib.request.urlopen("https://www.douban.com/")

读一下看看拿到了什么东西，使用read( )，并给douban保存方便再GUI里调用

douban = urllib.request.urlopen("https://www.douban.com/").read()

可以独立尝试，会非常卡。简单点是用len看字节

>>> len(douban)
105653

爬取豆瓣评论

导入正则模块（re）

import re

写了个例子

#豆瓣评论爬取小例子
import urllib.request
import re
douban = urllib.request.urlopen("https://movie.douban.com/subject/27199913/?from=showing").read().decode("UTF-8")
pat = '<span class="short">.*?</span>'
rst = re.compile(pat).findall(douban)
print(rst[0])

引用decode("UTF-8")对其解码为utf-8

正则为

<span class="short">(.*?)</span>

如何写正则与本例的细节

打开网站

https://movie.douban.com/subject/27199913/?from=showing

右键源代码

发现评论格式为

<span class="short">就是山西版本的《两杆大烟枪》或者说《疯狂的石头》，将山西风光和特色与影片融合的很好，虽然还是有所瑕疵，也难逃一些俗套烂大街的剧情和段子，但是还可以。</span>

所有评论被标签包裹，可以进行抓取，使用懒惰模式进行操作。

<span class="short">.*?</span>

"."全匹配，其细节为标签里有双引号，我们再写正则时使用单引号括起来，不要再使用双引号了。

写循环把东西都显示出来

for i in range(0,len(rst)):
 print(rst[i])

运行为

>>> ================================ RESTART ================================
>>>
['一直很喜欢这种结构的电影，一圈圈地放出线团，再一段段收回，圆融又宿命。以山西籍为主的演员都挺走心的，生活的鸡飞狗走很是活灵活现，而且骆达华的出场太惊喜。导演说是改编太贵，索性自己写。但要是看过《提着心吊着胆》，会发现许多元素重合度很高，比如生意惨淡的饭店、存在问题的夫妇、警察、笨贼、拜金女、装大款……就连意外之财也是丢在饭店里。电影结尾顾虑较多，但整体完成度与幽默感不差。@平遥，特意买票支持，却来...', '算是一部跟期待打平的作品吧，中规中矩，没有惊艳，王大治倒是真有那么几分长相之外的亮点。故事一圈圈闪回，重复的部分有点多，生怕观众跟不上这个倒叙+插叙的节奏似的。四川话河南话陕西话山西话一锅烩，泱泱大中华式的热闹。想要揭示人心叵测，但终归是浅了一点。【平遥电影节2018.10.19', '这种结构挺好', '审美疲劳，这种太多了，都大同小异。从每组人物的角度，反复讲同一个事。国产电影里的歹徒劫匪都是来搞笑的，都是**，呵呵。', '巧就巧在结构上。']
一直很喜欢这种结构的电影，一圈圈地放出线团，再一段段收回，圆融又宿命。以山西籍为主的演员都挺走心的，生活的鸡飞狗走很是活灵活现，而且骆达华的出场太惊喜。导演说是改编太贵，索性自己写。但要是看过《提着心吊着胆》，会发现许多元素重合度很高，比如生意惨淡的饭店、存在问题的夫妇、警察、笨贼、拜金女、装大款……就连意外之财也是丢在饭店里。电影结尾顾虑较多，但整体完成度与幽默感不差。@平遥，特意买票支持，却来...
算是一部跟期待打平的作品吧，中规中矩，没有惊艳，王大治倒是真有那么几分长相之外的亮点。故事一圈圈闪回，重复的部分有点多，生怕观众跟不上这个倒叙+插叙的节奏似的。四川话河南话陕西话山西话一锅烩，泱泱大中华式的热闹。想要揭示人心叵测，但终归是浅了一点。【平遥电影节2018.10.19
这种结构挺好
审美疲劳，这种太多了，都大同小异。从每组人物的角度，反复讲同一个事。国产电影里的歹徒劫匪都是来搞笑的，都是**，呵呵。
巧就巧在结构上。
>>>

保存到本地

fh = open("G:\\python\\doubanpinglun.txt","w")#打开文件并新建doubanpinglun.txt

open里的路径为本地路径

完整代码如下：

#豆瓣评论爬取小例子
import urllib.request
import re
douban = urllib.request.urlopen("https://movie.douban.com/subject/27199913/?from=showing").read().decode("UTF-8")
pat = '<span class="short">(.*?)</span>'
rst = re.compile(pat).findall(douban)
print(rst)
fh = open("G:\\python\\doubanpinglun.txt","w")#打开文件并新建doubanpinglun.txt
for i in range(0,len(rst)):
 print(rst[i])
 fh.write(rst[i]+"\n")#写入文件
fh.close()#关闭文件

以上就是今天分享的内容，大家学会了吗？