python基础之正则表达式和re模块

正则表达式

就其本质而言，正则表达式（或 re）是一种小型的、高度专业化的编程语言，（在Python中）它内嵌在Python中，并通过 re 模块实现。正则表达式模式被编译成一系列的字节码，然后由用 C 编写的匹配引擎执行。

字符匹配（普通字符，元字符）：

1 普通字符（完全匹配）：大多数字符和字母都会和自身匹配

1 >>> import re
2 >>> res='hello world good morning'
3 >>> re.findall('hello',res)
4 ['hello']

2 元字符（模糊匹配）：. ^ $ * + ? { } [ ] | ( ) \

元字符

.　　通配符，匹配一个除了换行符的任意字符，中间如果有换行符也不会跳过换行符，只是无法匹配

 1 >>> import re
 2 >>> str1="hello\n,张三"
 3 #re.findall()方法，第一个元素为匹配规则，第二个元素为字符串，返回的是所有匹配项的列表，re下的方法后面详细说明
 4 >>> re.findall("l",str1)    #遍历匹配l，如果匹配到，则输出为列表的一个元素
 5 ['l', 'l']
 6 >>> re.findall("h.",str1)　　 #匹配h开头，后面包含任意字符除换行符的两个字符
 7 ['he']
 8 >>> re.findall("hello.",str1)　　#因为hello后的字符是换行符，所以匹配不到
 9 []
10 >>> re.findall("张.",str1)　　　　#包含的字符串在哪个位置匹配都可以
11 ['张三']

^　　开始匹配，只匹配字符串的开头，开头如果没有，后边不会再进行匹配

1 >>> re.findall("^hello",str1)　　#开头有hello所以匹配成功
2 ['hello']
3 >>> re.findall("^llo",str1)　　　　#开头没有llo，匹配失败
4 []

$　　结尾匹配，只匹配结尾

1 >>> re.findall("llo$",str1)　　　　#该字符串以三结尾
2 []
3 >>> re.findall("三$",str1)
4 ['三']
5 >>> re.findall("张三$",str1)　　　　#可匹配多个字符
6 ['张三']
7 >>> re.findall("张.$",str1)　　　　#不同的元字符联用
8 ['张三']

重复功能元字符

?　　表示?前一个字符或组可有可无，范围即0次或1次

1 >>> re.findall("ho?el",str1)　　#o可有可无，匹配hel
2 ['hel']
3 >>> re.findall("he?l",str1)　　#e可有可无，有的时候匹配hel
4 ['hel']
5 >>> re.findall("he?el",str1)　　#第一个e可有可无，没有的时候匹配hel
6 ['hel']

*　　表示*前面一个字符或组的重复范围，范围从0开始到正无穷，[0,+∞]

1 >>> str2="111111133111188211111111111134234"
2 >>> re.findall("1*",str2)　　#1*表示字符1出现0次或多次，从字符串依次匹配，如果不是1就用空补全
3 ['1111111', '', '', '1111', '', '', '', '111111111111', '', '', '', '', '', '']
4 >>> re.findall("11*",str2)　　#11*表示第二个字符1出现0次或多次，第一个字符1已经固定
5 ['1111111', '1111', '111111111111']

+　　类似与*，表示+前面一个字符或组的重复范围，范围从1开始到正无穷，[1,+∞]

1 >>> re.findall("11+",str2)　　#11+表示第二个1必须是出现1次或多次
2 ['1111111', '1111', '111111111111']
3 >>> re.findall("1+",str2)　　#1+表示必须出现一次1及以上
4 ['1111111', '1111', '111111111111']

{}　　{n,m}，指定范围，不指定m表示从n到无穷，只有一个n是只能是这么多次

1 >>> str2="111111133111188211111111111134234"　　
2 >>> re.findall("1{4}",str2)　　#按照字符1重复4次匹配，共匹配成功5次
3 ['1111', '1111', '1111', '1111', '1111']
4 >>> re.findall("3{2}",str2)　　#匹配出现2次3的字符串
5 ['33']
6 >>> re.findall("3{1,3}",str2)　　#匹配出现1到3次3的情况
7 ['33', '3', '3']
8 >>> re.findall("1{1,}",str2)　　#匹配出现1至少一次的情况
9 ['1111111', '1111', '111111111111']

转义字符

\　　反斜杠后边跟元字符去除特殊功能，反斜杠后边跟普通字符实现特殊功能

\d  匹配任何十进制数；      它相当于类 [0-9]。
\D  匹配任何非数字字符；    它相当于类 [^0-9]。
\s  匹配任何空白字符；      它相当于类 [ \t\n\r\f\v]。
\S  匹配任何非空白字符；    它相当于类 [^ \t\n\r\f\v]。
\w  匹配任何字母数字汉字字符；   它相当于类 [a-zA-Z0-9_]。
\W  匹配任何非字母数字汉字字符； 它相当于类 [^a-zA-Z0-9_]
\b  匹配一个特殊字符边界，比如空格 ，&，＃等

字符串：包含特殊字符、数字、大小写字母及汉字

1 >>> str3='123456  7890@#$abcd  efg!%&*HIJKLMN陈'

\d　　匹配十进制数

1 >>> re.findall("\d",str3)
2 ['1', '2', '3', '4', '5', '6', '7', '8', '9', '0']

\D　　匹配非数字字符

1 >>> re.findall("\D",str3)
2 [' ', ' ', '@', '#', '$', 'a', 'b', 'c', 'd', ' ', ' ', 'e', 'f', 'g', '!', '%', '&', '*', 'H', 'I', 'J', 'K', 'L', 'M', 'N', '陈']

\s　　匹配任何空白字符

>>> re.findall("\s",str3)
[' ', ' ', ' ', ' ']

\S　　匹配任何非空白字符

1 >>> re.findall("\S",str3)
2 ['1', '2', '3', '4', '5', '6', '7', '8', '9', '0', '@', '#', '$', 'a', 'b', 'c', 'd', 'e', 'f', 'g', '!', '%', '&', '*', 'H', 'I', 'J', 'K', 'L', 'M', 'N', '陈']

\w　　匹配任何字母数字汉字字符

1 >>> re.findall("\w",str3)
2 ['1', '2', '3', '4', '5', '6', '7', '8', '9', '0', 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'H', 'I', 'J', 'K', 'L', 'M', 'N', '陈']

\W　　匹配任何非字母数字汉字字符

1 >>> re.findall("\W",str3)
2 [' ', ' ', '@', '#', '$', ' ', ' ', '!', '%', '&', '*']

\b　　匹配一个特殊的字符边界，注意：因为\b和py解释器有冲突，所以需要加上r表示以源生字符方式传送给re模块解释

1 >>> re.findall(r"abcd\b",str3)
2 ['abcd']
3 >>> re.findall(r"123456\b",str3)
4 ['123456']

源生字符r示例1：匹配“abc\le”中的‘c\l’，\l无特殊含义

 1 >>> import re
 2 >>> str4="abc\le"
 3 >>> re.findall('c\l','abc\le')    #报错，py解释器会解释一次转义字符，一个\无法解释
 4 >>> re.findall('c\\l','abc\le')    #报错，py解释器将两个\解释成一个\传给re模块，re模块
 5 >>> re.findall('c\\\l','abc\le')　　#py解释器将三个\解释成\\传给re模块，re模块解释\\转义匹配c\l
 6 ['c\\l']　　　　#因为匹配出来的c\l的\是特殊字符，所以py解释器将\转义一次输出
 7 >>> re.findall('c\\\\l','abc\le')　　#py解释器将第一个和第二个\解释成一个\，第三个第四个\解释成一个\，共两个\传给re模块
 8 ['c\\l']
 9 >>> re.findall(r'c\\l','abc\le')　　#py解释器通过r标识，将两个\解释为源生字符直接传给re模块
10 ['c\\l']

源生字符r示例2：匹配“abc\be”中的‘c\b’，\b有特殊含义，为ascii表的退格

 1 >>> str5="abc\be"
 2 >>> re.findall('c\b','abc\be')
 3 ['c\x08']
 4 >>> re.findall('c\\b','abc\be')
 5 ['c']
 6 >>> re.findall('c\\\b','abc\be')
 7 ['c\x08']
 8 >>> re.findall('c\\\\b','abc\be')
 9 []
10 >>> re.findall(r'c\b','abc\be')
11 ['c']
12 >>> re.findall(r'c\\b','abc\be')
13 []
14 >>> re.findall(r'c\\\b','abc\be')
15 []
16 >>> re.findall(r'c\\\\b','abc\be')
17 []
18 >>> re.findall(r'c\b',r'abc\be')
19 ['c']
20 >>> re.findall(r'c\\b',r'abc\be')　　#当字符串内有特殊含义的字符时候，需要加r转义为源生字符
21 ['c\\b']
22 >>> re.findall(r'c\\\b',r'abc\be')
23 ['c\\']
24 >>> re.findall(r'c\\\\b',r'abc\be')
25 []

()　　分为普通分组和命名分组两种，和的意思，匹配规则的字符串以组的方式划成一个整体，这个整体赋规则匹配字符串

1 >>> str6="faefhuknghellohellohelloafeahelloadf"
2 >>> re.findall("(hello)+",str6)　　#将hello组成一个整体进行+规则
3 ['hello', 'hello']　　#因为优先级的限制，只能显示分组内的内容
4 >>> re.findall("(?:hello)+",str6)
5 ['hellohellohello', 'hello']　　#?:是一个格式，取消优先级限制，将匹配到的所有显示出来

分组一般配合re.search()和re.match()方法调用

re.search()格式和findall相同，但是其返回的是一个对象，通过调用对象的group方法返回具体的值，re.search()只会匹配一次值，匹配到之后将不再向后匹配，即只有一个结果。

1 >>> re.search("(hello)+",str6)
2 <_sre.SRE_Match object; span=(9, 24), match='hellohellohello'>
3 >>> ret=re.search("(hello)+",str6)
4 >>> ret.group()
5 'hellohellohello'

re.match()方法和元字符^的功能类似，匹配字符串开头，返回一个对象，并且也能通过group方法返回具体的值

1 >>> str7="hellohellohellonameafeahelloadf"
2 >>> ret=re.match("(hello)+",str7)　　#开头有hello能匹配到
3 >>> ret.group()
4 'hellohellohello'
5 >>> ret=re.match("(name)+",str7)　　#开头没有name，匹配不到
6 >>> ret.group()
7 Traceback (most recent call last):
8   File "<stdin>", line 1, in <module>
9 AttributeError: 'NoneType' object has no attribute 'group'

命名分组：在分组的基础上加上一个名字，通过group方法调用分组名字返回具体的值

1 >>> str8="-blog-aticles-2015-04"
2 >>> ret=re.search(r"-blog-aticles-(?P<year>\d+)-(?P<month>\d+)",str8)　　#?P是定义命名的格式，<>内是名字
3 >>> ret.group('year')
4 '2015'
5 >>> ret.group('month')
6 '04'

[]　　字符集，中括号内的字符集合，关系为或，即匹配括号内任意一个字符即可，字符集内的-^\三个字符具有特殊意义，其他字符丧失原来的特殊意义。

1 >>> str9="adf13415aggae8657dfc"　
2 >>> re.findall("a[dg]+",str9)　　#匹配a开头，后面多余一个d或者g结尾的部分
3 ['ad', 'agg']

字符集内的-表示一个范围

1 >>> re.findall("[0-9]+",str9)　　#包含0-9数字的字符，匹配+规则
2 ['13415', '8657']
3 >>> re.findall("[a-z]+",str9)
4 ['adf', 'aggae', 'dfc']

字符集内的^表示取反

1 >>> re.findall("[^a-z]+",str9)　　#不是包含a-z字母的字符，匹配+规则
2 ['13415', '8657']
3 >>> re.findall("[^0-9]+",str9)
4 ['adf', 'aggae', 'dfc']

字符集内的\表示转义

1 >>> re.findall("[\d]",str9)
2 ['1', '3', '4', '1', '5', '8', '6', '5', '7']
3 >>> re.findall("[\w]",str9)
4 ['a', 'd', 'f', '1', '3', '4', '1', '5', 'a', 'g', 'g', 'a', 'e', '8', '6', '5', '7', 'd', 'f', 'c']

|　　管道符号，表示或

1 >>> str10="www.oldboy.com;www.oldboy.cn;www.baidu.com;"
2 >>> re.findall("www\.(?:\w+)\.(?:com|cn)",str10)
3 ['www.oldboy.com', 'www.oldboy.cn', 'www.baidu.com']

贪婪匹配和非贪婪匹配（基于重复）

贪婪匹配：按照最长的结果匹配

1 >>> str11="dasa11s6666dabccccasd"
2 >>> re.findall("abc+",str11)　　#+表示从范围从1到正无穷，所以多少个c都可以匹配到
3 ['abcccc']
4 >>> re.findall("\d+",str11)
5 ['11', '6666']

非贪婪匹配：按照最短的结果匹配

1 >>> re.findall("\d+?",str11)　　#在+后面加？表示取最小范围1
2 ['1', '1', '6', '6', '6', '6']
3 >>> re.findall("abc+?",str11)
4 ['abc']

非贪婪应用示例：

1 >>> str12="<div>yuan<img></div><a href=""></div>"
2 >>> re.findall("<div>.*?</div>",str12)　　#匹配到第一个</div>
3 ['<div>yuan<img></div>']

非贪婪匹配规则：

1 *? 重复任意次，但尽可能少重复
2 +? 重复1次或更多次，但尽可能少重复
3 ?? 重复0次或1次，但尽可能少重复
4 {n,m}? 重复n到m次，但尽可能少重复
5 {n,}? 重复n次以上，但尽可能少重复

.*?用法：

1 . 是任意字符
2 * 是取 0 至 无限长度
3 ? 是非贪婪模式。
4 合在一起就是取尽量少的任意字符，一般不会这么单独写，他大多用在：“.*?a”，就是取前面任意长度的字符，到最后一个 a 出现

re模块方法

re.findall()方法：匹配所有，将匹配到的结果全部按照列表方式返回

re.search()方法：返回一个对象，通过group方法调用具体值，示例见分组部分，匹配到第一个就不再往下继续匹配了，没匹配到返回一个None

re.match()方法：只在字符串开始的位置匹配，返回的是一个对象，通过group方法调用具体值，示例见分组部分

re.split()方法：分割，以列表方式返回，中间用正则模糊匹配，可以限定分割次数

1 >>> str13="hello23world12my7name"
2 >>> re.split("\d+",str13)　　#以数字为分割线，返回其他值
3 ['hello', 'world', 'my', 'name']
4 >>> re.split("(\d+)",str13)　　#同时返回分割线
5 ['hello', '23', 'world', '12', 'my', '7', 'name']
6 >>> re.split("\d+",str13,1)　　#分割一次
7 ['hello', 'world12my7name']

特殊情况，分割出空

1 >>> re.split("l","hello bob")
2 ['he', '', 'o bob']

re.sub()方法：替换，格式为：规则-替换内容-字符串-计数限定次数

1 >>> str14="hello 123 123 name world my name "
2 >>> re.sub("\d+","A",str14)
3 'hello A A name world my name '
4 >>> re.sub("\d","A",str14)
5 'hello AAA AAA name world my name '
6 >>> re.sub("\d","A",str14,3)
7 'hello AAA 123 name world my name '

re.subn()：类似于sub，但是以元组返回，并且返回替换次数

1 >>> re.subn("\d","A",str14,3)
2 ('hello AAA 123 name world my name ', 3)

re.finditer()：返回一个迭代器，调用也是要group方法

1 >>> ret=re.finditer("\d+","dasfjk324khk4234kj234hkj234hkj234kj234k2j34hk2j3h4")
2 >>> print(ret)
3 <callable_iterator object at 0x000001CE69609470>
4 >>> print(next(ret))
5 <_sre.SRE_Match object; span=(6, 9), match='324'>
6 >>> print(next(ret).group())　　#因为已经迭代了一次，所以返回第二个值
7 4234

re.compile()：编译规则，以编译对象的方式调用，频繁调用同一个规则时候使用

1 >>> num_rule=re.compile('\d+')
2 >>> print(num_rule,type(num_rule))
3 re.compile('\\d+') <class '_sre.SRE_Pattern'>
4 >>> num_rule.findall("hello 123 3241")
5 ['123', '3241']