re模块 常用函数

1. findall() 函数　

 find('正则表达式'，‘待匹配的字符串’)  #返回匹配到字符串，并存放在列表中

　　详解见：https://www.cnblogs.com/nbk-zyc/p/11113328.html

 import re

 ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com')
 print(ret)  # ['oldboy']     这是因为findall会优先把匹配结果组里内容返回,如果想要匹配结果,取消权限即可

 ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com')
 print(ret)  # ['www.oldboy.com']

练习 findall() 与分组

2. search() 函数

 import re
 ret = re.search('abc', 'this is abcABC').group()
 print(ret) #结果 : 'abc'
 # 函数会在字符串内按规则匹配,当找到第一个匹配结果时就结束查找，然后返回一个包含匹配信息的对象,该对象可以 通过   调用group()方法   得到匹配的字符串,
 # 如果没有匹配到字符串，则返回None

 obj = re.compile('\d{3}')  #将正则表达式编译成为一个 正则表达式对象，规则要匹配的是3个数字
 ret = obj.search('abc123eeee') #正则表达式对象调用search，参数为待匹配的字符串
 print(ret.group())  #结果 ： 123

3. match() 函数

 import re
 ret = re.match('this', 'this is abcABC').group()
 print(ret) #结果 : 'this'
 # 在字符串开始处 就按规则匹配，其它 与search()函数使用方法一样

4 finditer() 函数

 import re
 ret = re.finditer('\d', 'ds3sy4784a')   #finditer返回一个存放匹配结果的迭代器
 print(ret)  # <callable_iterator object at 0x10195f940>
 print(next(ret).group())  #查看第一个结果  '3'
 print(next(ret).group())  #查看第二个结果  '4'
 print([i.group() for i in ret])  #查看剩余的匹配结果 ['7', '8', '4']

5 sub() 和 subn() 函数

 import re
 ret = re.sub('\d', 'H', 'eva3egon4yuan4', 1)#将数字替换成'H'，参数1表示只替换1个
 print(ret) #evaHegon4yuan4

 ret = re.subn('\d', 'H', 'eva3egon4yuan4')
 print(ret)
 #将数字替换成'H'，返回元组(替换的结果,替换了多少次),即('evaHegonHyuanH', 3)

6 split() 函数

 ret = re.split('[ab]', 'abcd')  # 先按'a'分割得到''和'bcd',在对''和'bcd'分别按'b'分割
 print(ret)  # ['', '', 'cd']

 ret=re.split("\d+","eva3egon4yuan")
 print(ret) #结果 ： ['eva', 'egon', 'yuan']

 ret=re.split("(\d+)","eva3egon4yuan")
 print(ret) #结果 ： ['eva', '3', 'egon', '4', 'yuan']

 #在匹配部分加上（）之后所切出的结果是不同的，
 #没有（）的没有保留所匹配的项，但是有（）的却能够保留了匹配的项，
 #这个在某些需要保留匹配部分的使用过程是非常重要的。

练习-split() 与分组

扩展练习

 ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>")
 #还可以在分组中利用 ?P<name>的形式给分组起名字
 #获取的匹配结果可以直接用group('名字')拿到对应的值
 print(ret.group('tag_name'))  #结果 ：h1
 print(ret.group())  #结果 ：<h1>hello</h1>

 ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>")
 #如果不给组起名字，也可以用  \序号   来找到对应的组，表示要找的内容和前面的组内容一致
 #获取的匹配结果可以直接用group(序号)拿到对应的值
 print(ret.group(1)) #结果 ：h1
 print(ret.group())  #结果 ：<h1>hello</h1>

匹配标签

 import re

 #匹配数字
 ret=re.findall(r"\d+","1-2*(60+(-40.35/5)-(-4*3))")
 print(ret) #['1', '2', '60', '40', '35', '5', '4', '3']

 #匹配整数
 ret=re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))")
 print(ret) #['1', '-2', '60', '', '5', '-4', '3']
 ret.remove("")
 print(ret) #['1', '-2', '60', '5', '-4', '3']

 #匹配实数
 ret=re.findall(r"-?\d+\.\d*|-?\d+","1-2*(60+(-40.35/5)-(-4*3))")
 print(ret) #['1', '-2', '60', '-40.35', '5', '-4', '3']

匹配数字/整数/实数

 import re
 from urllib.request import urlopen

 def getPage(url):
     response = urlopen(url)
     return response.read().decode('utf-8')

 def parsePage(s):
     ret = re.findall(
         '<div class="item">.*?'
         '<div class="pic">.*?'
         '<em .*?>'
         '(?P<id>\d+).*?'
         '<span class="title">(?P<title>.*?)</span>.*?'
         '<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?'
         '<span>(?P<comment_num>.*?)评价</span>',s,re.S)
     return ret

 def main(num):
     url = 'https://movie.douban.com/top250?start=%s&filter=' % num    # %s标记每页的首条信息
     response_html = getPage(url)    #获取网页的全部内容
     ret = parsePage(response_html) #解析所需求的信息
     print(ret)

 count = 0
 for i in range(10):   # 10页
     main(count)
     count += 25        # 每页25条信息

爬取网页-简单版

 from urllib.request import urlopen
 import re
 import json

 def getPage(url):
     response = urlopen(url)
     return response.read().decode('utf-8')
 def parsePage(s):
     com = re.compile(
         '<div class="item">.*?'
         '<div class="pic">.*?'
         '<em .*?>'
         '(?P<id>\d+).*?'
         '<span class="title">(?P<title>.*?)</span>.*?'
         '<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?'
         '<span>(?P<comment_num>.*?)评价</span>', re.S)
     ret = com.finditer(s)   # finditer返回一个存放匹配结果的迭代器
     for i in ret:
         yield {
             "id": i.group("id"),
             "title": i.group("title"),
             "rating_num": i.group("rating_num"),
             "comment_num": i.group("comment_num"),
         }
 def main(num):
     url = 'https://movie.douban.com/top250?start=%s&filter=' % num
     response_html = getPage(url)
     ret = parsePage(response_html)
     #print(ret)

     f = open("move_info7", "a", encoding="utf-8")
     for obj in ret:
         print(obj)
         data = json.dumps(obj, ensure_ascii=False)
         f.write(data + "\n")
     f.close()

 if __name__ == '__main__':
     count = 0
     for i in range(10):
         main(count)
         count += 25

爬取网页-完整版