python爬取某站新闻，并分析最近新闻关键词

在爬取某站时并做简单分析时，遇到如下问题和大家分享，避免犯错：

一丶网站的path为 /info/1013/13930.htm ，其中13930为不同新闻的 ID 值，但是这个数虽然为升序，但是没有任何规律的升序。

　　解决办法：

　　　使用 range 顺序爬取，错误的网站在页面会报如图错误：

　　　这时我们首先去判断返回页面是否包含 str 'Sorry, Page Not Found'，如果包含则跳过，不包含则爬取页面关键信息

　　

二、在爬取过程中发现有其它页面，该内容已经被撤销，这时我正常去判断页面，并跳过，发现无法跳过

　　

　　

　　解决办法：

　　　　查看页面编码为：UTF-8

　　

　　　　在用 if 判断页面是否存在 str 时，首先将页面内容进行UTF-8编码即可解决：

　　　　response.encoding = 'utf-8'

三、在爬取网站时，遇到了没有 text 的主页面，新闻全部为图片

　　解决办法：这时查看图片页面和新闻页面的不同

　　图片页面关键标签：

　　

　　新闻页面关键标签：

　　

　　发现div标签下的 ID 不同，这时我们就跳过 id = 'vsb_content' 即可，在跳过时，判断页面内容应当先判断 id = 'vsb_content_4' ,因为 vsb_content_4 包含了 vsb_content

　　

四、在爬取新闻后，将新闻写入csv文件时出现BUG，文件内容有重复

　　解决办法：

　　　在写入文件的列表写入后将列表清空，因为在循环执行跳过不存在页面时会有空隙，这时的data_list里面是有内容的

　　

五、在写入csv文件后，新闻文本乱码

　　解决办法：使用utf-8-sig编码

　　　为什么不用utf-8?

　　原因如下：
　　　1、”utf-8“ 是以字节为编码单元,它的字节顺序在所有系统中都是一样的,没有字节序问题,

　　　　因此它不需要BOM,所以当用"utf-8"编码方式读取带有BOM的文件时,它会把BOM当做是文件内容来处理, 也就会发生类似上边的错误.

　　2、“uft-8-sig"中sig全拼为 signature 也就是"带有签名的utf-8”,

　　　　因此"utf-8-sig"读取带有BOM的"utf-8文件时"会把BOM单独处理,与文本内容隔离开,也是我们期望的结果.

最终代码：

 #!/user/bin/env python
 # -*- coding:utf-8 -*-
 # Author: Mr.riy

 import re
 import requests
 import csv
 import time
 import jieba
 import jieba.analyse
 from requests.exceptions import RequestException
 from bs4 import BeautifulSoup

 class Downloader:
     def __init__(self):
         self.data_list = []

     def download(self, url, num_retries=3):
         '判断页面'
         print('Downloading:', url)
         global response
         response = requests.get(url)
         response.encoding='utf-8'
         try:
             if 'Sorry, Page Not Found' in response.text:
                 print(url, '页面不存在')
             elif '该内容已经被撤销' in response.text:
                 print(url, '页面不存在')
             elif response.status_code == 200:
                 print('下载成功，开始执行......')
                 # print(response.text)
                 # print(response.encoding)
                 page = response.content
                 self.find_all(page)
                 time.sleep(1)
             else:
                 if num_retries > 0 and 500 <= response.status_code <= 600:
                     html = self.download(url, num_retries-1)
         except RequestException as e:
             print(e)

     def find_all(self, page):
         '爬取内容'
         soup_title = BeautifulSoup(page, 'lxml')
         sp_title_items = soup_title.find('h2', attrs={'align': 'center'})
         title = sp_title_items.text
         print(title)

         sp_time_items = soup_title.find('div', attrs={'style': 'line-height:400%;color:#444444;font-size:14px'})
         times = sp_time_items.text
         # print(times)
         time = re.findall(r'\d{4}年\d{2}月\d{2}日 \d{2}:\d{2}', times)
         # print(time)
         author = re.findall(r'作者:(.*)', times)
         # print(author)
         global response
         if 'vsb_content_4' in response.text:
             sp_words_items = soup_title.find('div', attrs={'id': 'vsb_content_4'})
         elif 'vsb_content_501' in response.text:
             sp_words_items = soup_title.find('div', attrs={'id': 'vsb_content_501'})
         else:
             sp_words_items = soup_title.find('div', attrs={'id': 'vsb_content'})

         words = sp_words_items.text
         # print(words)
         row = []
         row.append(time)
         row.append(author)
         row.append(words)
         self.data_list.append(row)

     def write_csv(self, filename, all_list):
         '写入csv文件'
         with open(filename, 'w', encoding="utf-8-sig", newline='') as f:
             writer = csv.writer(f)
             fields = ('时间', '作者', '内容')
             writer.writerow(fields)
             for row in all_list:
                 writer.writerow(row)

     def fetch_data(self):
         '设置爬取页面'
         all_list = []
         for page in range(13795, 14000, 1):  #设置爬取的页面范围
             url = f'http://www.xxxxxx.cn/info/1013/{page}.htm'
             self.download(url)
             all_list += self.data_list
             self.data_list = []

         self.write_csv('data.csv', all_list)

 class analyze:
     def get_all_text(self, filename):
         '取出所有评价的句子'
         comment_list = []
         with open(filename, encoding="utf-8-sig") as f:
             rows = csv.reader(f)
             for row in rows:
                 one_comment = row[-1]
                 comment_list.append(one_comment)

         return ''.join(comment_list[1:])

     def cut_text(self, all_text):
         '找到评价中重要关键词'
         jieba.analyse.set_stop_words('stop_words.txt')
         text_tags = jieba.analyse.extract_tags(all_text, topK=30)
         return text_tags

 def main():
     temp = Downloader()
     temp.fetch_data()
     b = analyze()
     all_text = b.get_all_text('data.csv')
     text_tags = b.cut_text(all_text)
     print(text_tags)

 if __name__ == "__main__":
     main()

运行截图：最近新闻出现最多的关键字为：防疫，疫情，工作