、说明

  本文主要讲述采集猫眼电影用户评论进行分析,相关爬虫采集程序可以爬取多个电影评论。

  运行环境:Win10/Python3.5。

  分析工具:jieba、wordcloud、pyecharts、matplotlib。

  基本流程:下载内容 ---> 分析获取关键数据 ---> 保存本地文件 ---> 分析本地文件制作图表

  注意:本文所有图文和源码仅供学习,请勿他用,转发请注明出处!

  本文主要参考:https://mp.weixin.qq.com/s/mTxxkwRZPgBiKC3Sv-jo3g

  

二、开始采集

  2.1、分析数据接口:

    为了健全数据样本,数据直接从移动端接口进行采集,连接如下,其中橙色部分为猫眼电影ID,修改即可爬取其他电影。

    链接地址:http://m.maoyan.com/mmdb/comments/movie/.json?v=yes&offset=15&startTime=

    

    

    接口返回的数据如下,主要采集(昵称、城市、评论、评分和时间),用户评论在 json['cmts'] 中:

    

  2.2、爬虫程序核心内容(详细可以看后面源代码):

    >启动脚本需要的参数如下(脚本名+猫眼电影ID+上映日期+数据保存的文件名):.\myMovieComment.py 2016-11-16 myCmts2.txt

    

    >下载html内容:download(self, url),通过python的requests模块进行下载,将下载的数据转成json格式  

     def download(self, url):
"""下载html内容""" print("正在下载URL: "+url)
# 下载html内容
response = requests.get(url, headers=self.headers) # 转成json格式数据
if response.status_code == 200:
return response.json()
else:
# print(html.status_code)
print('下载数据为空!')
return ""

    

    >然后就是对已下载的内容进行分析,就是取出我们需要的数据:

     def parse(self, content):
"""分析数据""" comments = []
try:
for item in content['cmts']:
comment = {
'nickName': item['nickName'], # 昵称
'cityName': item['cityName'], # 城市
'content': item['content'], # 评论内容
'score': item['score'], # 评分
'startTime': item['startTime'], # 时间
}
comments.append(comment) except Exception as e:
print(e) finally:
return comments

    >将分析出来的数据,进行本地保存,方便后续的分析工作: 

  def save(self, data):
"""写入文件""" print("保存数据,写入文件中...")
self.save_file.write(data)

   

    > 爬虫的核心控制也即爬虫的程序启动入口,管理上面几个方法的有序执行:

     def start(self):
"""启动控制方法""" print("爬虫开始...\r\n") start_time = self.start_time
end_time = self.end_time num = 1
while start_time > end_time:
print("执行次数:", num)
# 1、下载html
content = self.download(self.target_url + str(start_time)) # 2、分析获取关键数据
comments = ''
if content != "":
comments = self.parse(content) if len(comments) <= 0:
print("本次数据量为:0,退出爬取!\r\n")
break # 3、写入文件
res = ''
for cmt in comments:
res += "%s###%s###%s###%s###%s\n" % (cmt['nickName'], cmt['cityName'], cmt['content'], cmt['score'], cmt['startTime'])
self.save(res) print("本次数据量:%s\r\n" % len(comments)) # 获取最后一条数据的时间 ,然后减去一秒
start_time = datetime.strptime(comments[len(comments) - 1]['startTime'], "%Y-%m-%d %H:%M:%S") + timedelta(seconds=-1)
# start_time = datetime.strptime(start_time, "%Y-%m-%d %H:%M:%S") # 休眠3s
num += 1
time.sleep(3) self.save_file.close()
print("爬虫结束...")

    

  2.3 数据样本,最终爬取将近2万条数据,每条记录的每个数据使用 ### 进行分割:

  

三、图形化分析数据

  3.1、制作观众城市分布热点图,(pyecharts-geo):

    从图表可以轻松看出,用户主要分布地区,主要以沿海一些发达城市群为主:

    

     def createCharts(self):
"""生成图表""" # 读取数据,格式:[{"北京", 10}, {"上海",10}]
data = self.readCityNum() # 1 热点图
geo1 = Geo("《无名之辈》观众位置分布热点图", "数据来源:猫眼,Fly采集", title_color="#FFF", title_pos="center", width="100%", height=600, background_color="#404A59") attr1, value1 = geo1.cast(data) geo1.add("", attr1, value1, type="heatmap", visual_range=[0, 1000], visual_text_color="#FFF", symbol_size=15, is_visualmap=True, is_piecewise=False, visual_split_number=10)
geo1.render("files/无名之辈-观众位置热点图.html") # 2 位置图
geo2 = Geo("《无名之辈》观众位置分布", "数据来源:猫眼,Fly采集", title_color="#FFF", title_pos="center", width="100%", height=600,
background_color="#404A59") attr2, value2 = geo1.cast(data)
geo2.add("", attr2, value2, visual_range=[0, 1000], visual_text_color="#FFF", symbol_size=15,
is_visualmap=True, is_piecewise=False, visual_split_number=10)
geo2.render("files/无名之辈-观众位置图.html") # 3、top20 柱状图
data_top20 = data[:20]
bar = Bar("《无名之辈》观众来源排行 TOP20", "数据来源:猫眼,Fly采集", title_pos="center", width="100%", height=600)
attr, value = bar.cast(data_top20)
bar.add('', attr, value, is_visualmap=True, visual_range=[0, 3500], visual_text_color="#FFF", is_more_utils=True, is_label_show=True)
bar.render("files/无名之辈-观众来源top20.html") print("图表生成完成")

  3.2、制作观众人数TOP20的柱形图,(pyecharts-bar):

    

  3.3、制作评论词云,(jieba、wordcloud):

    

    生成词云核心代码:

     def createWordCloud(self):
"""生成评论词云"""
comments = self.readAllComments() # # 使用 jieba 分词
commens_split = jieba.cut(str(comments), cut_all=False)
words = ''.join(commens_split) # 给词库添加停止词
stopwords = STOPWORDS.copy()
stopwords.add("电影")
stopwords.add("一部")
stopwords.add("无名之辈")
stopwords.add("一部")
stopwords.add("一个")
stopwords.add("有点")
stopwords.add("觉得") # 加载背景图片
bg_image = plt.imread("files/2048_bg.png") # 初始化 WordCloud
wc = WordCloud(width=1200, height=600, background_color='#FFF', mask=bg_image, font_path='C:/Windows/Fonts/STFANGSO.ttf', stopwords=stopwords, max_font_size=400, random_state=50) # 生成,显示图片
wc.generate_from_text(words)
plt.imshow(wc)
plt.axis('off')
plt.show()

    

四、修改pyecharts源码

  4.1、样本数据的城市简称与数据集完整城市名匹配不上:

    使用位置热点图时候,由于采集数据城市是一些简称,与pyecharts的已存在数据的城市名对不上, 所以对源码进行一些修改,方便匹配一些简称。

    黔南 => 黔南布依族苗族自治州

    模块自带的全国主要市县经纬度在:[python安装路径]\Lib\site-packages\pyecharts\datasets\city_coordinates.json

    由于默认情况下,一旦城市名不能完全匹配就会报异常,程序会停止,所以对源码修改如下(报错方法为 Geo.add()),其中添加注析为个人修改部分:

   def get_coordinate(self, name, region="中国", raise_exception=False):
"""
Return coordinate for the city name. :param name: City name or any custom name string.
:param raise_exception: Whether to raise exception if not exist.
:return: A list like [longitude, latitude] or None
"""
if name in self._coordinates:
return self._coordinates[name] coordinate = get_coordinate(name, region=region) # [ 20181204 添加
# print(name, coordinate)
if coordinate is None:
# 如果字典key匹配不上,尝试进行模糊查询
search_res = search_coordinates_by_region_and_keyword(region, name)
# print("###",search_res)
if search_res:
coordinate = sorted(search_res.values())[0]
# 20181204 添加 ] if coordinate is None and raise_exception:
raise ValueError("No coordinate is specified for {}".format(name)) return coordinate

   

    相应的需要对 __add()方法进行如下修改:

  

五、附录-源码

  *说明:源码为本人所写,数据来源为猫眼,全部内容仅供学习,拒绝其他用途!转发请注明出处!

  5.1 采集源码

 # -*- coding:utf-8 -*-

 import requests
from datetime import datetime, timedelta
import os
import time
import sys class MaoyanFilmReviewSpider:
"""猫眼影评爬虫""" def __init__(self, url, end_time, filename):
# 头部
self.headers = {
'User-Agent': 'Mozilla/5.0 (iPhone; CPU iPhone OS 11_0 like Mac OS X) AppleWebKit/604.1.38 (KHTML, like Gecko) Version/11.0 Mobile/15A372 Safari/604.1'
} # 目标URL
self.target_url = url # 数据获取时间段,start_time:截止日期,end_time:上映时间
now = datetime.now() # 获取当天的 零点
self.start_time = now + timedelta(hours=-now.hour, minutes=-now.minute, seconds=-now.second)
self.start_time = self.start_time.replace(microsecond=0)
self.end_time = datetime.strptime(end_time, "%Y-%m-%d %H:%M:%S") # 打开写入文件, 创建目录
self.save_path = "files/"
if not os.path.exists(self.save_path):
os.makedirs(self.save_path)
self.save_file = open(self.save_path + filename, "a", encoding="utf-8") def download(self, url):
"""下载html内容""" print("正在下载URL: "+url)
# 下载html内容
response = requests.get(url, headers=self.headers) # 转成json格式数据
if response.status_code == 200:
return response.json()
else:
# print(html.status_code)
print('下载数据为空!')
return "" def parse(self, content):
"""分析数据""" comments = []
try:
for item in content['cmts']:
comment = {
'nickName': item['nickName'], # 昵称
'cityName': item['cityName'], # 城市
'content': item['content'], # 评论内容
'score': item['score'], # 评分
'startTime': item['startTime'], # 时间
}
comments.append(comment) except Exception as e:
print(e) finally:
return comments def save(self, data):
"""写入文件""" print("保存数据,写入文件中...")
self.save_file.write(data) def start(self):
"""启动控制方法""" print("爬虫开始...\r\n") start_time = self.start_time
end_time = self.end_time num = 1
while start_time > end_time:
print("执行次数:", num)
# 1、下载html
content = self.download(self.target_url + str(start_time)) # 2、分析获取关键数据
comments = ''
if content != "":
comments = self.parse(content) if len(comments) <= 0:
print("本次数据量为:0,退出爬取!\r\n")
break # 3、写入文件
res = ''
for cmt in comments:
res += "%s###%s###%s###%s###%s\n" % (cmt['nickName'], cmt['cityName'], cmt['content'], cmt['score'], cmt['startTime'])
self.save(res) print("本次数据量:%s\r\n" % len(comments)) # 获取最后一条数据的时间 ,然后减去一秒
start_time = datetime.strptime(comments[len(comments) - 1]['startTime'], "%Y-%m-%d %H:%M:%S") + timedelta(seconds=-1)
# start_time = datetime.strptime(start_time, "%Y-%m-%d %H:%M:%S") # 休眠3s
num += 1
time.sleep(3) self.save_file.close()
print("爬虫结束...") if __name__ == "__main__":
# 确保输入参数
if len(sys.argv) != 4:
print("请输入相关参数:[moveid]、[上映日期]和[保存文件名],如:xxx.py 42962 2018-11-09 text.txt")
exit() # 猫眼电影ID
mid = sys.argv[1] # "1208282" # "42964"
# 电影上映日期
end_time = sys.argv[2] # "2018-11-16" # "2018-11-09"
# 每次爬取条数
offset = 15
# 保存文件名
filename = sys.argv[3] spider = MaoyanFilmReviewSpider(url="http://m.maoyan.com/mmdb/comments/movie/%s.json?v=yes&offset=%d&startTime=" % (mid, offset), end_time="%s 00:00:00" % end_time, filename=filename)
# spider.start() spider.start()
# t1 = "2018-11-09 23:56:23"
# t2 = "2018-11-25"
#
# res = datetime.strptime(t1, "%Y-%m-%d %H:%M:%S") + timedelta(days=-1)
# print(type(res))

MaoyanFilmReviewSpider.py

  5.2 分析制图源码

 # -*- coding:utf-8 -*-
from pyecharts import Geo, Bar, Bar3D
import jieba
from wordcloud import STOPWORDS, WordCloud
import matplotlib.pyplot as plt class ACoolFishAnalysis:
"""无名之辈 --- 数据分析"""
def __init__(self):
pass def readCityNum(self):
"""读取观众城市分布数量"""
d = {} with open("files/myCmts2.txt", "r", encoding="utf-8") as f:
row = f.readline() while row != "":
arr = row.split('###') # 确保每条记录长度为 5
while len(arr) < 5:
row += f.readline()
arr = row.split('###') # 记录每个城市的人数
if arr[1] in d:
d[arr[1]] += 1
else:
d[arr[1]] = 1 # 首次加入字典,为 1 row = f.readline() # print(len(comments))
# print(d) # 字典 转 元组数组
res = []
for ks in d.keys():
if ks == "":
continue
tmp = (ks, d[ks])
res.append(tmp) # 按地点人数降序
res = sorted(res, key=lambda x: (x[1]),reverse=True)
return res def readAllComments(self):
"""读取所有评论"""
comments = [] # 打开文件读取数据
with open("files/myCmts2.txt", "r", encoding="utf-8") as f:
row = f.readline() while row != "":
arr = row.split('###') # 每天记录长度为 5
while len(arr) < 5:
row += f.readline()
arr = row.split('###') if len(arr) == 5:
comments.append(arr[2]) # if len(comments) > 20:
# break
row = f.readline() return comments def createCharts(self):
"""生成图表""" # 读取数据,格式:[{"北京", 10}, {"上海",10}]
data = self.readCityNum() # 1 热点图
geo1 = Geo("《无名之辈》观众位置分布热点图", "数据来源:猫眼,Fly采集", title_color="#FFF", title_pos="center", width="100%", height=600, background_color="#404A59") attr1, value1 = geo1.cast(data) geo1.add("", attr1, value1, type="heatmap", visual_range=[0, 1000], visual_text_color="#FFF", symbol_size=15, is_visualmap=True, is_piecewise=False, visual_split_number=10)
geo1.render("files/无名之辈-观众位置热点图.html") # 2 位置图
geo2 = Geo("《无名之辈》观众位置分布", "数据来源:猫眼,Fly采集", title_color="#FFF", title_pos="center", width="100%", height=600,
background_color="#404A59") attr2, value2 = geo1.cast(data)
geo2.add("", attr2, value2, visual_range=[0, 1000], visual_text_color="#FFF", symbol_size=15,
is_visualmap=True, is_piecewise=False, visual_split_number=10)
geo2.render("files/无名之辈-观众位置图.html") # 3、top20 柱状图
data_top20 = data[:20]
bar = Bar("《无名之辈》观众来源排行 TOP20", "数据来源:猫眼,Fly采集", title_pos="center", width="100%", height=600)
attr, value = bar.cast(data_top20)
bar.add('', attr, value, is_visualmap=True, visual_range=[0, 3500], visual_text_color="#FFF", is_more_utils=True, is_label_show=True)
bar.render("files/无名之辈-观众来源top20.html") print("图表生成完成") def createWordCloud(self):
"""生成评论词云"""
comments = self.readAllComments() # # 使用 jieba 分词
commens_split = jieba.cut(str(comments), cut_all=False)
words = ''.join(commens_split) # 给词库添加停止词
stopwords = STOPWORDS.copy()
stopwords.add("电影")
stopwords.add("一部")
stopwords.add("无名之辈")
stopwords.add("一部")
stopwords.add("一个")
stopwords.add("有点")
stopwords.add("觉得") # 加载背景图片
bg_image = plt.imread("files/2048_bg.png") # 初始化 WordCloud
wc = WordCloud(width=1200, height=600, background_color='#FFF', mask=bg_image, font_path='C:/Windows/Fonts/STFANGSO.ttf', stopwords=stopwords, max_font_size=400, random_state=50) # 生成,显示图片
wc.generate_from_text(words)
plt.imshow(wc)
plt.axis('off')
plt.show() if __name__ == "__main__":
demo = ACoolFishAnalysis()
demo.createWordCloud()

[Python] 通过采集两万条数据,对《无名之辈》影评分析的更多相关文章

  1. [Python] 通过采集23万条数据,对《哪吒》影评分析

    一.说明 数据来源:猫眼: 运行环境:Win10/Python3.7 和 Win7/Python3.5: 分析工具:jieba.WorldCloud.pyecharts和matplotlib: 程序基 ...

  2. EDG夺冠!用Python分析22.3万条数据:粉丝都疯了!

    一.EDG夺冠信息 11月6日,在英雄联盟总决赛中,EDG战队以3:2战胜韩国队,获得2021年英雄联盟全球总决赛冠军,这个比赛在全网各大平台也是备受瞩目: 1.微博热搜第一名,截止2021-11-1 ...

  3. (转)Python网络爬虫实战:世纪佳缘爬取近6万条数据

    又是一年双十一了,不知道从什么时候开始,双十一从“光棍节”变成了“双十一购物狂欢节”,最后一个属于单身狗的节日也成功被攻陷,成为了情侣们送礼物秀恩爱的节日. 翻着安静到死寂的聊天列表,我忽然惊醒,不行 ...

  4. QTreeView处理大量数据(使用1000万条数据,每次都只是部分刷新)

    如何使QTreeView快速显示1000万条数据,并且内存占用量少呢?这个问题困扰我很久,在网上找了好多相关资料,都没有找到合理的解决方案,今天在这里把我的解决方案提供给朋友们,供大家相互学习. 我开 ...

  5. 极限挑战—C#+ODP 100万条数据导入Oracle数据库仅用不到1秒

    链接地址:http://www.cnblogs.com/armyfai/p/4646213.html 要:在这里我们将看到的是C#中利用ODP实现在Oracle数据库中瞬间导入百万级数据,这对快速批量 ...

  6. Qt中提高sqlite的读写速度(使用事务一次性写入100万条数据)

    SQLite数据库本质上来讲就是一个磁盘上的文件,所以一切的数据库操作其实都会转化为对文件的操作,而频繁的文件操作将会是一个很好时的过程,会极大地影响数据库存取的速度.例如:向数据库中插入100万条数 ...

  7. 使用hibernate在5秒内插入11万条数据,你觉得可能吗?

    需求是这样的,需要查询某几个表的数据,然后插入到另外一个表. 一看到需求,很多人都会用hibernate去把这些数据都查询出来,然后放到list中, 然后再用for循环之类的进行遍历,一条一条的取出数 ...

  8. JavaScript如何一次性展示几万条数据

    有一位同事跟大家说他在网上看到一道面试题:“如果后台传给前端几万条数据,前端怎么渲染到页面上?”,如何回答? 于是办公室沸腾了, 同事们讨论开了, 你一言我一语说出自己的方案. 有的说直接循环遍历生成 ...

  9. Mvc+Dapper+存储过程分页10万条数据

    10万条数据采用存储过程分页实现(Mvc+Dapper+存储过程) 有时候大数据量进行查询操作的时候,查询速度很大强度上可以影响用户体验,因此自己简单写了一个demo,简单总结记录一下: 技术:Mvc ...

随机推荐

  1. 深入学习OpenCV检测及分割图像的目标区域

    准备1:OpenCV常用图片转换技巧 在进行计算机视觉模型训练前,我们经常会用到图像增强的技巧来获取更多的样本,但是有些深度学习框架中的方法对图像的变换方式可能并不满足我们的需求,所以掌握OpenCV ...

  2. yum源使用报错

    CentOS系统yum源使用报错:Error: Cannot retrieve repository metadata (repomd.xml) for repository: rpmforge. 服 ...

  3. git基础学习

    1.git是什么 内容寻址文件系统,分布式版本控制系统 2.git作用 开发过程中的版本控制 3.git基础命令 克隆git仓库---clone:git clone 仓库url 选分支---check ...

  4. 北大ACM试题分类+部分解题报告链接

    转载请注明出处:優YoU http://blog.csdn.net/lyy289065406/article/details/6642573 部分解题报告添加新内容,除了原有的"大致题意&q ...

  5. codeforces 322 B Ciel and Flowers

    题目链接 有红绿蓝三种颜色的画,每种拿三朵可以组成一束花,或者各拿一朵组成花束,告诉你每种花的数目,求出可能组成最多的花束. 如果你的代码过不了,考虑一下 8 8 9这种组合.  因为数据量很大,我的 ...

  6. spring-boot项目的docker集成化部署(一)

    目录 spring-boot项目的docker集成化部署 前言 基本思路与方案 基本步骤 准备源码 服务器和基础环境 结语 1. 本文总结: 2. 后期优化: spring-boot项目的docker ...

  7. idea+Spring+Mybatis+jersey+jetty构建一个简单的web项目

    一.先使用idea创建一个maven项目. 二.引入jar包,修改pom.xml <dependencies> <dependency> <groupId>org. ...

  8. LeetCode——372. Super Pow

    题目链接:https://leetcode.com/problems/super-pow/description/ Your task is to calculate ab mod 1337 wher ...

  9. echarts3.x遇到的坑

    此文章用来记录echarts3.x遇到的坑,方便以后自己不再犯. 1.柱形图设置了yAxis.splitArea.show=true,后面设置的splitLine就会变不可见了.也没在官方文档中找到说 ...

  10. 分布式ID系列(5)——Twitter的雪法算法Snowflake适合做分布式ID吗

    介绍Snowflake算法 SnowFlake算法是国际大公司Twitter的采用的一种生成分布式自增id的策略,这个算法产生的分布式id是足够我们我们中小公司在日常里面的使用了.我也是比较推荐这一种 ...