爬取b站用户历史评论

2024-08-03

一个简单的爬取b站up下所有视频的所有评论信息的爬虫

心血来潮搞了一个简单的爬虫,主要是想知道某个人的b站账号,但是你知道,b站在搜索一个用户时,如果这个用户没有投过稿,是搜不到的,,,这时就只能想方法搞到对方的mid,,就是 space.bilibili.com/9444976 后面的那一串数字.偶然看到这个人关注了某个主播,,想到可能这个人会回复主播的视频,于是想着爬到所有up下的视频的评论对应的用户,这样我就可以在数据库里检索昵称得到mid,,,嘿嘿嘿(然而失败了,,不是所有人都像我这么无聊,,,,有些人真的看视频不会回复,, 项目地址: h

python爬虫——爬取B站用户在线人数

国庆期间想要统计一下bilibili网站的在线人数变化,写了一个简单的爬虫程序.主要是对https://api.bilibili.com/x/web-interface/online返回的参数进行分析,获取在线人数对应位置.程序关键点在于requests模块的使用. 具体步骤 1.网页中寻找数据元素对应接口 2.设置代理库 3.请求接口,json读取数据,获得当前在线人数 4.10次求平均 5.配置定时任务,每分钟执行一次 6.excel导出图表最终结果 # !/usr/bin/env pyt

Python 网络爬虫实战：爬取 B站《全职高手》20万条评论数据

本周我们的目标是:B站(哔哩哔哩弹幕网 https://www.bilibili.com )视频评论数据. 我们都知道,B站有很多号称“镇站之宝”的视频,拥有着数量极其恐怖的评论和弹幕.所以这次我们的目标就是,爬取B站视频的评论数据,分析其为何会深受大家喜爱. 首先去调研一下,B站评论数量最多的视频是哪一个...好在已经有大佬已经统计过了,我们来看一哈! [B站大数据可视化]B站评论数最多的视频究竟是?来自 <https://www.bilibili.com/video/av34900167/

用python爬取B站在线用户人数

最近在自学Python爬虫,所以想练一下手,用python来爬取B站在线人数,应该可以拿来小小分析一下设计思路首先查看网页源代码,找到相应的html,然后利用各种工具(BeautifulSoup或者直接正则表达式)得到数据, 然后把数据和当且时间保存到本地,并且设置一定的时间间隔,反复得到数据, 不过后面我发现B站在线人数是通过js动态生成的,后面会提到实现过程观察HTML网页打开B站,查看网页源代码我们发现 <div class="online"> <a

Python爬取淘宝店铺和评论

1 安装开发需要的一些库 (1) 安装mysql 的驱动:在Windows上按win+r输入cmd打开命令行,输入命令pip install pymysql,回车即可. (2) 安装自动化测试的驱动selenium:在命令行中输入pip install selenium回车. (3) 安装标签解析库pyquery: 在命令行中输入pip install pyquery回车. (4) Anaconda指的是一个开源的Python发行版本,其包含了conda.Python等180多个科学包及其依赖项

python爬取网易云音乐歌曲评论信息

网易云音乐是广大网友喜闻乐见的音乐平台,区别于别的音乐平台的最大特点,除了“它比我还懂我的音乐喜好”.“小清新的界面设计”就是它独有的评论区了——————各种故事汇,各种金句频出.我们可以透过歌曲的评论数来判断一个歌者的市场分量和歌曲的流行度.言归正传,如果我们想要简单爬取指定歌曲的评论内容来做词云或者其他相关数据分析,有没有容易上手的好方法呢? 首先,我们打开网易云音乐的网页版:https://music.163.com/,随便选择一首歌曲,如林志炫版本的<烟花易冷>:https://mus

Python爬取B站视频信息

该文内容已失效,现已实现scrapy+scrapy-splash来爬取该网站视频及用户信息,由于B站的反爬封IP,以及网上的免费代理IP绝大部分失效,无法实现一个可靠的IP代理池,免费代理网站又是各种反爬,解决反爬后获取到的有效IP占比极低,不想折腾,因此视频信息暂时无法成功获取.github地址 https://github.com/delav/bstation 该爬虫可以爬取B站所有视频的信息:标题,发布时间,链接,点击数,弹幕数, 收藏数,硬币数,分享数,作者,作者性别,(生日).输入你要

Java + golang 爬取B站up主粉丝数

自从学习了爬虫,就想在B站爬取点什么数据,最近看到一些个up主涨粉很快,于是对up主的粉丝数量产生了好奇,所以就有了标题~ 首先,我天真的以为通过up主个人空间的地址就能爬到 https://space.bilibili.com/137952 但事与愿违,给这个地址发送请求返回来的并不是我们想要的页面数据,而是一个类似于要求用户更换浏览器的错误页面我们可以使用postman来模拟发送这个请求响应的页面就是这个 <!DOCTYPE html> <html> <head>

爬虫练习四：爬取b站番剧字幕

由于个人经常在空闲时间在b站看些小视频欢乐一下,这次就想到了爬取b站视频的弹幕. 这里就以番剧<我的妹妹不可能那么可爱>第一季为例,抓取这一番剧每一话对应的弹幕. 1. 分析页面这部番剧的第一季就有15话,所以我们首先需要找到每一话对应的url,然后再去爬取每一话的弹幕. 1.1 找到每一话对应的url 打开番剧的首页,可以看到每一话的信息就展示在图中位置. 照惯例,我们首先对当前请求网页返回的数据进行查看,发现请求该url返回的只有一点简略的番剧信息,根本没有每一话的信息. 但是我们在浏览

python爬取b站排行榜

爬取b站排行榜并存到mysql中目的 b站是我平时看得最多的一个网站,最近接到了一个爬虫的课设.首先要选择一个网站,并对其进行爬取,最后将该网站的数据存储并使其可视化. 网站的结构目标网站:bilibili排行榜 bilibili排行榜的地址网页的层次首先要确定要提取的信息,也就是标题.播放量.作者up主.评分.播放量和评论量在网页源代码中找到要找的信息每个网页中大概有多条这样的rank-item项目,要提取的信息就包含其中 <li class="rank-item"

用Python爬取B站、腾讯视频、爱奇艺和芒果TV视频弹幕！

众所周知,弹幕,即在网络上观看视频时弹出的评论性字幕.不知道大家看视频的时候会不会点开弹幕,于我而言,弹幕是视频内容的良好补充,是一个组织良好的评论序列.通过分析弹幕,我们可以快速洞察广大观众对于视频的看法. 阿喵通过一个关于<八佰>的视频弹幕数据,绘制了如下词云图,感觉效果还是可以的. 点击并拖拽以移动这里多说一句,小编是一名python开发工程师,这里有我自己整理的一套最新的python系统学习教程,包括从基础的python脚本到web开发.爬虫.数据分析.数据可视化.机器学习等.想

Python之手把手教你用JS逆向爬取网易云40万+评论并用stylecloud炫酷词云进行情感分析

本文借鉴了@平胸小仙女的知乎回复 https://www.zhihu.com/question/36081767 写在前面: 文章有点长,操作有点复杂,需要代码的直接去文末即可.想要学习的需要有点耐心.当我理清所有逻辑后,我抑郁的(震惊的)发现,只需要改下歌曲ID就可以爬取其他任意歌曲的评论了!生成的TXT文件在程序同一目录. 有基础的可能觉得我比较啰嗦,因为我写博客一是为了记录下知识点,在遗忘的时候可以查看回顾下.二是因为我学编程的时候,搜到的很多帖子都是半残的,有些人是为了引流到自己的公众号

爬虫之爬取B站视频及破解知乎登录方法（进阶）

今日内容概要爬虫思路之破解知乎登录爬虫思路之破解红薯网小说爬取b站视频 Xpath选择器 MongoDB数据库爬取b站视频 """ 爬取大的视频网站资源的时候,一般都需要下载一些第三方的功能模块来帮助我们爬取 b站.抖音... 开源:全世界公开免费使用的如何快速格式化json格式数据 https://www.bejson.com/ 研究每个视频url的特点 https://www.bilibili.com/video/av73342471?p=1 https://

Java爬取B站弹幕 —— Python云图Wordcloud生成弹幕词云

一 . Java爬取B站弹幕弹幕的存储位置如何通过B站视频AV号找到弹幕对应的xml文件号首先爬取视频网页,将对应视频网页源码获得就可以找到该视频的av号aid=8678034 还有弹幕序号,cid=14295428 弹幕存放位置为 http://comment.bilibili.com/14295428.xml import org.apache.http.HttpEntity; import org.apache.http.client.methods.CloseableHttpR

Web侦察工具HTTrack （爬取整站）

Web侦察工具HTTrack (爬取整站) HTTrack介绍爬取整站的网页,用于离线浏览,减少与目标系统交互,HTTrack是一个免费的(GPL,自由软件)和易于使用的离线浏览器工具.它允许您从Internet上下载万维网站点到本地目录,递归地构建所有目录,从服务器获取HTML,图像和其他文件到您的计算机.HTTrack安排原始网站的相关链接结构.只需在浏览器中打开“镜像”网站的页面,即可从链接到链接浏览网站,就像在线查看网站一样.HTTrack也可以更新现有的镜像站点,并恢复中断的下载.H

scrapy进阶（CrawlSpider爬虫__爬取整站小说）

# -*- coding: utf-8 -*- import scrapy,re from scrapy.linkextractors import LinkExtractor from scrapy.spiders import CrawlSpider, Rule from crawlspider.items import CrawlspiderItem class CrawlspidersSpider(CrawlSpider): name = 'CrawlSpiders' allowed_d

萌新学习Python爬取B站弹幕+R语言分词demo说明

代码地址如下:http://www.demodashi.com/demo/11578.html 一.写在前面之前在简书首页看到了Python爬虫的介绍,于是就想着爬取B站弹幕并绘制词云,因此有了这样一个简单的尝试,从搭建环境到跑通demo,不懂语法,不知含义,装好环境,查到API,跑通Demo,就是目标!纯零基础萌新! 关于环境的安装及调试过程中遇到的问题记录请移步二.Python爬取B站弹幕环境说明 windows8.1 x64+python3.6+scrapy1.4 参考文档: scr

爬虫---爬取b站小视频

前面通过python爬虫爬取过图片,文字,今天我们一起爬取下b站的小视频,其实呢,测试过程中需要用到视频文件,找了几个网站下载,都需要会员什么的,直接写一篇爬虫爬取视频~~~ 分析b站小视频 1.进入到抓取链接地址 http://vc.bilibili.com/p/eden/rank#/?tab=%E5%85%A8%E9%83%A8 2.分析抓取链接内容通过F12或者抓包工具进行查看我们需要爬取的视频在哪里存放,页面以ajax动态加载的 3.分析请求内容和请求参数通过查看请求内容得到这些数据

Python爬取b站任意up主所有视频弹幕

爬取b站弹幕并不困难.要得到up主所有视频弹幕,我们首先进入up主视频页面,即https://space.bilibili.com/id号/video这个页面.按F12打开开发者菜单,刷新一下,在network的xhr文件中有一个getSubmitVideo文件,这个文件里就有我们需要的视频av号了.如果直接抓取页面是拿不到的,因为视频是异步加载的. 在这个文件里的data标签下,有一个count是视频总数,pages是第几页,vlist就是我们要找的视频信息了,里面的aid就是每个视频的av号

python爬取某站新闻，并分析最近新闻关键词

在爬取某站时并做简单分析时,遇到如下问题和大家分享,避免犯错: 一丶网站的path为 /info/1013/13930.htm ,其中13930为不同新闻的 ID 值,但是这个数虽然为升序,但是没有任何规律的升序. 解决办法: 使用 range 顺序爬取,错误的网站在页面会报如图错误: 这时我们首先去判断返回页面是否包含 str 'Sorry, Page Not Found',如果包含则跳过,不包含则爬取页面关键信息二.在爬取过程中发现有其它页面,该内容已经被撤销,这时我正常去判断页面,并跳过

从0实现python批量爬取p站插画

一.本文编写缘由很久没有写过爬虫,已经忘得差不多了.以爬取p站图片为着手点,进行爬虫复习与实践. 欢迎学习Python的小伙伴可以加我扣群86七06七945,大家一起学习讨论二.获取网页源码爬取网页数据的过程主要用到request库,一个简单的网页爬虫实现过程大致可以分为一下步骤: 指定爬取url 发起爬取请求存储爬取数据下面以爬取pixiv网站为例,获取pixiv网站首页源码并存储到pixiv1.html文件中. import requests if __name__ == "__m

爬取b站用户历史评论

热门专题