基于python对B站收藏夹按照视频发布时间进行排序
基于python对B站收藏夹按照视频发布时间进行排序
前言
在最一开始,我的B站收藏一直是存放在默认收藏夹中,但是随着视频收藏的越来越多,没有分类的视频放在一起,想在众多视频中找到想要的视频非常困难,因此就对收藏夹里面的视频进行了分类。但是分类之后紧接着又出现了一个新的问题:原来存放在默认收藏夹里面视频的相对顺序被打乱了——明明前几天刚收藏的视频却要翻很多很多页才能找到,因此有了这个程序。
程序的作用
因为我们看到的视频大部分都是通过推荐得到的,而推荐的视频大部分都是刚发布不久,因此大部分收藏的视频的顺序也基本是按照视频发布的顺序来的。那么通过程序对收藏夹中的视频按照发布时间重新排序,那么就和我们收藏视频的顺序几乎一致了。
机理
利用b站的API获取收藏夹中视频的视频的编号,用python中的request库获得视频对应网页的html,之后利用正则表达式得到视频发布的时间。将发布时间和视频的编号绑定,按照视频发布时间从小到大排序,再次利用b站的API将视频收藏到指定收藏夹。
出现的问题
b站视频的av号在八位以下的时候是按照视频发布顺序编排的,但是当到达九位的时候就不是按照发布顺序编排的了,因此只能通过访问视频主页来得到视频发布时间。
b站的API如果长时间比较高频率的访问会出现错误码,因此每次调用API之后都sleep了一下。
中间程序可能因为各种原因挂掉,因此在中间加入了储存中间状态的功能,否则每次挂掉都要重新爬速度非常慢。
使用方法
在创建Sort类对象时,将userAgent,cookie,fid,toFid,csrf传入类的构造函数中,之后调用类中的sortVideos()方法即可完成排序。
import requests, json, time, re, datetime, random
class WriteLog(object):
def __getCurrentTime(self):
return str(time.ctime(time.time()))
def writeFile(self, fileName, l):
with open(self.__getCurrentTime() + fileName, 'w') as f:
for i in l:
f.write(str(i) + '\n')
class Sort(WriteLog):
def __init__(self, fid, toFid, csrf, userAgent, cookie, MinSleepTime=5, MaxSleepTime=10):
self.MinSleepTime = MinSleepTime
self.MaxSleepTime = MaxSleepTime
self.fid = str(fid)
self.toFid = str(toFid)
self.csrf = csrf
self.DeadVideo = []
self.headers = {'User-Agent': userAgent, 'cookie': cookie}
def __Sleep(self):
sleepTime = random.randint(self.MinSleepTime, self.MaxSleepTime)
time.sleep(sleepTime)
def __getAllVideoId(self):
print('Start get all video ID')
fid = self.fid
res = []
cnt = 0
for i in range(100):
if i == 0:
continue
url = 'https://api.bilibili.com/x/v3/fav/resource/list?media_id=' + fid + '&pn=' + str(i) + '&ps=20&keyword=&order=mtime&type=0&tid=0&platform=web&jsonp=jsonp'
html = requests.get(url=url, headers=self.headers)
te = json.loads(html.text)
te = te['data']['medias']
if te != None:
for j in te:
res.append(j['id'])
print('num: ', cnt, '\tvideoID: ', j['id'])
cnt = cnt + 1
self.__Sleep()
else:
break
print('Finish get all video ID, in total %d' % (len(res)))
return res
def __addVideoToFavorite(self, vid):
fid = self.toFid
csrf = self.csrf
url = 'https://api.bilibili.com/x/v3/fav/resource/deal'
data = {
'rid': vid,
'type': '2',
'add_media_ids': fid,
'del_media_ids': '',
'jsonp': 'jsonp',
'csrf': csrf,
'platform': 'web',
}
requests.post(url=url, data=data, headers=self.headers)
print('finish add video %s to folder %s' % (vid, fid))
def __getVideoPostTime(self, vid):
vid = str(vid)
url = 'https://www.bilibili.com/video/av' + vid
text = requests.get(url).text
'''
data-vue-meta="true" itemprop="uploadDate" content="2021-04-07 23:29:21"><meta data-vue-meta="true" itemprop="datePublished" c
'''
reg = re.compile('content="([0-9]+)-([0-9]+)-([0-9]+)\s([0-9]+):([0-9]+):([0-9]+)"')
text = reg.findall(text)
if len(text) == 0:
return -1
text = text[0]
if len(text) < 6:
return -1
t = ""
for i in text:
t = t + str(i)
print('finish get video %s post time, it\'s post time is: %s' % (vid, t))
return int(t)
def __Unique(self, l):
size = len(l)
if size == 0:
return []
res = [l[0]]
for i in range(size):
if i == 0:
continue
if l[i] != l[i - 1]:
res.append(l[i])
return res
def __addVideo(self, res):
cnt = 0
for i in res:
self.__addVideoToFavorite(vid=i)
self.__Sleep()
cnt = cnt + 1
def __getVideosTime(self, res):
videos = []
cnt = 0
for i in res:
t = self.__getVideoPostTime(i)
if t == -1:
continue
item = {
'vid': str(i),
'postTime': t
}
videos.append(item)
cnt = cnt + 1
return videos
def sortVideos(self):
fid = self.fid
toFid = self.toFid
res = self.__getAllVideoId()
self.writeFile('getAllVideoId' + fid + 'to' + toFid, res)
videos = self.__getVideosTime(res)
videos = sorted(videos, key=lambda x: x['postTime'])
res = []
for i in videos:
res.append(i['vid'])
res = self.__Unique(res)
self.writeFile('getVideosTime' + fid + 'to' + toFid, res)
self.__addVideo(res)
self.writeFile('err' + fid + 'to' + toFid, self.DeadVideo)
if __name__=='__main__':
userAgent = ''
cookie = ''
fid = ''
toFid = ''
csrf = ''
sortVideo = Sort(fid=fid, toFid=toFid, csrf=csrf, userAgent=userAgent, cookie=cookie)
sortVideo.sortVideos()
鸣谢
在此特别感谢ZLQ在本人书写此程序时提供的技术支持,大佬的博客:ZlycerQan.
基于python对B站收藏夹按照视频发布时间进行排序的更多相关文章
- Python网络爬虫实战(五)批量下载B站收藏夹视频
我们除了爬取文本信息,有的时候还需要爬媒体信息,比如视频图片音乐等.就拿B站来说,我的收藏夹内的视频可能随时会失效,所以把它们下载到本地是非常保险的一件事. 对于这种大量列表型的数据,可以猜测B站收藏 ...
- 基于Python——实现解压文件夹中的.zip文件
[背景]当一个文件夹里存好好多.zip文件需要解压时,手动一个个解压再给文件重命名是一件很麻烦的事情,基于此,今天介绍一种使用python实现批量解压文件夹中的压缩文件并给文件重命名的方法—— [代码 ...
- 基于Python——实现两个文件夹中的文件拷贝
[背景]当复制一个文件夹中的某文件到另一个文件夹中时是一件很容易的事情,可是如果存在很多文件夹中的文件需要一一拷贝,就会变的很繁琐,稍有不慎就会遗漏,今天就用Python来解决这个问题—— [代码实现 ...
- 基于 python imageai 对象检测 目标检测 识别 视频
1.视频连接如下: http://www.iqiyi.com/w_19s6vownit.html
- python基础课程_学习笔记13:标准库:有些收藏夹——sys
标准库:有些收藏夹 sys sys这个模块可以让你访问和python解释器联系紧密的变量和函数. sys模块中一些重要的函数和变量 函数/变量 描写叙述 argv 命令行參数,包含脚本名称 exit( ...
- 基于Metronic的Bootstrap开发框架经验总结(13)--页面链接收藏夹功能的实现2(利用Sortable进行拖动排序)
在上篇随笔<基于Metronic的Bootstrap开发框架经验总结(12)--页面链接收藏夹功能的实现>上,我介绍了链接收藏夹功能的实现,以及对收藏记录的排序处理.该篇随笔主要使用功能按 ...
- 基于Metronic的Bootstrap开发框架经验总结(12)--页面链接收藏夹功能的实现
在一个系统里面,往往有很多菜单项目,每个菜单项对应一个页面,一般用户只需要用到一些常用的功能,如果每次都需要去各个层次的菜单里面去找对应的功能,那确实有点繁琐.特别是在菜单繁多,而客户又对系统整体不熟 ...
- 【Python】iiblogs ——命令行下的网页收藏夹
昨天和集训队的几位大大聊天,聊着聊着就聊到了博客的问题,发现几个人要么在CSDN 要么在博客园上, 要记住他们的所有的地址还真是不便,于是灵机一动,何不自己写一款小工具来存储打开他们的博客呢?于是将这 ...
- python基础课程_学习笔记15:标准库:有些收藏夹——fileinput
标准库:有些收藏夹 fileinput 重要功能 性能 叙述性说明 input([files[,inplace[,backup]]) 便于遍历多个输入流中的行 filename() 返回当前文件的名称 ...
随机推荐
- RPC 框架设计
RPC 框架设计 初识 RPC 服务化有什么好处? 防止代码拷贝 防止底层复杂性的扩散 防止公共库的耦合 保证 SQL 的质量,能够解除数据库的耦合 什么是 RPC RPC:Remote Proced ...
- 在ASP.NET Core中用HttpClient(四)——提高性能和优化内存
到目前为止,我们一直在使用字符串创建请求体,并读取响应的内容.但是我们可以通过使用流提高性能和优化内存.因此,在本文中,我们将学习如何在请求和响应中使用HttpClient流. 什么是流 流是以文件. ...
- 美图录爬虫(requests模块,re模块)
Python 爬虫 最近学正则表达式,刚好知道这个网站美图录,就做了个爬虫拿来练练手,说一说遇到的问题 一 404问题 问题: 由于图片显示页面是分页的,每一页展示5张图片,为了方便没有每次去获取下一 ...
- 【linux】系统编程-4-共享内存
目录 前言 6. 共享内存 6.1 概念 6.2 操作函数 6.2.1 shmget() 6.2.2 shmat() 6.2.3 shmdt() 6.2.4 shmctl() 6.3 例子 参考: 前 ...
- 什么是事务?事务的四个特性(ACID)?并发事务带来哪些问题?事务隔离级别都有哪些?事务的传播特性
什么是事务? 事务是应用程序中一系列严密的操作,所有操作必须成功完成,否则在每个操作中所作的所有更改都会被撤消.也就是事务具有原子性,一个事务中的一系列的操作要么全部成功,要么一个都不做. 事物的四个 ...
- PAT (Basic Level) Practice (中文)1054 求平均值 (20 分) 凌宸1642
PAT (Basic Level) Practice (中文)1054 求平均值 (20 分) 题目描述 本题的基本要求非常简单:给定 N 个实数,计算它们的平均值.但复杂的是有些输入数据可能是非法的 ...
- (四)Struts2的Action(深入讲解版)
Struts2的Action 开发者需要提供大量的Action,并在struts.xml中配置Action.Action类里包含了对用户请求的处理逻辑,因为我们也称Action为业务控制器. 一.编写 ...
- 记一次metasploitable2内网渗透之512,513,514端口攻击
512,513,514端口都是R服务: TCP端口512,513和514为著名的rlogin提供服务.在系统中被错误配置从而允许远程访问者从任何地方访问(标准的,rhosts + +). 默认端口:5 ...
- 算法很美,听我讲完这些Java经典算法包你爱上她
大家好,我是小羽. 对于编程来说的话,只有掌握了算法才是了解了编程的灵魂,算法对于新手来说的话,属实有点难度,但是以后想有更好的发展,得到更好的进阶的话,对算法进行系统的学习是重中之重的. 对于 Ja ...
- mp4视频中插入文字
最近接到一个需求,需要往mp4中动态插入文字,并且mp4中的乌云能在文字上有飘动的效果,一开始想用canvas,但是由于本人经验不足,没什么思路,看到css3有一个属性:mix-blend-mode, ...