由于在豆瓣发了个租房帖子,发现很快就被其他的帖子淹没,但是手动顶帖实在太累,…

简介 朋友问我能不能做一个下载他在豆瓣读书上的短评的工具,于是就做了这个“豆瓣用户读书短评下载工具”. GitHub链接:https://github.com/xiaff/dbc-downloader. 这个小工具使用Python3.4编写,其工作流程为: 用户输入其豆瓣ID: 抓取用户评论列表网页 对网页进行解析: 存储评论相关信息: 将Markdown格式文件转换为Html. 用到的库主要有: urllib.request BeautifulSoup4 markdown 抓取网页 所需要抓取…

豆瓣图片的抓取:在python中实现生产者和消费者模型的实现,大家可以参考这篇文章 http://www.bkjia.com/Pythonjc/978391.html 个人认为是讲的比较易懂的,只要看看仿写几个例子,感觉这一块就差不多了.下面的代码并没有抓取豆瓣相册的全部,这是找了一个推荐较多的抓取来玩玩,也只抓取前面20页,每页有30张图片,所以可以根据这个去跟新url.维护了一个list来保存图片的url,一个消费者函数来下载图片,一个生产者函数来取图片的url , 下面看代码: # _*_…

新手今天刚学python~~~ 有点凌乱~勉强看吧 只能算是给新手看看,见谅 简单版本的 豆瓣采集美图~~~~~~ 美女天天有 有木有~~~ python 3.4 sqlite3 BeautifulSoup 4.4 from bs4 import BeautifulSoup import urllib.request import time,sched,os import sqlite3 import sys #sys.exit() cx = sqlite3.connect('c:\\sqlit…

新手今天刚学python~~~ 有点凌乱~勉强看吧 只能算是给新手看看,见谅 简单版本的 豆瓣采集美图~~~~~~ 美女天天有 有木有~~~ python 3.4 sqlite3 BeautifulSoup 4.4 from bs4 import BeautifulSoup import urllib.request import time,sched,os import sqlite3 import sys #sys.exit() cx = sqlite3.connect('c:\\sqlit…

国内的pythoner强烈建议使用豆瓣的pypi源 https://pypi.douban.com/simple/ sudo pip install -i https://pypi.douban.com/simple/ scrapy 注意后面要有/simple目录. 虽然用easy_install和pip来安装第三方库很方便 它们的原理其实就是从Python的官方源pypi.python.org/pypi 下载到本地,然后解包安装. 不过因为某些原因,访问官方的pypi不稳定,很慢甚至有些还时不…

1.分析 <li><div class="item">电影信息</div></li> 每个电影信息都是同样的格式,毕竟在服务器端是用循环生成的html,这样解析出电影的信息就很简单了 豆瓣电影top250的翻页也很简单,直接就在url上修改一个start就行了,start代表这一页从start+1开始 比如 https://movie.douban.com/top250?start=0&filter=, 就是top1到top25,…

爬取网址:https://www.dbmeinv.com/       豆瓣mv(现已更名) 注:自制力不好的同学,先去准备营养快线! import requests from bs4 import BeautifulSoup import urllib.request # 按照序号命名 x = 0 #获取图片 def getGrilsImg(page = 1): response = requests.get("https://www.dbmeinv.com/?pager_offset={}&…

总结:  pytesseract 识别比较标准的图片  识别成功率   还是不错的. 验证码的图片识别 需要先处理好   再用pytesseract 识别 from PIL import Image  # 图片处理import pytesseract  #  识别 im = Image.open('/home/yuexinpeng/profit.jpg')out = imaa = pytesseract.image_to_string(out)print(aa) # 滤波处理 去掉背景色thre…

无聊写了个豆瓣日记的小爬虫,requests+bs4. cookies_src可填可不填,主要是为了爬取仅自己可见的日记. url填写的是日记页面,即https://www.douban.com/people/***/notes import requests import re from bs4 import BeautifulSoup # cookies cookies_src='' # 日记页面 url='' def parse_cookies(str): str_tmp=str.repl…