Python爬虫:爬取自己博客的主页的标题,链接,和发布时间
##代码
# -*- coding: utf-8 -*-
"""
-------------------------------------------------
File Name: getCnblogs
Description :
Author : 神秘藏宝室
date: 2017-09-21
-------------------------------------------------
Change Activity:
2017-09-21:
-------------------------------------------------
"""
import requests
from bs4 import BeautifulSoup
res = requests.get('http://www.cnblogs.com/Mysterious/')
res.encoding = ('utf-8')
soup = BeautifulSoup(res.text,'html.parser')
def getBlogWriteTime(url):
res = requests.get(url)
res.encoding = ('utf-8')
soup = BeautifulSoup(res.text,'html.parser')
return soup.select('#post-date')[0].text
#获取标题和链接
num = 1
for pt in soup.select('.postTitle2'):
print num,'\t',pt.text,'\t',pt['href'],'\t',getBlogWriteTime(pt['href'])
num = num + 1
##结果
1 Python爬虫:获取新浪网新闻 http://www.cnblogs.com/Mysterious/p/7538833.html 2017-09-18 00:10
2 运行jupyter notebook 出错 Error executing Jupyter command 'notebook' http://www.cnblogs.com/Mysterious/p/7538169.html 2017-09-17 22:10
3 安装和使用jupyter http://www.cnblogs.com/Mysterious/p/7533607.html 2017-09-17 00:25
4 windows下python调用c文件流程 http://www.cnblogs.com/Mysterious/p/7529228.html 2017-09-16 00:01
5 python Unable to find vcvarsall.bat 错误 http://www.cnblogs.com/Mysterious/p/7529142.html 2017-09-15 23:30
6 阿里云公网IP不能使用 http://www.cnblogs.com/Mysterious/p/7523618.html 2017-09-14 22:36
7 Python2 socket TCPServer 多线程并发 超时关闭 http://www.cnblogs.com/Mysterious/p/7523559.html 2017-09-14 22:27
8 Python2 socket 多线程并发 ThreadingTCPServer Demo http://www.cnblogs.com/Mysterious/p/7507314.html 2017-09-11 21:50
9 Python2 socket 多线程并发 TCPServer Demo http://www.cnblogs.com/Mysterious/p/7507221.html 2017-09-11 21:28
10 Python socket TCPServer Demo http://www.cnblogs.com/Mysterious/p/7507042.html 2017-09-11 20:59
Python爬虫:爬取自己博客的主页的标题,链接,和发布时间的更多相关文章
- python 爬虫 爬取序列博客文章列表
python中写个爬虫真是太简单了 import urllib.request from pyquery import PyQuery as PQ # 根据URL获取内容并解码为UTF-8 def g ...
- Python爬虫抓取csdn博客
昨天晚上为了下载保存某位csdn大牛的所有博文,写了一个爬虫来自己主动抓取文章并保存到txt文本,当然也能够 保存到html网页中. 这样就能够不用Ctrl+C 和Ctrl+V了,很方便.抓取别的站点 ...
- windows下使用python的scrapy爬虫框架,爬取个人博客文章内容信息
scrapy作为流行的python爬虫框架,简单易用,这里简单介绍如何使用该爬虫框架爬取个人博客信息.关于python的安装和scrapy的安装配置请读者自行查阅相关资料,或者也可以关注我后续的内容. ...
- Python爬虫爬取一篇韩寒新浪博客
网上看到大神对Python爬虫爬到非常多实用的信息,认为非常厉害.突然对想学Python爬虫,尽管自己没学过Python.但在网上找了一些资料看了一下,看到爬取韩寒新浪博客的视频.共三集,第一节讲爬取 ...
- python爬虫爬取内容中,-xa0,-u3000的含义
python爬虫爬取内容中,-xa0,-u3000的含义 - CSDN博客 https://blog.csdn.net/aiwuzhi12/article/details/54866310
- python爬虫—爬取英文名以及正则表达式的介绍
python爬虫—爬取英文名以及正则表达式的介绍 爬取英文名: 一. 爬虫模块详细设计 (1)整体思路 对于本次爬取英文名数据的爬虫实现,我的思路是先将A-Z所有英文名的连接爬取出来,保存在一个cs ...
- Python爬虫简单实现CSDN博客文章标题列表
Python爬虫简单实现CSDN博客文章标题列表 操作步骤: 分析接口,怎么获取数据? 模拟接口,尝试提取数据 封装接口函数,实现函数调用. 1.分析接口 打开Chrome浏览器,开启开发者工具(F1 ...
- 用Python爬虫爬取广州大学教务系统的成绩(内网访问)
用Python爬虫爬取广州大学教务系统的成绩(内网访问) 在进行爬取前,首先要了解: 1.什么是CSS选择器? 每一条css样式定义由两部分组成,形式如下: [code] 选择器{样式} [/code ...
- Python爬虫 - 爬取百度html代码前200行
Python爬虫 - 爬取百度html代码前200行 - 改进版, 增加了对字符串的.strip()处理 源代码如下: # 改进版, 增加了 .strip()方法的使用 # coding=utf-8 ...
随机推荐
- spark-streaming的checkpoint机制源码分析
转发请注明原创地址 http://www.cnblogs.com/dongxiao-yang/p/7994357.html spark-streaming定时对 DStreamGraph 和 JobS ...
- python模块学习之six模块
Six:Python 2和3兼容性库 Six提供了简单的实用程序,用于覆盖Python 2和Python 3之间的差异.它旨在支持在Python 2和3中都可以进行修改的代码库. 六个只包含一个Pyt ...
- 转载-好用的linux软件合集
音频 Airtime – Airtime 是一款用于调度和远程站点管理的开放广播软件 Ardour – 在 Linux 上录音,编辑,和混音 Audacious – 开源音频播放器,按你想要的方式 ...
- c++ why can't class template hide its implementation in cpp file?
类似的问题还有: why can't class template use Handle Class Pattern to hide its implementation? || why there ...
- tuple 元组
创建单元素tuple tuple和list一样,可以包含 0 个.1个和任意多个元素. 包含多个元素的 tuple,前面我们已经创建过了. 包含 0 个元素的 tuple,也就是空tuple,直接用 ...
- es6中顶层对象属性≠全局属性
先思考一下下面代码的输出结果是什么 const a = { x:1, fn:()=>this.x+=1 } const x = 1 a.fn() console.log(a.x,x) 正确答案为 ...
- mongodb性能问题及原理分析
近期忙着把一个项目从MySQL迁移到MongoDB,在导入旧数据的过程中.遇到了些许波折,犯了不少错误,但同一时候也学到了不少知识,遂记录下来. 公司为这个项目专门配备了几台高性能务器,清一色的双路四 ...
- iOS-毛玻璃、navigationBar滑动颜色渐变
1.毛玻璃实现 iOS8以上,官方提供了系统方法实现毛玻璃,代码如下: // iOS8 UIVisualEffectView UIImageView *bgView = [[UIImageView a ...
- 解决erlang R17无法识别中文问题
erlang更新到R17已有一段时间了.公司项目打算从旧版的erlang迁移到R17,却不料有不少的困扰,当中一个问题是中文问题. 这个问题非常easy重现:新建一个文件t.erl.保存为utf-8无 ...
- ThinkPHP部分内置函数
D.F.S.C.L.A.I 他们都在functions.php这个文件家下面我分别说明一下他们的功能 D() 加载Model类M() 加载Model类 A() 加载Action类L() 获取语言定义C ...