通过urllib2抓取HTML网页,然后过滤出包含特定字符的行,并写入Excel文件: # -*- coding: utf-8 -*- import sys #import urllib import urllib2 from xlwt import Workbook def getdata(keywords, line): date = '' if keywords in line: # 本行包含keywords start = line.find('>',) end = line.find(…

import requestsimport datetimefrom random import choicefrom time import timefrom openpyxl import load_workbookfrom openpyxl.utils import get_column_letterfrom bs4 import BeautifulSoupimport reurl='http://www.bazhou.gov.cn/xwzx/bzdt'strhtml=requests.g…

爬虫学习一系列:urllib2抓取网页内容 所谓网页抓取,就是把URL地址中指定的网络资源从网络中读取出来,保存到本地.我们平时在浏览器中通过网址浏览网页,只不过我们看到的是解析过的页面效果,而通过程序获取的则是程序源代码.我们通过使用Python中urllib2来获取网页的URL资源,最简单方法就是调用urlopen 方法. # coding : utf-8 import urllib2 import urllib url = 'http://www.baidu.com' res = urll…

1.使用python的库urllib2,用到urlopen和Request方法. 2.方法urlopen原形 urllib2.urlopen(url[, data][, timeout]) 其中: url表示目标网页地址,可以是字符串,也可以是请求对象Request data表示post方式提交给目标服务器的参数 timeout表示超时时间设置 改方法返回一个类似文件的对象,有geturl().info().read()方法其中geturl()返回连接地址,info()返回网页信息. 要获取网页…

前几天刚看完<Linux/Unix设计思想>,真是一本不错的书,推荐想提高自己代码质量的童鞋看一下,里面经常提到要以小为美,一个程序做好一件事,短小精悍,因此我也按照这种思想来写python技术点的文章,每个点都是一个函数,可以直接拿来用.开始了一般情况下用python的童鞋是不可避免的要写一些爬虫程序的,因此对python中urllib和urllib2都比较熟悉.而最基本的爬取方法就是: urllib.urlopen(url).read() 大多数网站都不会禁止这样的爬取,但是有些网站都设定…

#coding=utf-8 __author__ = "carry" import sys reload(sys) sys.setdefaultencoding('utf-8') import urllib import urllib2 import re #获取源码 def get_content(page): headers = {#'Host':'search.51job.com', 'User-Agent':'Mozilla/5.0 (Windows NT 6.2; rv:16…

一.urllib2发送请求 import urllib2 url = 'http://www.baidu.com' req = urllib2.Request(url) response = urllib2.urlopen(req) print response.read() print response.geturl() print response.info() urllib2用一个Request对象,来映射HTTP请求.并将这个请求传入urlopen()中去,返回response对象 Re…

背景: 小时候,有种游戏,两个主人公:白XX和曾XX,每个家庭把他俩像活菩萨一样供着,供他们吃,供他们穿 做生意的老板为了这两位活菩萨,关门大吉 农民为了这两位活菩萨卖牛卖田变卖家产 做官的为了这两位活菩萨丢掉乌纱帽 跳楼,自杀,跳河,跑路 成了一时的风气 当然,买码也是闹出很多笑话的 比如:不识字的农民看个CCTV7频道还看出了个特码,最后押注了07,还特么中了大奖. 很多人为了白XX和曾XX,最后变成了CCTV少儿频道天线宝宝的忠实粉丝,这也可以看出特码啊,有木有啊 想起一位长者退休后俨然成…

quanwei9958 转自 python 爬虫抓取心得分享 urllib.quote('要编码的字符串') 如果你要在url请求里面放入中文,对相应的中文进行编码的话,可以用: urllib.quote('要编码的字符串') query = urllib.quote(singername) url = 'http://music.baidu.com/search?key='+query response = urllib.urlopen(url) text = response.read()…

使用 urllib2 抓取数据时,最简单的方法是: import urllib2, json def getStartImage(): stream = urllib2.urlopen('http://news-at.zhihu.com/api/3/start-image/1080*1776') start_image = json.load(stream) start_image = json.dumps(start_image, encoding='utf-8') return start_…