【转】详解抓取网站，模拟登陆，抓取动态网页的原理和实现（Python，C#等）
- 抓取网页，模拟登陆等背后的通用的逻辑和原理
- 以提取songtaste网页中标题为例，详解如何抓取网站并提取网页内容
- 以模拟登陆百度为例，详解如何模拟登陆网站
- 以抓取网易博客帖子中的最近读者信息为例，详解如何抓取动态网页中的内容
- 详解了在模拟登陆和抓取动态网页过程中，如何用对应的网页分析工具，如IE9的F12，Chrome的Ctrl+Shift+J，Firefox的Firebug，去分析出对应的逻辑
- 针对抓取网站，模拟登陆，抓取动态网页，全部给出了完整的可用的，多种语言的示例代码：Python，C#，Java，Go等
 |
本文提供多种格式供： |
|---|---|
|
HTML版本的在线地址为：http://www.crifan.com/files/doc/docbook/web_scrape_emulate_login/release/html/web_scrape_emulate_login.html有任何意见，建议，提交bug等，都欢迎去讨论组发帖讨论：http://www.crifan.com/bbs/categories/web_scrape_emulate_login/ |
| 修订历史 | ||
|---|---|---|
| 修订 1.1 | 2013-09-22 | crl |
|
||
目录
- 前言
- 1. 网站抓取，模拟登陆，抓取动态网页的通用逻辑
- 2. 如何抓取静态网页并提取特定内容
- 3. 如何模拟登陆网站
- 4. 如何抓取动态网页并提取特定内容
- 5. 抓取静态或动态网页和模拟登陆的注意事项和总结
- 参考书目
前言
1. 本文目的
本文目的在于，如何从无到有的，了解抓取网站，模拟登陆，抓取动态网页方面的逻辑和具体实现。
第 1 章 网站抓取，模拟登陆，抓取动态网页的通用逻辑
第 2 章 如何抓取静态网页并提取特定内容
第 3 章 如何模拟登陆网站
下面，给出足够多的例子：
3.1. （多种语言实现）模拟登陆百度
先去用工具分析逻辑：【教程】手把手教你如何利用工具(IE9的F12)去分析模拟登陆网站(百度首页)的内部逻辑过程再去用代码实现，此处，目前已经实现了：
3.2. （多种语言实现）模拟登陆gogole
另外，也弄了个，模拟登陆google：【记录】模拟登陆google
第 4 章 如何抓取动态网页并提取特定内容
先去看看：
搞懂，抓取动态网页的逻辑。
再去看下面的例子：
4.1. 抓取动态网页示例：网易163博客的心情随笔FeelingCard
【记录】给BlogsToWordPress添加支持导出网易的心情随笔【教程】以抓取网易博客帖子中的最近读者信息为例，手把手教你如何抓取动态网页中的内容【记录】用Python解析网易163博客的心情随笔FeelingCard返回的DWR-REPLY数据
第 5 章 抓取静态或动态网页和模拟登陆的注意事项和总结
参考书目
【转】详解抓取网站，模拟登陆，抓取动态网页的原理和实现（Python，C#等）的更多相关文章
- php中CURL技术模拟登陆抓取数据实战，抓取某校教务处学生成绩。
这两天有基友要php中curl抓取教务处成绩的源码,用于微信公众平台的开发.下面笔者只好忍痛割爱了.php中CURL技术模拟登陆抓取数据实战,抓取沈阳工学院教务处学生成绩. 首先,教务处登录需要验证码 ...
- 使用Post方法模拟登陆爬取网页
最近弄爬虫,遇到的一个问题就是如何使用post方法模拟登陆爬取网页.下面是极简版的代码: import java.io.BufferedReader; import java.io.InputStre ...
- 使用Post方法模拟登陆爬取网页(转)
使用Post方法模拟登陆爬取网页 最近弄爬虫,遇到的一个问题就是如何使用post方法模拟登陆爬取网页.下面是极简版的代码: import java.io.BufferedReader; impor ...
- 减少HTTP请求之合并图片详解（大型网站优化技术）
原文:减少HTTP请求之合并图片详解(大型网站优化技术) 一.相关知识讲解 看过雅虎的前端优化35条建议,都知道优化前端是有多么重要.页面的加载速度直接影响到用户的体验.80%的终端用户响应时间都花在 ...
- Java网络编程和NIO详解7：浅谈 Linux 中NIO Selector 的实现原理
Java网络编程和NIO详解7:浅谈 Linux 中NIO Selector 的实现原理 转自:https://www.jianshu.com/p/2b71ea919d49 本系列文章首发于我的个人博 ...
- PHP中CURL技术模拟登陆抓取网站信息，用与微信公众平台成绩查询
伴随微信的红火,微信公众平台成为许多开发者的下一个目标.笔者本身对于这种新鲜事物没有如此多的吸引力.但是最近有朋友帮忙开发微信公众平台中一个成绩查询的功能.于是便在空余时间研究了一番. 主要的实现步骤 ...
- 以正方教务系统为例，用php模拟登陆抓取课表、空教室
课程格子和超级课程表这两个应用,想必大学生都很熟悉,使用自己的学号和教务系统的密码,就可以将自己的课表导入,随时随地都可以在手机上查看. 其实稍微了解一点php的话,我们也可以做一个类似这样的web ...
- Python实现网站模拟登陆
一.实验简介 1.1 基本介绍 本实验中我们将通过分析登陆流程并使用 Python 实现模拟登陆到一个实验提供的网站,在实验过程中将学习并实践 Python 的网络编程,Python 实现模拟登陆的方 ...
- Python爬虫实例（四）网站模拟登陆
一.获取一个有登录信息的Cookie模拟登陆 下面以人人网为例,首先使用自己的账号和密码在浏览器登录,然后通过抓包拿到cookie,再将cookie放到请求之中发送请求即可,具体代码如下: # -*- ...
随机推荐
- CentOS 65 安装vmware tools 杂记
CentOS 65中安装vmware tools时出现如下错误, centos vmware tools install failure ,no default label for /tmp/vmwa ...
- 如何获取模拟器安装的app的位置
你可以死记下地址格式, 但是一旦不同的xcode和模拟器版本改变变了地址, 又得记, 从活动管理器里其实是可以直接查看的: Launch the app in the simulator Open A ...
- LoadRunner做性能测试 从设计到分析执行
项目简介:像百度知道系统类似的系统性能测试,是公司的自己产品. 对最近这个系统的性能测试进行总结下: 系统功能介绍: 前台用户可以根据自己的需要对不同的区域提问,提问包括匿名和登陆用户提问 后台不同区 ...
- ubuntu 4.10~5.10 ：古老的ubuntu上安装oracle10g的情况
64位的: 不用想了,安装不上,因为ubuntu库里没有提供编译环境:安装不上gcc-multilib库.也没有libc6-dev-i386库! 自己这点水平,真搞不定! 32位的: 很顺利.很顺利! ...
- ava中有三种移位运算符
转自:http://www.cnblogs.com/hongten/p/hongten_java_yiweiyunsuangfu.html << : 左移运算符,num ...
- goquery 文档
https://www.itlipeng.cn/2017/04/25/goquery-%E6%96%87%E6%A1%A3/ http://blog.studygolang.com/2015/04/g ...
- 马尔科夫链蒙特卡洛(Markov chain Monte Carlo)
(学习这部分内容大约需要1.3小时) 摘要 马尔科夫链蒙特卡洛(Markov chain Monte Carlo, MCMC) 是一类近似采样算法. 它通过一条拥有稳态分布 \(p\) 的马尔科夫链对 ...
- ab压测札记（Apache Bench）
1 ab安装 ab实际上是apache httpd里面的一个工具或者说子模块,安装apache httpd可以参考另一篇文章JBOSS集群的2.3节 安装目录:/apache目录/bin/,如下 2 ...
- 九度 1557：和谐答案 (LIS 变形)
题目描述: 在初试即将开始的最后一段日子里,laxtc重点练习了英语阅读的第二部分,他发现了一个有意思的情况.这部分的试题最终的答案总是如下形式的:1.A;2.C;3.D;4.E;5.F.即共有六个空 ...
- Python 管理 MySQL
Python MySQLdb 模块 Python pymysql 模块 Python SQLAlchemy 模块 Python ConfigParser 模块 Python 创建 MySQL 配置文件 ...