python爬虫知识点总结(一)库的安装 python爬虫知识点总结(二)爬虫的基本原理 python爬虫知识点总结(三)urllib库详解 python爬虫知识点总结(四)Requests库的基本使用 python爬虫知识点总结(五)正则表达式 python爬虫知识点总结(六)BeautifulSoup库详解 python爬虫知识点总结(七)PyQuery详解 python爬虫知识点总结(八)Selenium库详解 更新中...…

一.scrapy结构数据 解释: 1.名词解析: o 引擎(Scrapy Engine)o 调度器(Scheduler)o 下载器(Downloader)o 蜘蛛(Spiders)o 项目管道(Item Pipeline)o 下载器中间件(Downloader Middlewares)o 蜘蛛中间件(Spider Middlewares)o 调度中间件(Scheduler Middlewares) 2.具体解析 绿线是数据流向 从初始URL开始,Scheduler会将其交给Do…

通过前一节得出地址可能的构建规律,如下: https://s.taobao.com/search?data-key=s&data-value=44&ajax=true&_ksTS=1481814489094_902&callback=jsonp903&q=Python%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0&imgfile=&js=1&stats_click=search_radio_all%3A1&i…

官方学习文档:http://selenium-python.readthedocs.io/api.html 一.什么是Selenium? 答:自动化测试工具,支持多种浏览器.用来驱动浏览器,发出指令让浏览器做出各种动作,如下拉,跳转等. 爬虫中主要用来解决JavaScript渲染的问题. 注:如果用requests,urllib这些库无法正常获取网页内容,可以用Selenium来完成渲染 二.安装 pip3 install selenium 三.基本使用 from selenium import…

环境要求: 1.编程语言版本python3: 2.系统:win10; 3.浏览器:Chrome68.0.3440.75:(如果不是最新版有可能影响到程序执行) 4.chromedriver2.41 注意点:pip3 install 命令必须在管理员权限下才能有效下载! 一.安装python3 不是本文重点,初学者,建议上百度搜索,提供几个思路: 1.官网:https://www.python.org/   IDE:pycharm 2.anaconda安装后自带python 等等. 二.配置环境变…

一.入门知识: 1.1.HTTP简介HTTP = HyperText Transfer ProtocolURI = Uniform Resource IdentifierURL = Uniform Resource LocatorURI和URL的区别:URI强调的是资源,而URL强调的是资源的位置.1.2常用请求类型OPTIONS: 返回服务器针对特定资源所支持的http请求方法.HEAD: 向服务器索要与get请求相一致的响应,只不过响应体将不会被返回.GET: 向特定资源发出请求 PUT:…

一.URL分析 通过对“Python机器学习”结果抓包分析,有两个无规律的参数:_ksTS和callback.通过构建如下URL可以获得目标关键词的检索结果,如下所示: https://s.taobao.com/search?data-key=s&data-value=44&ajax=true&_ksTS=1482325509866_2527&callback=jsonp2528&q=Python机器学习&imgfile=&js=1&stat…

一.抓包基础 在淘宝上搜索“Python机器学习”之后,试图抓取书名.作者.图片.价格.地址.出版社.书店等信息,查看源码发现html-body中没有这些信息,分析脚本发现,数据存储在了g_page_config变量之中,初步分析需要采用抓包技术来获取其他页的数据.以前使用Fiddler非常方便,今天出奇的怪,总是挂掉.经度娘得知还有WireShark神器,可安装后发现太过底层.最后使用浏览器自带的开发者工具,先前仅用到了调试前端页面.如下图: 数据存储区域: 开发者工具抓包界面: 二.抓包分析…

一.基础知识 1.HTML分析 2.urllib爬取 导入urilib包(Python3.5.2) 3.urllib保存网页 import urllib.requesturl = "http://www.cnblogs.com/wj204/p/6151070.html"html = urllib.request.urlopen(url).read()fh=open("F:/20_Python/3000_Data/2.html","wb")fh.w…

官方学习文档:https://www.crummy.com/software/BeautifulSoup/bs4/doc.zh/ 一.什么时BeautifulSoup? 答:灵活又方便的网页解析库,处理搞笑,支持多种解析器. 利用它不用编写正则表达式即可方便地实现网页信息的提取. 二.安装 pip3 install bewautifulsoup4 三.用法讲解 解析器 使用方法 优势 劣势 Py't'hon标准库 BeautifulSoup(markup,"html.parser")…