import requests from lxml import etree from urllib import parse import os, time def get_page_html(url): '''向url发送请求''' resoponse = session.get(url, headers=headers, timeout=timeout) try: if resoponse.status_code == 200: return resoponse except Except…

import requests from fake_useragent import UserAgent from lxml import etree from http import cookiejar import re, time import pymysql import random from requests.exceptions import Timeout ua = UserAgent() session = requests.Session() class MyExceptio…

官方文档链接(中文) https://2.python-requests.org/zh_CN/latest/ requests  基于  urllib3 ,python编写. 安装 pip install requests  (python3) anaconda 版本 用pip安装  要在 anaconda prompt 里打入安装命令 提示Requirement already satisfied: requests in xxxxxx  表示 已经安装了 import requests re…

前言 时间的关系,这篇文章只记录了相关库的使用,没有进行深入分析,各位看官请见谅(还是因为懒.....) requests使用 发送无参数的get请求 r = requests.get('http://httpbin.org/get') print(r.text) 发送带参数的get请求 load = {'key1': 'value1', 'key2': 'value2'} r = requests.get("http://httpbin.org/get",params = load)…

import requests from fake_useragent import UserAgent from requests.exceptions import Timeout from urllib.parse import quote, unquote import re, json, os, hashlib from lxml import etree import time from multiprocessing import Process, Queue, Pool # 之前…

import requests, json, time, tablib def send_ajax_request(data: dict): try: ajax_response = session.post(url=ajax_url, params={"needAddtionalResult": "false", "city": city}, data=data, headers=ajax_headers, timeout=timeout) i…

import requests from fake_useragent import UserAgent from lxml import etree from urllib.parse import urljoin import pymysql import time ua = UserAgent() class MyException(Exception): def __init__(self, status, msg): self.status = status self.msg = ms…

一.编写代码 from datetime import datetime,date,timedelta from contextlib import closing import urllib,urllib3 import os import requests def downLoad(fileUrl,filePath): headers = {"User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.…

本人博客:https://xiaoxiablogs.top 此次爬取lol英雄皮肤一共有两个版本,分别是多线程版本和非多线程版本. 多线程版本 # !/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2/25/2020 2:24 PM # @Author : XiaoXia # @Blog : https://xiaoxiablogs.top # @File : lol_hero_photo.py import datetime impo…

第一次爬取的网站就是豆瓣电影 Top 250,网址是:https://movie.douban.com/top250?start=0&filter= 分析网址'?'符号后的参数,第一个参数'start=0',这个代表页数,'=0'时代表第一页,'=25'代表第二页...以此类推 一.分析网页: 网页图片 明确要爬取的元素 :排名.名字.导演.评语.评分,在这里利用Chrome浏览器,查看元素的所在位置 每一部电影信息都在<li></li>当中 爬取元素的所在位置 分析完要爬…