　　在前面的requests流程中,还缺少了一步重要的流程,就是在持久化存储之前需要进行制定的数据解析.因为在大多数情况下,我们都会使用聚焦爬虫,也就是爬取页面中的指定部分数据值,而不是整个页面的数据.

　　所以,数据爬取的流程应该是 :

　　　　1). 指定url

　　　　2). 基于requests模块发起请求

　　　　3). 获取响应中的数据

　　　　4). 数据解析

　　　　5). 进行持久化存储

一 . 正则解析

　　1 . 常用正则表达式回顾 :

 #单字符：

        .     :   除换行以外所有字符

        []   ：  [aoe] [a-w] 匹配集合中任意一个字符

        \d   ：  数字  [0-9]

        \D  :   非数字

        \w  ：  数字、字母、下划线、中文

        \W  :   非\w

        \s   ：  所有的空白字符包,括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。

        \S   :    非空白

 # 数量修饰：

        *   :   任意多次  >=0

        +   :   至少1次   >=1

        ?   :   可有可无  0次或者1次

       {m}   ：   固定m次 hello{3,}

       {m,}   ：  至少m次

       {m,n}  ： m-n次

 #边界：

        $    :  以某某结尾

        ^   :  以某某开头

 #分组：

        (ab)

    贪婪模式 ： .*

    非贪婪（惰性）模式 ： .*?

    re.I   :    忽略大小写

    re.M   ： 多行匹配

    re.S   ： 单行匹配

    re.sub(正则表达式, 替换内容, 字符串)

　　2 . 回顾练习 :

import re

#提取出python

key="javapythonc++php"

re.findall('python',key)[0]

#####################################################################

#提取出hello world

key="<html><h1>hello world<h1></html>"

re.findall('<h1>(.*)<h1>',key)[0]

#####################################################################

#提取170

string = '我喜欢身高为170的女孩'

re.findall('\d+',string)

#####################################################################

#提取出http://和https://

key='http://www.baidu.com and https://boob.com'

re.findall('https?://',key)

#####################################################################

#提取出hello

key='lalala<hTml>hello</HtMl>hahah' #输出<hTml>hello</HtMl>

re.findall('<[Hh][Tt][mM][lL]>(.*)</[Hh][Tt][mM][lL]>',key)

#####################################################################

#提取出hit.

key='bobo@hit.edu.com'#想要匹配到hit.

re.findall('h.*?\.',key)

#####################################################################

#匹配sas和saas

key='saas and sas and saaas'

re.findall('sa{1,2}s',key)

#####################################################################

#匹配出i开头的行

string = '''fall in love with you

i love you very much

i love she

i love her'''

re.findall('^.*',string,re.M)

#####################################################################

#匹配全部行

string1 = """<div>静夜思

窗前明月光

疑是地上霜

举头望明月

低头思故乡

</div>"""

re.findall('.*',string1,re.S)

正则回顾练习

　　3 . 使用正则爬取'糗事百科指定的页面图片',并保持到指定文件中

import requests

import re

import urllib    # 保存文件的 , 相当于 with open

import os

url = 'https://www.qiushibaike.com/pic/page/%d/?s=5170552'

# page = 1

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.119 Safari/537.36'

}

# 创建文件夹(如果没有就创建)

if not os.path.exists('./qiutu'):

    os.mkdir('./qiutu')

# 指定起始页码和结束页码

start_page = int(input('enter a start pageNum:'))

end_page = int(input('enter a end pageNum:'))

# 循环解析并下载指定页码的图片数据

for page in range(start_page,end_page+1):

    # 第几页

    new_url = format(url%page)

    # 获取页面源代码

    page_text = requests.get(url=new_url,headers=headers).text

    #正则解析图片的标签

    img_url_list = re.findall('<div class="thumb">.*?<img src="(.*?)" alt=.*?</div>',page_text,re.S)

    # 循环下载该页码的图片数据

    for url in img_url_list:

        url = 'https:'+url

        imgName = url.split('/')[-1]

        imgPath = 'qiutu/'+imgName

       # 可以直接写入文件夹中

        urllib.request.urlretrieve(url=url,filename=imgPath)

        #print(imgPath,'下载成功!')

print('over!!!')

二 . Xpath 解析

　　1 . 测试页面数据 :

<html lang="en">

<head>

    <meta charset="UTF-8" />

    <title>测试bs4</title>

</head>

<body>

    <div>

        <p>百里守约</p>

    </div>

    <div class="song">

        <p>李清照</p>

        <p>王安石</p>

        <p>苏轼</p>

        <p>柳宗元</p>

        <a href="http://www.song.com/" title="赵匡胤" target="_self">

            <span>this is span</span>

        宋朝是最强大的王朝，不是军队的强大，而是经济很强大，国民都很有钱</a>

        <a href="" class="du">总为浮云能蔽日,长安不见使人愁</a>

        <img src="http://www.baidu.com/meinv.jpg" alt="" />

    </div>

    <div class="tang">

        <ul>

            <li><a href="http://www.baidu.com" title="qing">清明时节雨纷纷,路上行人欲断魂,借问酒家何处有,牧童遥指杏花村</a></li>

            <li><a href="http://www.163.com" title="qin">秦时明月汉时关,万里长征人未还,但使龙城飞将在,不教胡马度阴山</a></li>

            <li><a href="http://www.126.com" alt="qi">岐王宅里寻常见,崔九堂前几度闻,正是江南好风景,落花时节又逢君</a></li>

            <li><a href="http://www.sina.com" class="du">杜甫</a></li>

            <li><a href="http://www.dudu.com" class="du">杜牧</a></li>

            <li><b>杜小月</b></li>

            <li><i>度蜜月</i></li>

            <li><a href="http://www.haha.com" id="feng">凤凰台上凤凰游,凤去台空江自流,吴宫花草埋幽径,晋代衣冠成古丘</a></li>

        </ul>

    </div>

</body>

</html>

　　2 . 常用的xpath表达式 :

#属性定位：

      #找到class属性值为song的div标签

      //div[@class="song"]

#层级&索引定位：

    #找到class属性值为tang的div的直系子标签ul下的第二个子标签li下的#直系子标签a

      //div[@class="tang"]/ul/li[2]/a

#逻辑运算：

    #找到href属性值为空且class属性值为du的a标签

    //a[@href="" and @class="du"]

#模糊匹配：

    //div[contains(@class, "ng")]

    //div[starts-with(@class, "ta")]

#取文本：

    #  / 表示获取某个标签下的文本内容

    # // 表示获取某个标签下的文本内容和所有子标签下的文本内容

    //div[@class="song"]/p[1]/text()

    //div[@class="tang"]//text()

#取属性：

    //div[@class="tang"]//li[2]/a/@href

　　3 . 代码中使用xpath表达式进行数据解析 :

#1.下载：

          pip install lxml

2#.导包：

          from lxml import etree

#3.将html文档或者xml文档转换成一个etree对象，然后调用对象中的方法查找指定的节点

　　#3.1 本地文件：tree = etree.parse(文件名)

                tree.xpath("xpath表达式")

　　#3.2 网络数据：tree = etree.HTML(网页内容字符串)

                tree.xpath("xpath表达式")

　　安装xpath插件在浏览器对xpath表达式进行验证 : 可以直接在插件中执行 xpath表达式

　　　　将xpath插件拖动到谷歌浏览器的扩展程序中(更多工具->扩展程序),安装成功

　　　　插件下载 ---> xpath插件.zip

　　　　启动和关闭插件 : Ctrl + shift + x

　　5 . 案例演示

　　　　● 爬取 '好段子'网站中的内容和标题

from lxml import etree

import requests

url='http://www.haoduanzi.com/category-10_2.html'

headers = {

        'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36',

    }

url_content=requests.get(url,headers=headers).text

#使用xpath对url_conten进行解析

#使用xpath解析从网络上获取的数据

tree=etree.HTML(url_content)

#解析获取当页所有段子的标题

title_list=tree.xpath('//div[@class="log cate10 auth1"]/h3/a/text()')

ele_div_list=tree.xpath('//div[@class="log cate10 auth1"]')

text_list=[] #最终会存储12个段子的文本内容

for ele in ele_div_list:

    #段子的文本内容（是存放在list列表中）

    text_list=ele.xpath('./div[@class="cont"]//text()')

    #list列表中的文本内容全部提取到一个字符串中

    text_str=str(text_list)

    #字符串形式的文本内容防止到all_text列表中

    text_list.append(text_str)

print(title_list)

print(text_list)

　　　　● 爬取煎蛋网中图片数据 : (图片地址加密的) *********

import requests

from lxml import etree

from fake_useragent import UserAgent

import base64

import urllib.request

url = 'http://jandan.net/ooxx'

ua = UserAgent(verify_ssl=False,use_cache_server=False).random

headers = {

    'User-Agent':ua

}

page_text = requests.get(url=url,headers=headers).text

#查看页面源码：发现所有图片的src值都是一样的。

#简单观察会发现每张图片加载都是通过jandan_load_img(this)这个js函数实现的。

#在该函数后面还有一个class值为img-hash的标签，里面存储的是一组hash值，该值就是加密后的img地址

#加密就是通过js函数实现的，所以分析js函数，获知加密方式，然后进行解密。

#通过抓包工具抓取起始url的数据包，在数据包中全局搜索js函数名（jandan_load_img），然后分析该函数实现加密的方式。

#在该js函数中发现有一个方法调用，该方法就是加密方式，对该方法进行搜索

#搜索到的方法中会发现base64和md5等字样，md5是不可逆的所以优先考虑使用base64解密

#print(page_text)

tree = etree.HTML(page_text)

#在抓包工具的数据包响应对象对应的页面中进行xpath的编写，而不是在浏览器页面中。

#获取了加密的图片url数据

imgCode_list = tree.xpath('//span[@class="img-hash"]/text()')

imgUrl_list = []

for url in imgCode_list:

    #base64.b64decode(url)为byte类型，需要转成str

    img_url = 'http:'+base64.b64decode(url).decode()

    imgUrl_list.append(img_url)

for url in imgUrl_list:

    filePath = url.split('/')[-1]

    urllib.request.urlretrieve(url=url,filename=filePath)

    print(filePath+'下载成功')

　　　　 ● 解析58二手房的相关数据

# 58二手房信息

import requests

from lxml import etree

url = 'https://bj.58.com/ershoufang/sub/l16/s2242/?utm_source=market&spm=u-2d2yxv86y3v43nkddh1.bdpcpz_bt&PGTID=0d30000c-0000-1139-b00c-643d0d315a04&ClickID=1'

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'

}

page_text = requests.get(url,headers=headers).text

tree = etree.HTML(page_text)

li_list = tree.xpath('//ul[@class="house-list-wrap"]/li')

for li in li_list:

    title = li.xpath('./div[2]/h2[1]/a/text()')[0]

　　　　● 下载彼岸网中图片数据 : 中文乱码问题

import os

import urllib

url = 'http://pic.netbian.com/4kmeinv/'

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'

}

response = requests.get(url,headers=headers)

# print(response.encoding)      # ISO-8859-1

# response.encoding = 'utg-8'

if not os.path.exists('./imgs'):

    os.mkdir('./imgs')

page_text = response.text

tree = etree.HTML(page_text)

li_list = tree.xpath('//div[@class="slist"]/ul/li')

for li in li_list:

    img_name = li.xpath('./a/b/text()')[0]

    # 处理中文乱码

    img_name = img_name.encode('ISO-8859-1').decode('gbk')

    img_url = 'http://pic.netbian.com' + li.xpath('./a/img/@src')[0]

    img_path = './imgs/' + img_name + '.jpg'

    urllib.request.urlretrieve(url=img_url,filename=img_path)

　　　　● 下载站长素材中的简历模板数据

import requests

from lxml import etree

import random

import os

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'

}

if not os.path.exists('./jianli'):

    os.mkdir('./jianli')

for i in range(1,4):

    if i == 1:

        url = 'http://sc.chinaz.com/jianli/free.html'

    else:

        url = 'http://sc.chinaz.com/jianli/free_%s.html' % (i)

    response = requests.get(url=url, headers=headers)

    response.encoding = 'utf8'

    res = response.text

    tree = etree.HTML(res)

    a_list = tree.xpath('//a[@class="title_wl"]')

    for a in a_list:

        name = a.xpath('./text()')[0]

        jl_url = a.xpath('./@href')[0]

        response = requests.get(url=jl_url, headers=headers)

        response.encoding = 'utf8'

        res1 = response.text

        tree = etree.HTML(res1)

        download_url_list = tree.xpath('//div[@class="clearfix mt20 downlist"]/ul/li/a/@href')

        download_url = random.choice(download_url_list)

        res3 = requests.get(url=download_url, headers=headers).content

        filepath = './jianli/' + name + '.rar'

        with open(filepath, 'wb') as f:

            f.write(res3)

        print(name, '下载完成！')

print('over')

　　　　● 解析所有城市的名称

import requests

from lxml import etree

url = 'https://www.aqistudy.cn/historydata/'

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'

}

res = requests.get(url=url, headers=headers).text

tree = etree.HTML(res)

city_list = tree.xpath('//div[@class="bottom"]/ul/li/a/text() | //div[@class="bottom"]/ul/div[2]/li/a/text()')        # 可以用逻辑运算符，这里 | 表示或的关系

city = ''.join(city_list)

三 . bs4 (Beautiful Soup) 解析

　　环境安装 :

#- 需要将pip源设置为国内源，阿里源、豆瓣源、网易源等

  # - windows

    #（1）打开文件资源管理器(文件夹地址栏中)

    #（2）地址栏上面输入 %appdata%

    #（3）在这里面新建一个文件夹  pip

    #（4）在pip文件夹里面新建一个文件叫做  pip.ini ,内容写如下即可

        [global]

        timeout = 6000

        index-url = https://mirrors.aliyun.com/pypi/simple/

        trusted-host = mirrors.aliyun.com

   # - linux

    （1）cd ~

    （2）mkdir ~/.pip

    （3）vi ~/.pip/pip.conf

    （4）编辑内容，和windows一模一样

#- 需要安装： 我们可以直接这样安装也可以

           pip install bs4

    # bs4在使用时候需要一个第三方库，把这个库也安装一下

           pip install lxml

　　基础使用 :

使用流程：

    - 导包：from bs4 import BeautifulSoup

    - 使用方式：可以将一个html文档，转化为BeautifulSoup对象，然后通过对象的方法或者属性去查找指定的节点内容

        （1）转化本地文件：

             - soup = BeautifulSoup(open('本地文件'), 'lxml')

        （2）转化网络文件：

             - soup = BeautifulSoup('字符串类型或者字节类型', 'lxml')

        （）打印soup对象显示内容为html文件中的内容

基础巩固：

    （1）根据标签名查找

        - soup.a   只能找到第一个符合要求的标签

    （2）获取属性

        - soup.a.attrs  获取a所有的属性和属性值，返回一个字典

        - soup.a.attrs['href']   获取href属性

        - soup.a['href']   也可简写为这种形式

    （3）获取内容

        - soup.a.string  获取直系标签内容

        - soup.a.text

        - soup.a.get_text()

       【注意】如果标签还有标签，那么string获取到的结果为None，而其它两个，可以获取文本内容

    （4）find：找到第一个符合要求的标签

        - soup.find('a')  找到第一个符合要求的

        - soup.find('a', title="xxx")

        - soup.find('a', alt="xxx")

        - soup.find('a', class_="xxx")

        - soup.find('a', id="xxx")

    （5）find_all：找到所有符合要求的标签

        - soup.find_all('a')

        - soup.find_all(['a','b']) 找到所有的a和b标签

        - soup.find_all('a', limit=2)  限制前两个

    （）根据选择器选择指定的内容

               select:soup.select('#feng')

        - 常见的选择器：标签选择器(a)、类选择器(.)、id选择器(#)、层级选择器

            - 层级选择器：常用

                div .dudu #lala .meme .xixi  下面好多级

                div > p > a > .lala          只能是下面一级

        【注意】select选择器返回永远是列表，需要通过下标提取指定的对象

　　使用bs4爬取诗词名句中的三国演义小说中的每一章的内容

import requests

from bs4 import BeautifulSoup

url = 'http://www.shicimingju.com/book/sanguoyanyi.html'

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.119 Safari/537.36'

}

#获取标题正文页数据

page_text = requests.get(url=url,headers=headers).text+

# 实例化 BeautifulSoup

# 将页面源码数据加载里面 , 参数1=page_text , 参数2="lxml" 解析器

soup = BeautifulSoup(page_text,'lxml')

#标签定位,返回的是一个列表,是标题

a_list = soup.select('.book-mulu > ul > li > a')

#因为内容是要循环的,所有文件打开一次就可以

fp = open('sanguo.txt','w',encoding='utf-8')

for a in a_list:

   # 获取a标签的直系标签的文本内容

    title = a.string

    #补全标题内容的地址

    detail_url = 'http://www.shicimingju.com'+a['href']

    #进入标题的url才是标题对应的内容

    detail_page_text = requests.get(url=detail_url,headers=headers).text

    soup = BeautifulSoup(detail_page_text,'lxml')

    content = soup.find('div',class_='chapter_content').text

    fp.write(title+'\n'+content)

    print(title,'下载完毕')

print('over')

fp.close()

import requests

from bs4 import BeautifulSoup

# 获取页面源文件

url = "https://www.23us.so/files/article/html/0/43/index.html"

headers = {

    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36"

}

page_text = requests.get(url=url,headers=headers)

#防止中文文字出现乱码

page_text.encoding = "utf8"

page_text = page_text.text

# 实例化 BeautifulSoup

# 将页面源码数据加载里面 , 参数1=page_text , 参数2="lxml" 解析器

soup = BeautifulSoup(page_text,"lxml")

# 标签定位,HTML的标签

# 先解析源码中标题所对的a标签  层级 .代表id

# 返回一个列表

a_list = soup.select(".L > a")

f1 = open('三寸人间2.text','w',encoding="utf8")

# 遍历列表,获取a标签的本文和 href 值

# 获取章节目录

# a表示<a href="/10/10489/4535761.html">第一章 我要减肥！</a>

# a.string 获取标签直系的文本内容,返回字符串

for a in a_list:

    title = a.string

    #补全域名 http://www.xbiquge.la + deatil_url

    detatil_url = a["href"]

   # 获取详情页的源码数据

    detail_page_text = requests.get(url=detatil_url,headers=headers).content

    print('',detail_page_text)

    soup = BeautifulSoup(detail_page_text,"lxml")

   # 获取文本内容 ,div

    content = soup.find('dd',id='contents').text

    # 持久化存储

    f1.write(title+'\n'+content)

    print(title,"下载ok")

print("ok")

f1.close()

实现笔趣阁的小说--三寸人间

四 . 图片的懒加载

　　示例网站 : http://sc.chinaz.com/tupian/hunsha.html

　　就是在打开网站之后图片并不是全部加载出来,而是在你的鼠标向下滑动的时候在加载(滑动一点加载一点)

import requests

from lxml import etree

import os

import urllib

if not os.path.exists('./tupian'):

    os.mkdir('./tupian')

url = 'http://sc.chinaz.com/tupian/'

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'

}

response = requests.get(url=url, headers=headers)

response.encoding = 'utf8'

res = response.text

tree = etree.HTML(res)

url_list = tree.xpath('//div[@id="container"]/div/div/a/img/@src2')         
 # img标签有伪属性src2，当图片滚动到视野内时变为 src

for url in url_list:

    filepath = './tupian/' + url.rsplit('/',1)[-1]

    urllib.request.urlretrieve(url, filepath)

    print(filepath, '下载完成！')

print('over')

五 . 代理ip

什么是代理
- 代理就是第三方代替本体处理相关事务。例如：生活中的代理：代购，中介，微商......
爬虫中为什么需要使用代理
- 一些网站会有相应的反爬虫措施，例如很多网站会检测某一段时间某个IP的访问次数，如果访问频率太快以至于看起来不像正常访客，它可能就会会禁止这个IP的访问。所以我们需要设置一些代理IP，每隔一段时间换一个代理IP，就算IP被禁止，依然可以换个IP继续爬取。
代理的分类：
- 正向代理：代理客户端获取数据。正向代理是为了保护客户端防止被追究责任。
- 反向代理：代理服务器提供数据。反向代理是为了保护服务器或负责负载均衡。
免费代理ip提供网站
- http://www.goubanjia.com/
- 西祠代理
- 快代理

代理ip的匿名度分为三个等级:

　　　　高匿：服务器不知道你使用了代理，并无法获取你的真实IP;

　　　　普匿：服务器能知道你使用了代理，但是无法获取你的真实IP地址;

　　　　透明：服务器能知道你使用了代理，并能获取你的真实IP地址。

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import requests

import random

if __name__ == "__main__":

    #不同浏览器的UA

    header_list = [

        # 遨游

        {"user-agent": "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Maxthon 2.0)"},

        # 火狐

        {"user-agent": "Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1"},

        # 谷歌

        {

            "user-agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11"}

    ]

    #不同的代理IP

    proxy_list = [

        {"http": "112.115.57.20:3128"},

        {'http': '121.41.171.223:3128'}

    ]

    #随机获取UA和代理IP

    header = random.choice(header_list)

    proxy = random.choice(proxy_list)

    url = 'http://www.baidu.com/s?ie=UTF-8&wd=ip'

    #参数3：设置代理

    response = requests.get(url=url,headers=header,proxies=proxy)

    response.encoding = 'utf-8'

    with open('daili.html', 'wb') as fp:

        fp.write(response.content)

    #切换成原来的IP

    requests.get(url, proxies={"http": ""})

六 . 总结 : 目前学过的反爬机制

　　- robots.txt

　　- UA

　　- 数据加密

　　- 懒加载

　　- 代理ip

数据解析,懒加载,代理ip的更多相关文章

vue 中监测滚动条加载数据（懒加载数据）
vue 中监测滚动条加载数据(懒加载数据) 1:钩子函数监听滚动事件: mounted () { this.$nextTick(function () { window.addEventListene ...
四十二：数据库之SQLAlchemy之数据查询懒加载技术
懒加载在一对多,或者多对多的时候,如果要获取多的这一部分的数据的时候,通过一个relationship定义好对应关系就可以全部获取,此时获取到的数据是list,但是有时候不想获取全部数据,如果要进行数 ...
JPA数据懒加载LAZY和实时加载EAGER(二)
懒加载LAZY和实时加载EAGER的概念,在各种开发语言中都有广泛应用.其目的是实现关联数据的选择性加载,懒加载是在属性被引用时,才生成查询语句,抽取相关联数据.而实时加载则是执行完主查询后,不管是否 ...
JPA数据懒加载LAZY和实时加载EAGER（转）
原文:https://www.cnblogs.com/MrSi/p/8081811.html 懒加载LAZY和实时加载EAGER的概念,在各种开发语言中都有广泛应用.其目的是实现关联数据的选择性加载, ...
smartjs - DataManager 场景示例分析 - 数据懒加载
发一张policy的参数图设置图: 场景1 - 数据的懒加载/延迟加载在很多时候,为了提高网页的加载速度,减少不必要的开销,会将页面的数据拆分成几个部分,首先加载呈现可视区域内的数据,然后剩下来的会 ...
【Android】再来一篇Fragment懒加载（只加载一次哦）
效果老规矩,先来看看效果图没错,我又入坑了,又重新做了个 Gank 客户端,因为之前那个代码写得太烂了,这次有好好的考虑了下架构之类的事,代码应该会更容易读懂了点了,吧.哈哈,再次欢迎来 star ...
Hibernate第八篇【懒加载】
前言前面在使用Hibernate的时候就提及过了懒加载,但没有好好地说明具体的说明究竟是怎么回事-本博文主要讲解懒加载什么是拦截器以及为什么要使用懒加载? 懒加载就是当使用数据的时候才去获取数据. ...
27.Hibernate-缓存和懒加载.md
目录 1.一级缓存 2.缓存的有效性 3.list和iterator缓存的区别 4.懒加载 4.1get 4.2load 1.一级缓存 Hibernate中一级缓存是Session缓存,有效范围在Se ...
iOS边练边学--plist文件，懒加载，模型初使用--补充instancetype
一.什么是plist文件 1>将数据直接写在代码里面,不是一种合理的做法.如果数据经常修改,就要经常翻开对应的代码进行修改,造成代码扩展性低 2>因此,可以考虑将经常变得数据放在文件中进行 ...

随机推荐

一次lenovo a390t刷机体验
今天一朋友说自己的联想a390t手机有时候打着打着电话就没声音了,手机好像死机了一样,以前用着挺好的没什么毛病. 因为以前用刷机精灵刷过几个android手机,感觉挺简单的,只要找好对应的rom点击两 ...
关于Android方法数量限制的问题
限制Android方法数量的原因是: Android应用以DEX文件的形式存储字节码文件,在Dalvik字节码规范里,方法引用索引method referenceindex只有16位,即65536个. ...
ThinkPHP创建应用的一般开发流程及实例
Thinkphp是免费开源的php框架,提供了建站所需要的各种组件,方便用户快速建设部署网站. Thinkphp简介:http://thinkphp.cn/Manual/16 官方完全开发手册:htt ...
*** Python版一键安装脚本
本脚本适用环境:系统支持:CentOS 6,7,Debian,Ubuntu内存要求:≥128M日期:2018 年 02 月 07 日关于本脚本:一键安装 Python 版 *** 的最新版.友情提示 ...
使用聚合数据的接口进行的RxAndroid学习
Demo数据源是聚合数据的免费Api,地址:https://www.juhe.cn/ 配合Retrofit 完成数据请求例子比较简单,没事使用什么复杂的操作符. 就是简单的网络数据获取. 一些常用的 ...
Java内存泄漏及分析
对于内存泄漏,首先想到的是C语言,其实不然,java中也有各种的内存泄漏.对于java程序员,在虚拟即中,不需要为每一个新建对象去delete/free内存,不容易出现内存泄漏.但是,正是由于这种机 ...
MQTT---HiveMQ源代码具体解释(十四)Persistence-LocalPersistence
源博客地址:http://blog.csdn.net/pipinet123 MQTT交流群:221405150 简单介绍 HiveMQ的Persistence提供配置包含File和Memory,以解决 ...
文件I/O操作为什么叫输入/出流
参考以下文档: http://blog.csdn.net/hguisu/article/details/7418161 我们关注的焦点是错误的,重点不在文件,我们关注的核心是数据流. 这种流可以是文本 ...
AspectJ学习笔记2-Eclipse中AspectJ插件AJDT的正确安装方法
接着之前一篇日志. 这个事情也挺无语的.简单记录一下. 在这里:http://www.eclipse.org/ajdt/ 能够下载最新的Eclipse Plugin.下载解压之后,一般来说.直接把解压 ...
Netty（三）：线程模型
Netty中支持单线程模型,多线程模型,主从多线程模型. 1 单线程模型在ServerBootstrap调用方法group的时候,传递的参数是同一个线程组,且在构造线程组的时候,构造参数为1,这种开 ...

数据解析,懒加载,代理ip