python学习第八天

解析库之bs4的基本使用方法

'''

pip install beautifulsoup4#安装bs4

pip install lxml#安装lxml

'''

html_doc = """

<html><head><title>The Dormouse's story</title></head>

<body>

<p class="sister"><b>$37</b></p>

<p class="story" id="p">Once upon a time there were three little sisters; and their names were

<a href="http://example.com/elsie" class="sister" >Elsie</a>,

<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and

<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

and they lived at the bottom of a well.</p>

<p class="story">...</p>

"""

from bs4 import BeautifulSoup#从bs4中导入BeautifulSoup

#调用BeautifulSoup实例化一个soup对象

#参数一：解析文本

#参数二：解析器（html.parser,lxml,....）

soup=BeautifulSoup(html_doc,'lxml')

print(soup)

print('*'*100)

print(type(soup))

#对其美化

html=soup.prettify()

print(html)

bs4之遍历文档树

html_doc = """

<html><head><title>The Dormouse's story</title></head><body><p class="sister"><b>$37</b></p><p class="story" id="p">Once upon a time there were three little sisters; and their names were<a href="http://example.com/elsie" class="sister" >Elsie</a>,<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;and they lived at the bottom of a well.</p><p class="story">...</p>

"""

from bs4 import BeautifulSoup#从bs4中导入BeautifulSoup

soup=BeautifulSoup(html_doc,'lxml')

'''

遍历文档树：

    1、直接使用

    2、获取标签的名称

    3、获取标签的属性

    4、获取标签的内容

    5、嵌套选择

    6、子节点，子孙节点

    7、父节点、祖先节点

    8、兄弟节点

'''

#1、直接使用

print(soup.p)#查找第一个p标签

print(soup.a)#查找第一个a标签

# 2、获取标签的名称

print(soup.head.name)#获取head标签的名称

#3、获取标签的属性

print(soup.a.attrs)#获取a标签中所有属性

print(soup.a.attrs['href'])#获取a标签中href属性

#4、获取标签的内容

print(soup.p.text)  #$37

#5、嵌套选择

print(soup.html.head)  #<head><title>The Dormouse's story</title></head>

#6、子节点，子孙节点

print(soup.body.children)#body所以子节点返回迭代器对象 <list_iterator object at 0x02C72650>

print(list(soup.body.children))#强转换为list对象

print(soup.body.descendants)#子孙节点 生成器具对象

print(list(soup.body.descendants))#子孙节点

#7、父节点、祖先节点

print(soup.p.parent)#找p标签的父节点 为body

print(soup.p.parents)#获取p标签的祖先节点

print(list(soup.p.parents))#获取p标签的祖先节点

#8、兄弟节点

#找到下一个兄弟

print(soup.p.next_sibling)

#找下面所有的兄弟

print(soup.p.next_siblings) #返回生成器

print(list(soup.p.next_siblings))

#找上一个兄弟

print(soup.a.previous_sibling)#找a上一个兄弟节点

print(soup.a.previous_siblings)#返回生成器

print(list(soup.a.previous_siblings))

bs4搜索文档库的应用

html_doc = """

<html><head><title>The Dormouse's story</title></head>

<body>

<p class="sister"><b>$37</b></p>

<p class="story" id="p">Once upon a time there were three little sisters; and their names were

<a href="http://example.com/elsie" class="sister" >Elsie</a>,

<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and

<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

and they lived at the bottom of a well.</p>

<p class="story">...</p>

"""

from bs4 import BeautifulSoup

soup=BeautifulSoup(html_doc,'lxml')

#字符串过滤器

#name

p_tag=soup.find(name='p')

print(p_tag)#根据文本p查找某个标签

tag_s1 = soup.find_all(name='p')#查找所有标签名为p的节点

#attrs

#查找第一个class为sister的节点

p=soup.find(attrs={'class':'sister'})

print(p)

#查找所有class为sister的节点

p=soup.find_all(attrs={'class':'sister'})

print(p)

#text

text=soup.find(text='$37')

print(text)

#配合使用

#找到一个id为link2的以及文本为Lacie的a标签

a=soup.find(name='a',attrs={"id":"link2"},text='Lacie')

print(a)

用python爬取豌豆荚数据

'''

下载地址：

    https://www.wandoujia.com/wdjweb/api/category/more?catId=6001&subCatId=0&page=3&ctoken=lAd3GvU1DbFpJzYVdADWw9pS

    https://www.wandoujia.com/wdjweb/api/category/more?catId=6001&subCatId=0&page=4&ctoken=lAd3GvU1DbFpJzYVdADWw9pS

'''

from bs4 import BeautifulSoup

import re

import requests

def get_page(url):

    response=requests.get(url)

    return response

    #app名称

#2、开始解析

#解析详情页

def parse_detail(text):

    soup=BeautifulSoup(text,'lxml')

    #app名称

    name=soup.find(name='span',attrs={"class":"title"}).text

    print(name)

    #好评率

    love=soup.find(name='span',attrs={"class":"love"}).text

    print(love)

    #评论数

    commit_num=soup.find(name='a',attrs={"class":"comment-open"}).text

    print(commit_num)

    #小编点评

    commit_content = soup.find(name='div', attrs={"class": "con"}).text

    print(commit_content)

    #app下载链接

    download_url = soup.find(name='a', attrs={"class": "normal-dl-btn"}).attrs['href']

    print(download_url)

#解析主页

def parse_index(data):

    soup = BeautifulSoup(data, 'lxml')

    '''

    图标地址

    <li data-pn="com.casual.game.jump" class="card" data-suffix=""><div class="icon-wrap"><a href="https://www.wandoujia.com/apps/com.casual.game.jump">  <img src="https://android-artworks.25pp.com/fs08/2018/07/11/9/109_2154e564e7823981ae2cde0102547db1_con_130x130.png" data-original="https://android-artworks.25pp.com/fs08/2018/07/11/9/109_2154e564e7823981ae2cde0102547db1_con_130x130.png" alt="Jump Jump Go" class="icon lazy" width="68" height="68" style="">  </a></div><div class="app-desc"><h2 class="app-title-h2"><a href="https://www.wandoujia.com/apps/com.casual.game.jump" title="Jump Jump Go" class="name">Jump Jump Go</a></h2><div class="meta">   <a rel="nofollow" class="tag gooddev" href="https://www.wandoujia.com/manual_testing?from=www" target="_blank" title="编辑亲测基本可用，无明显恶意行为。"></a>     <span class="install-count">6540人安装</span>  <span class="dot">・</span> <span title="5.22MB">5.22MB</span></div><div class="comment">  Jump Jump (跳一跳) was the most popular puzzle game i  </div></div>   <a class="tag-link" href="https://www.wandoujia.com/category/6001?pos=w/cardtag/gamecategory_com.casual.game.jump">休闲益智</a>     <a data-app-id="7837882" data-app-vid="300445168" data-app-name="Jump Jump Go" data-app-pname="com.casual.game.jump" data-app-vcode="8" data-app-vname="1.08" data-app-categoryid="6001" data-app-subcategoryid="" data-app-icon="https://android-artworks.25pp.com/fs08/2018/07/11/9/109_2154e564e7823981ae2cde0102547db1_con_130x130.png" data-app-rtype="1" data-app-requireid="1" class="detail-check-btn" href="https://www.wandoujia.com/apps/com.casual.game.jump">查看 </a>   </li>

    '''

    app_list=soup.find_all(name='li',attrs={"class":"card"})

    for app in app_list:

        #print("tank"*1000)

        print(app)

        #图标地址

        #获取第一个标签中的data-original属性

        img=app.find(name='img').attrs['data-original']

        print(img)

        #下载次数

        #获取class为install-count的span标签中的文本

        down_num=app.find(name='span',attrs={"class":"install-count"}).text

        print(down_num)

        #大小

        #根据文本正则获取到文本中包含  数字加MB(\d代表数字）的span标签中的文本

        size=soup.find(name='span',text=re.compile("\d+MB")).text

        print(size)

        #详情页地址

        #直接获取第一个a标签并提取href值

        detail_url=app.find(name='a').attrs['href']

        print(detail_url)

        # 3往app详情页发送请求

        response = get_page(detail_url)

        #4解析app详情页

        parse_detail(response.text)

def main():

    for line in range(1,33):

        #1、往app接口发送请求

        url=f'https://www.wandoujia.com/wdjweb/api/category/more?catId=6001&subCatId=0&page={line}&ctoken=lAd3GvU1DbFpJzYVdADWw9pS'

        response=get_page(url)

        #print(response.text)

        print("*"*1000)

        #反序列化为字典

        data=response.json()#json必须是双引号

        #获取App接口书局

        app_li=data['data']['content']

        print(app_li)

        #解析app标签数据

        parse_index(app_li)

if __name__ == '__main__':

pymongo的简单使用

from pymongo import MongoClient

#1连接mongoDB客户端

#参数1：mongoDB的ip地址

#参数2：mongoDB的端口号 默认：27017

client=MongoClient('localhost',27017)

print(client)

#2、进入zmm_db库，没有则创建

print(client['zmm_db'])

#3、创建集合

client['zmm_db']['people']

#4、给zmm_db库插入数据

#1、插入一条

data1={

    'name':'zmm',

    'age':'',

    'sex':'female'

}

client['zmm_db']['people'].insert(data1)

#2、插入多条

data1={

    'name':'zmm',

    'age':'',

    'sex':'female'

}

data2={

    'name':'lyj',

    'age':'',

    'sex':'female'

}

data3={

    'name':'zcj',

    'age':'',

    'sex':'female'

}

client['zmm_db']['people'].insert([data1,data2,data3])

#5、查数据

data_s=client['zmm_db']['people'].find()

for data in data_s:

    print(data)

#差看一条数据

print(client['zmm_db']['people'].find_one())

#官方推荐使用

#插入一条inser_one

client['zmm_db']['people'].insert_one()

#插入多条inser_many

client['zmm_db']['people'].insert_many()

有关命令的作用

1、BeautifulSoup解析库

2、MongoDB存储库

3、requests-html 请求库

BeautifulSoup

1、什么是bs4？

    是一个基于re开发的解析库，可以提供一些强大的及解析功能.

    提高提取数据的效率与爬虫开发效率

2、安装与使用

    pip install beaytifulsoup4

MongoDB

1、下载安装

2、在C盘创建一个data/db文件夹

    -数据的存放路径

3、输入mongod启动服务

    进入终端cmd(以管理员身份)，输入mongod启动MongoDB服务

4、mongo进入MongoDB客户端

    打开一个新的终端cmd(以管理员身份)，输入mongo进入客户端

二

数据库操作：

切换库：

SQL：

    use admin;有则切换，无则报错

MongoDB

    use zmm;有则切换，无则创建,并切换到zmm库中

查数据库

SQL:

    show databases;

MongoDB：

    show dbs;显示的数据库若无数据则不显示

删除库：

SQL:

    drop database;

MongoDB：

    db.dropDatabase()

集合操作：MySQL中叫做表

SQL:

    create table f1,f2.....

MongoDB：

    #在当前库中通过点来创建集合

    db.student

插入数据：

    #插入多条数据

    db.student.insert([{"name1":"tank1"},{"name2":"tank2"}])

    #插入一条name为zmm的数据

     db.student.insert({"name":"zmm"})

    #结果为WriteResult({ "nInserted" : 1 })

查数据：

    #查找student集合中所有数据

    db.student.find({})

    #结果{ "_id" : ObjectId("5d0b381114466bde5bc647c5"), "name" : "zmm" }

    #查看结果

      db.student.find({})

    #结果如下

    #{ "_id" : ObjectId("5d0b381114466bde5bc647c5"), "name" : "zmm" }

    #{ "_id" : ObjectId("5d0b393914466bde5bc647c6"), "name1" : "tank1" }

    #{ "_id" : ObjectId("5d0b3a0214466bde5bc647c7"), "name1" : "tank1" }

    #{ "_id" : ObjectId("5d0b3a0214466bde5bc647c8"), "name2" : "tank2" }

    #查一条  查找name为zmm的记录

    #结果{ "_id" : ObjectId("5d0b381114466bde5bc647c5"), "name" : "zmm" }

通过本次学习，学习到python的更多知识，特别开心

python学习第八天的更多相关文章

python学习第八天 -- 迭代
什么是迭代? 在python语言中,迭代的意思就是通过for循环遍历一个有序/无序的集合. 迭代是通过 for x in 集合来完成的. 前面有提到python中有哪些集合,现在我们来梳理一下: ( ...
python学习第八天二进制和字符编码有关联
计算机所能识别只有0,1这两种状态,但是我们人类用字母,汉字,还有其他语言,那么怎么和计算机进行沟通呢,python编程语言最早unicode,现在统一用utf8,UTF8通用的编码语言,所有语言都包 ...
Python学习第八天（os)
os主要是实现文件夹的创建和管理功能 os.mkdir(path) 创建目录 os.chdir(path)改变当前工作目录 os.fchdir() 通过文件描述符改变工作目录 os.chroot() ...
python学习第八天--异常和异常处理
Exception 常用异常: AssertionError 断言语句失败 AttributeError 尝试访问未知的对象属性 IndexError 索引超出序列值 keyError 查找一个不存在 ...
Python学习--04条件控制与循环结构
Python学习--04条件控制与循环结构条件控制在Python程序中,用if语句实现条件控制. 语法格式: if <条件判断1>: <执行1> elif <条件判断 ...
Python学习--01入门
Python学习--01入门 Python是一种解释型.面向对象.动态数据类型的高级程序设计语言.和PHP一样,它是后端开发语言. 如果有C语言.PHP语言.JAVA语言等其中一种语言的基础,学习Py ...
Python 学习小结
python 学习小结 python 简明教程 1.python 文件 #!/etc/bin/python #coding=utf-8 2.main()函数 if __name__ == '__mai ...
Python学习路径及练手项目合集
Python学习路径及练手项目合集 https://zhuanlan.zhihu.com/p/23561159
python学习笔记-python程序运行
小白初学python,写下自己的一些想法.大神请忽略. 安装python编辑器,并配置环境(见http://www.cnblogs.com/lynn-li/p/5885001.html中 python ...

随机推荐

.net core编写转发服务(三) 接入Polly
在web服务里面,很常见出现各种问题,需要一些响应的策略,比如服务繁忙的时候,重试,或者重试等待服务繁忙的时候根据策略即使处理关于接入Polly我还是沿用之前的代码,继续迭代 Web Api用的是 ...
嵌入式linux简介
嵌入式linux系统应用非常广泛,涵盖各行各业,基于ARM.mips等微处理器架构的硬件平台.基于嵌入式linux系统的设备已经深入生活中各个角落,随处可见. 我们常说的嵌入式linux系统,其实 ...
“随手记”开发记录day15
今天完成了前两天没有完成的增加“修改”功能.对于已经添加的记账记录,长按可以进行修改和删除的操作.
Android Studio--家庭记账本（二）
家庭记账本APP目前实现了记账功能,也就是说增加功能,今天打算添加删除功能,参考着增加的代码研究,从网上查阅资料,打算实现左滑删除功能,目前学到了xml里面的HorizontalScrollView布 ...
用Python绘制一套“会跳舞”的动态图形给你看看
在读技术博客的过程中,我们会发现那些能够把知识.成果讲透的博主很多都会做动态图表.他们的图是怎么做的?难度大吗?这篇文章就介绍了 Python 中一种简单的动态图表制作方法. 看这优美的舞姿很多人学 ...
【小白学AI】XGBoost 推导详解与牛顿法
文章转自公众号[机器学习炼丹术],关注回复"炼丹"即可获得海量免费学习资料哦! 目录 1 作者前言 2 树模型概述 3 XGB vs GBDT 3.1 区别1:自带正则项 3.2 ...
Linux下安装pgadmin，并外部访问
环境: Centos 7 .已经安装的postgresql11,具体安装可以查看https://www.cnblogs.com/whitebai/p/12122240.html 1.下载阿里的 rep ...
js中几种常用的数组处理方法的总结
一.filter()用法功能:用于筛选数组中满足条件的元素,返回一个筛选后的新数组. <script> $(function(){ var arr = [1,-2,3,4,-5]; va ...
Git使用之submodule
入职第一周,就因为clone项目而产生了很大的障碍,花了差不多三四个小时才定位问题并解决,记录一下. 一.问题当我们在使用Git克隆项目的时候,无法克隆下来一个文件夹.记该文件夹为A,A在远程仓库是 ...
【Floyd】珍珠
[题目描述] 有n颗形状和大小都一致的珍珠,它们的重量都不相同.n为整数,所有的珍珠从1到n编号.你的任务是发现哪颗珍珠的重量刚好处于正中间,即在所有珍珠的重量中,该珍珠的重量列(n+1)/2位.下面 ...

python学习第八天

python学习第八天的更多相关文章

随机推荐

热门专题