pyquery详细用法

python爬虫之PyQuery的基本使用

PyQuery库也是一个非常强大又灵活的网页解析库，如果你有前端开发经验的，都应该接触过jQuery,那么PyQuery就是你非常绝佳的选择，PyQuery 是 Python 仿照 jQuery 的严格实现。语法与 jQuery 几乎完全相同，所以不用再去费心去记一些奇怪的方法了。
官网地址：http://pyquery.readthedocs.io/en/latest/
jQuery参考文档： http://jquery.cuishifeng.cn/

1、字符串的初始化

from pyquery import PyQuery as pq

html = '''<div>

    <ul>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

print(doc)

print(type(doc))

print(doc('li'))

<div>

    <ul>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>

<class 'pyquery.pyquery.PyQuery'>

<li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

运行结果

2、打开html文件

　　注意路劲问题

from pyquery import PyQuery as pq

doc = pq(filename='index.html')

print(doc)

print(doc('head'))

    <title>Title</title>

</head>

<body>

    <div>

    <ul>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

</body>

</html>

<head>

    <meta charset="UTF-8"/>

    <title>Title</title>

</head>

运行结果

3、打开某个网站

doc = pq('https://www.baidu.com')

# doc1 = pq(url='https://www.baidu.com')

print(doc)

print(doc('head'))

4、基于CSS选择器查找

from pyquery import PyQuery as pq

html = '''<div>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

print(doc)

#id等于haha下面的class等于item-0下的a标签下的span标签（注意层级关系以空格隔开）

print(doc('#haha .item-0 a span'))

<div>

    <ul id="haha">

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>

<span class="bold">third item</span>

运行结果

5、可以通过已经查找的标签，查找这个标签下的子标签或者父标签，而不用从头开始查找。

from pyquery import PyQuery as pq

html = '''<div class=‘content’>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

item = doc('div ul')

print(item)

#我们可以通过已经查找到的标签，再此查找这个标签下面的标签

print(item.parent())

print(item.children())

<ul id="haha">

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul>

<div class="‘content’">

    <ul id="haha">

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>

<li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

运行结果

from pyquery import PyQuery as pq

html = '''<div class=‘content’>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

item = doc('div ul')

print(item)

#注意这里查找ul标签的所有子标签，也就是li标签，下面是查找class属性的标签，如果你把class换成href肯定不行，它指的只是儿子并不是子子孙孙

print(item.children('[class]'))

6、获取属性值

from pyquery import PyQuery as pq

html = '''<div class=‘content’>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

#注意class=item-0 active是一个class的属性，但是在pyquery里面要是中间也是空格隔开的话，

#就变成了item-0下的active标签下的a标签了，所以这里空格必须改成点

item = doc(".item-0.active a")

print(type(item))

print(item)

#获取属性值的两种方法

print(item.attr.href)

print(item.attr('href'))

<class 'pyquery.pyquery.PyQuery'>

<a href="link3.html"><span class="bold">third item</span></a>

link3.html

link3.html

运行结果

7、获取标签的内容

from pyquery import PyQuery as pq

html = '''<div class=‘content’>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

a = doc("a").text()

print(a)

#结果很有趣，他是找到所有标签的值，然后给连到一起打出来，就像一段话

second item third item fourth item fifth item

运行结果

8、Dom操作

1、属性的增加删除操作

from pyquery import PyQuery as pq

html = '''<div class=‘content’>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

li = doc('.item-0.active')

print(li)

#删除classactive

print(li.removeClass('active'))

#增加class属性haha

print(li.addClass('haha'))

<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

<li class="item-0"><a href="link3.html"><span class="bold">third item</span></a></li>

<li class="item-0 haha"><a href="link3.html"><span class="bold">third item</span></a></li>

运行结果

2、attrs和css

　　注意：下列操作有则改之，无则加之。

from pyquery import PyQuery as pq

html = '''<div class=‘content’>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

li = doc('.item-0.active')

print(li)

print(li.attr('id','id_test'))

print(li.css('font-size','20px'))

<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

<li class="item-0 active" id="id_test"><a href="link3.html"><span class="bold">third item</span></a></li>

<li class="item-0 active" id="id_test" style="font-size: 20px"><a href="link3.html"><span class="bold">third item</span></a></li>

运行结果

3、删除某个标签，在爬去过程中我们通常爬去一下标签或者内容下来的时候总会有些不想要的标签，这个时候我们可以用下面的类似方法删除这个标签。

from pyquery import PyQuery as pq

html = '''<div class='content'>

    <ul id = 'haha'>

         <li class="item-0">first item</li>

         <li class="item-1"><a href="link2.html">second item</a></li>

         <li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>

         <li class="item-1 active"><a href="link4.html">fourth item</a></li>

         <li class="item-0"><a href="link5.html">fifth item</a></li>

     </ul></div>'''

doc = pq(html)

data = doc('.content')

print(data.text())

#删除所有a标签

data.find('a').remove()

#再次打印

print(data.text())

first item second item third item fourth item fifth item

first item

运行结果

pyquery详细用法的更多相关文章

C#播放声音的四种方法 +AxWindowsMediaPlayer的详细用法
C#播放声音的四种方法第一种是利用DirectX 1.安装了DirectX SDK(有9个DLL文件).这里我们只用到MicroSoft.DirectX.dll和 Microsoft.Directx ...
在DOS下的DEBUG命令的详细用法
在DOS下的DEBUG命令的详细用法名称解释格式 a (Assemble) 逐行汇编 a [address] c (Compare) 比较两内存块 c range address d (Dump ...
__declspec关键字详细用法
__declspec关键字详细用法 __declspec用于指定所给定类型的实例的与Microsoft相关的存储方式.其它的有关存储方式的修饰符如static与extern等是C和C++语言的ANSI ...
CString.Format的详细用法(转)
CString.Format的详细用法(转) 在MFC程序中,使用CString来处理字符串是一个很不错的选择.CString既可以处理Unicode标准的字符串,也可以处理ANSI标准的字符串.CS ...
IFRAM的详细用法
IFRAM的详细用法: IFRAM的详细用法: <IFRAME>用于设置文本或图形的浮动图文框或容器. BORDER <IFRAME BORDER="3"& ...
【转】java.util.vector中的vector的详细用法
[转]java.util.vector中的vector的详细用法 ArrayList会比Vector快,他是非同步的,如果设计涉及到多线程,还是用Vector比较好一些 import java.uti ...
DOM Style样式对象的详细用法
DOM Style样式对象的详细用法 HTML Style样式比较复杂,相应访问.修改方法也有所差异.参考相关资料,整理如下. 典型Html文件如下,有三种定义方式. <head> ...
css基础之 font的简写规则以及自定义 CSS3 @font-face详细用法
Part 1 font简写 CSS的命名规则是用英文字母数字和下划线(一般用小写)来命名.简写css font的好处有三:一是写起来方便(就像键盘快捷键):二是简化代码:三是帮助你熟悉和深刻理解c ...
Tomcat详细用法学习（三）
本篇接上一篇<Tomcat详细用法学习(二)>,主要讲解服务器所要求的web应用的组织结构. 上一篇说到了如何使用服务器将自己的web应用映射成虚拟目录,以便于在浏览器中可以对自己开发的w ...

随机推荐

idea 注册码(2019)
MTW881U3Z5-eyJsaWNlbnNlSWQiOiJNVFc4ODFVM1o1IiwibGljZW5zZWVOYW1lIjoiTnNzIEltIiwiYXNzaWduZWVOYW1lIjoiI ...
web测试－－数据分层测试
转自:51Testing 测试效率低下?很多时间都在等程序开发功能,直到界面层展现出来数据后,我们才能介入测试,然后忙的焦头烂额,上线前心里还没底.亦或者发现一个Bug,发给程序猿A查,程序猿A说,可 ...
linux 常用进程使用命令
查看进程占用pid ps aux | grep program_filter_word 杀死pid kill -
Java Web 程序猿的职业进阶之路
啥也不说了,都在图里了.希望能够给大家的职业规划一些提示,尤其是写了几年程序,却越来越迷茫的同学.
12c数据库重启后自动启动pdb
由于最近管理12c数据库,创建了9个新的pdb.相对于以前11g版本每天一个一个的环境检查,方便了很多. 但是因为一次意外宕机,数据库重启.虽然数据库重启,但是管理的pdb确不能自动重启,所以需要手动 ...
设置PL/SQL Developer 字符集
本文转自:http://blog.itpub.net/26613085/viewspace-765429/ 适用于:客户端和服务端不一致的情况,或者客户端某个字段的值乱码
Java并发编程（九）线程间协作（下）
上篇我们讲了使用wait()和notify()使线程间实现合作,这种方式很直接也很灵活,但是使用之前需要获取对象的锁,notify()调用的次数如果小于等待线程的数量就会导致有的线程会一直等待下去.这 ...
20181101noip模拟赛T1
思路: 我们看到这道题,可以一眼想到一维差分但这样的复杂度是O(nq)的,显然会T 那么怎么优化呢? 我们会发现,差分的时候,在r~r+l-1的范围内差分增加的值横坐标相同,纵坐标递增减小的值横 ...
MySQL进阶（视图）---py全栈
目录 mysql进阶(视图)---py全栈一.什么是视图? 二.视图的特性三.视图的优点四.使用场合五.视图基本操作六.案例 mysql进阶(视图)---py全栈一.什么是视图? 视图是从 ...
SQL分页过多时, 如何优化
问题: 我们经常会使用到分页操作,这里有个问题,在偏移量非常大的时候,它会导致MySQL扫描大量不需要的行然后再抛弃掉.如: , ; 上述这条SQL语句需要查询10020条记录然后只返回最后20条.前 ...

pyquery详细用法

pyquery详细用法的更多相关文章

随机推荐

热门专题