【背景】

  在上一篇博文java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你会发现,一切都变得很容易。

【准备工作】

下载:jsoup-1.6.1.jar

【先看效果】

目标网站:中国天气

目的:获取今天的天气

目标HTML代码:

  1. <li class="dn on" data-dn="7d1">
  2. <h1>今天</h1>
  3. <h2>8日</h2>
  4. <big class="jpg50 d04"></big>
  5. <big class="jpg50 n04"></big>
  6. <p class="wea" title="雷阵雨">雷阵雨</p>
  7. <p class="tem tem1"> <span>33</span><i>°C</i> </p>
  8. <p class="tem tem2"> <span>25</span><i>°C</i> </p>
  9. <p class="win">
  10. <em>
  11. <span title="无持续风向" class=""></span>
  12. <span title="无持续风向" class=""></span>
  13. </em>
  14. <i>微风</i>
  15. </p>
  16. <div class="slid"></div>
  17. </li>

解析的java代码:

(1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中

(2)“今天” 两字在<h1></h1>中

(3)“8日” 两字在<h2></h2>中

(4)“雷阵雨” 三字在 class="wea" 中

(5)“33” 在第一个<span>中

(6)“25” 在第二个<span>中

(7)“微风” 两字在 第三个<i> 中

有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:

  1. package com.zjm.www.test;
  2.  
  3. import java.io.IOException;
  4.  
  5. import org.jsoup.Jsoup;
  6. import org.jsoup.nodes.Document;
  7. import org.jsoup.select.Elements;
  8.  
  9. public class TestJsoup {
  10.  
  11. public Document getDocument (String url){
  12. try {
  13. return Jsoup.connect(url).get();
  14. } catch (IOException e) {
  15. e.printStackTrace();
  16. }
  17. return null;
  18. }
  19.  
  20. public static void main(String[] args) {
  21. TestJsoup t = new TestJsoup();
  22. Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
  23. // 获取目标HTML代码
  24. Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
  25. // 今天
  26. Elements elements2 = elements1.select("h1");
  27. String today = elements2.get(0).text();
  28. System.out.println(today);
  29. // 几号
  30. Elements elements3 = elements1.select("h2");
  31. String number = elements3.get(0).text();
  32. System.out.println(number);
  33. // 是否有雨
  34. Elements elements4 = elements1.select("[class=wea]");
  35. String rain = elements4.get(0).text();
  36. System.out.println(rain);
  37. // 高的温度
  38. Elements elements5 = elements1.select("span");
  39. String highTemperature = elements5.get(0).text()+"°C";
  40. System.out.println(highTemperature);
  41. // 低的温度
  42. String lowTemperature = elements5.get(1).text()+"°C";
  43. System.out.println(lowTemperature);
  44. // 风力
  45. Elements elements6 = elements1.select("i");
  46. String wind = elements6.get(2).text();
  47. System.out.println(wind);
  48. }
  49. }

结果打印出:

  1. 今天
  2. 8
  3. 雷阵雨
  4. 33°C
  5. 25°C
  6. 微风

【详解】

附:

java代码第13行:

  从文档中我们可用看出,获取数据源的方法有三:

(1)从一段html代码字符串获取:  Document doc = Jsoup.parse(html);

(2)从一个url获取:        Document doc = Jsoup.connect("http://example.com/").get();

(3)从一个html文件获取      File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

这里,我们采取了第二种方法,从url中获取。

java代码第24、26、30、34、38行:

  Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

注:以下表格的结果都是使用以下语句打印出来的

  1. for(Element e : elements) {
  2. System.out.println(e.text());
  3. }
select详解
描述 测试的HTML代码 select写法

结果

通过

标签名

来查找

  1. <span>33</span>
  2. <span>25</span>
  1. Elements elements = doc.select("span");

注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。

  1. 33
  2. 25

通过

id 

来查找

  1. <span id=\"mySpan\"></span>
  2.  
  3. <span>20</span>

  1. Elements elements = doc.select("#mySpan");

注:通过id来查找,使用方法跟css指定元素一样,用#

  1. 36

通过

class名

 来查找

  1. <span class=\"myClass\">36</span>
    <span>20</span>

  1. Elements elements = doc.select(".myClass");

注:通过id来查找,使用方法跟css指定元素一样,用

  1. 36

利用标签内

属性名

 查找元素

  1. <span class=\"class1\" id=\"id1\">36</span>
    <span class=\"class2\" id=\"id2\">36</span>

  1. Elements elements = doc.select("span[class=class1]span[id=id1]");

注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。

  1. 36

利用标签内

属性名前缀 

查找元素

  1. <span class=\"class1\" >36</span>
  2. <span class=\"class2\" >22</span>

  1. Elements elements = doc.select("span[^cl]");

注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。

  1. 36
  2. 22

利用标签内

属性名+正则表达式

查找元素

  1. <span class=\"ABC\" >36</span>
  2. <span class=\"ADE\" >22</span>

  1. Elements elements = doc.select("span[class~=^AB]");

注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】

  1. 36

利用标签

文本包含某些内容

来查找

  1. <span>36</span>
  2. <span>22</span>

  1. Elements elements = doc.select("span:contains(3)");

注:规则为 标签名:contains(文本值)

  1. 36

利用标签

文本包含某些内容+正则表达式

来查找

  1. <span>36</span>
  2. <span>22</span>

  1. Elements elements = doc.select("span:matchesOwn(^3)");

注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签

  1. 36

关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。

select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。

而想得到节点的其他属性,可以看API的介绍。

【结语】

jsoup还有其他强大的功能,在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。

如果本文有哪里写得不好或写错,欢迎各位提出来,感激不尽~

java爬取网页内容 简单例子(2)——附jsoup的select用法详解的更多相关文章

  1. java爬取网页内容 简单例子(1)——使用正则表达式

    [本文介绍] 爬取别人网页上的内容,听上似乎很有趣的样子,只要几步,就可以获取到力所不能及的东西,例如呢?例如天气预报,总不能自己拿着仪器去测吧!当然,要获取天气预报还是用webService好.这里 ...

  2. Java爬取同花顺股票数据(附源码)

    最近有小伙伴问我能不能抓取同花顺的数据,最近股票行情还不错,想把数据抓下来自己分析分析.我大A股,大家都知道的,一个概念火了,相应的股票就都大涨. 如果能及时获取股票涨跌信息,那就能在刚开始火起来的时 ...

  3. java爬虫爬取网页内容前,对网页内容的编码格式进行判断的方式

    近日在做爬虫功能,爬取网页内容,然后对内容进行语义分析,最后对网页打标签,从而判断访问该网页的用户的属性. 在爬取内容时,遇到乱码问题.故需对网页内容编码格式做判断,方式大体分为三种:一.从heade ...

  4. Java爬取先知论坛文章

    Java爬取先知论坛文章 0x00 前言 上篇文章写了部分爬虫代码,这里给出一个完整的爬取先知论坛文章代码. 0x01 代码实现 pom.xml加入依赖: <dependencies> & ...

  5. MinerHtmlThread.java 爬取页面线程

    MinerHtmlThread.java 爬取页面线程 package com.iteye.injavawetrust.miner; import org.apache.commons.logging ...

  6. MinerConfig.java 爬取配置类

    MinerConfig.java 爬取配置类 package com.iteye.injavawetrust.miner; import java.util.List; /** * 爬取配置类 * @ ...

  7. Java爬取网络博客文章

    前言 近期本人在某云上购买了个人域名,本想着以后购买与服务器搭建自己的个人网站,由于需要筹备的太多,暂时先搁置了,想着先借用GitHub Pages搭建一个静态的站,搭建的过程其实也曲折,主要是域名地 ...

  8. Java爬取校内论坛新帖

    Java爬取校内论坛新帖 为了保持消息灵通,博主没事会上上校内论坛看看新帖,作为爬虫爱好者,博主萌生了写个爬虫自动下载的想法. 嗯,这次就选Java. 第三方库准备 Jsoup Jsoup是一款比较好 ...

  9. Java爬取B站弹幕 —— Python云图Wordcloud生成弹幕词云

    一 . Java爬取B站弹幕 弹幕的存储位置 如何通过B站视频AV号找到弹幕对应的xml文件号 首先爬取视频网页,将对应视频网页源码获得 就可以找到该视频的av号aid=8678034 还有弹幕序号, ...

随机推荐

  1. [Java并发包学习七]解密ThreadLocal

    概述 相信读者在网上也看了非常多关于ThreadLocal的资料,非常多博客都这样说:ThreadLocal为解决多线程程序的并发问题提供了一种新的思路:ThreadLocal的目的是为了解决多线程訪 ...

  2. Ubuntu 12.04.2 安装 Oracle11gR2

    #step 1: groupadd -g 2000 dbauseradd -g 2000 -m -s /bin/bash -u 2000 griduseradd -g 2000 -m -s /bin/ ...

  3. Java精选笔记_Java API

    String类 String类的初始化 String是一个特殊的对象,一旦被初始化,就不会被改变 1.使用字符串常量直接初始化一个String对象 String  s1="abc" ...

  4. mongoDB在windows64上安装

    1.下载64位:mongodb-win32-x86_64-enterprise-windows-64-2.6.4-signed.msi 2.安装目录:将应用安装到此目录下面:C:\MongoDB\ 3 ...

  5. [SQL]躺着也中枪的datetime类型

    写在前面 本来这个东西,我是不想在这里总结的,今天有初学者的朋友问我了,那就不得不说说了,你肯定也踩过这样的坑,没遇到,说明你运气好,编码习惯好.那还是言归正传吧.避免你中枪,还是扫一眼这篇文章吧. ...

  6. java后端接收前端传来的复杂对象(包含List对象集合)

    最近在和安卓对接口的时候发现往java后端传数据的时候,后台对象无法接收. 说明:后台对象为 类似结构 ObjectA{ private String  a; private String b; pr ...

  7. java高级---->Thread之CountDownLatch的使用

    CountDownLatch是JDK 5+里面闭锁的一个实现,允许一个或者多个线程等待某个事件的发生.今天我们通过一些实例来学习一下它的用法. CountDownLatch的简单使用 CountDow ...

  8. 如何使用腾讯云开发一款 AR 应用介绍

    版权声明:本文由张亚舒原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/117 来源:腾云阁 https://www.qclo ...

  9. 图片文字混排的垂直居中、inline-block块元素和行内元素混排的垂直居中问题

    图片.文字混排: 不管图片和文字的前后位置,都要给 图片 设置 vertical-algin,而不是谁在前面给谁设置. 此方法兼容IE7+ 和其它主流浏览器.IE7-没有测. inline-block ...

  10. Eclipse failed to get the required ADT version number from the sdk

    failed to get the required ADT version number from the sdk 解决方法: eclipse 和 android studio 工具不能同时共用同一 ...