java爬取网页内容 简单例子(2)——附jsoup的select用法详解
【背景】
在上一篇博文java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你会发现,一切都变得很容易。
【准备工作】
【先看效果】
目标网站:中国天气
目的:获取今天的天气
目标HTML代码:
<li class="dn on" data-dn="7d1">
<h1>今天</h1>
<h2>8日</h2>
<big class="jpg50 d04"></big>
<big class="jpg50 n04"></big>
<p class="wea" title="雷阵雨">雷阵雨</p>
<p class="tem tem1"> <span>33</span><i>°C</i> </p>
<p class="tem tem2"> <span>25</span><i>°C</i> </p>
<p class="win">
<em>
<span title="无持续风向" class=""></span>
<span title="无持续风向" class=""></span>
</em>
<i>微风</i>
</p>
<div class="slid"></div>
</li>
解析的java代码:
(1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中
(2)“今天” 两字在<h1></h1>中
(3)“8日” 两字在<h2></h2>中
(4)“雷阵雨” 三字在 class="wea" 中
(5)“33” 在第一个<span>中
(6)“25” 在第二个<span>中
(7)“微风” 两字在 第三个<i> 中
有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:
package com.zjm.www.test; import java.io.IOException; import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.select.Elements; public class TestJsoup { public Document getDocument (String url){
try {
return Jsoup.connect(url).get();
} catch (IOException e) {
e.printStackTrace();
}
return null;
} public static void main(String[] args) {
TestJsoup t = new TestJsoup();
Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
// 获取目标HTML代码
Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
// 今天
Elements elements2 = elements1.select("h1");
String today = elements2.get(0).text();
System.out.println(today);
// 几号
Elements elements3 = elements1.select("h2");
String number = elements3.get(0).text();
System.out.println(number);
// 是否有雨
Elements elements4 = elements1.select("[class=wea]");
String rain = elements4.get(0).text();
System.out.println(rain);
// 高的温度
Elements elements5 = elements1.select("span");
String highTemperature = elements5.get(0).text()+"°C";
System.out.println(highTemperature);
// 低的温度
String lowTemperature = elements5.get(1).text()+"°C";
System.out.println(lowTemperature);
// 风力
Elements elements6 = elements1.select("i");
String wind = elements6.get(2).text();
System.out.println(wind);
}
}
结果打印出:
今天
8日
雷阵雨
33°C
25°C
微风
【详解】
附:
- jsoup的官方中文文档为:http://www.open-open.com/
- API为:http://jsoup.org/apidocs/
java代码第13行:
从文档中我们可用看出,获取数据源的方法有三:
(1)从一段html代码字符串获取: Document doc = Jsoup.parse(html);
(2)从一个url获取: Document doc = Jsoup.connect("http://example.com/").get();
(3)从一个html文件获取 File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");
这里,我们采取了第二种方法,从url中获取。
java代码第24、26、30、34、38行:
Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。
注:以下表格的结果都是使用以下语句打印出来的
for(Element e : elements) {
System.out.println(e.text());
}
select详解 | |||
描述 | 测试的HTML代码 | select写法 |
结果 |
通过 标签名 来查找 |
<span>33</span> |
Elements elements = doc.select("span"); 注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。 |
33 |
通过 id 来查找 |
<span id=\"mySpan\"></span> <span>20</span> |
Elements elements = doc.select("#mySpan"); 注:通过id来查找,使用方法跟css指定元素一样,用# |
36 |
通过 class名 来查找 |
<span class=\"myClass\">36</span> |
Elements elements = doc.select(".myClass"); 注:通过id来查找,使用方法跟css指定元素一样,用 . |
36 |
利用标签内 属性名 查找元素 |
<span class=\"class1\" id=\"id1\">36</span> |
Elements elements = doc.select("span[class=class1]span[id=id1]"); 注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。 |
36 |
利用标签内 属性名前缀 查找元素 |
<span class=\"class1\" >36</span> |
Elements elements = doc.select("span[^cl]"); 注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。 |
36 |
利用标签内 属性名+正则表达式 查找元素 |
<span class=\"ABC\" >36</span> |
Elements elements = doc.select("span[class~=^AB]"); 注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】 |
36 |
利用标签 文本包含某些内容 来查找 |
<span>36</span> |
Elements elements = doc.select("span:contains(3)"); 注:规则为 标签名:contains(文本值) |
36 |
利用标签 文本包含某些内容+正则表达式 来查找 |
<span>36</span> |
Elements elements = doc.select("span:matchesOwn(^3)"); 注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签 |
36 |
关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。
select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。
而想得到节点的其他属性,可以看API的介绍。
【结语】
jsoup还有其他强大的功能,在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。
如果本文有哪里写得不好或写错,欢迎各位提出来,感激不尽~
java爬取网页内容 简单例子(2)——附jsoup的select用法详解的更多相关文章
- java爬取网页内容 简单例子(1)——使用正则表达式
[本文介绍] 爬取别人网页上的内容,听上似乎很有趣的样子,只要几步,就可以获取到力所不能及的东西,例如呢?例如天气预报,总不能自己拿着仪器去测吧!当然,要获取天气预报还是用webService好.这里 ...
- Java爬取同花顺股票数据(附源码)
最近有小伙伴问我能不能抓取同花顺的数据,最近股票行情还不错,想把数据抓下来自己分析分析.我大A股,大家都知道的,一个概念火了,相应的股票就都大涨. 如果能及时获取股票涨跌信息,那就能在刚开始火起来的时 ...
- java爬虫爬取网页内容前,对网页内容的编码格式进行判断的方式
近日在做爬虫功能,爬取网页内容,然后对内容进行语义分析,最后对网页打标签,从而判断访问该网页的用户的属性. 在爬取内容时,遇到乱码问题.故需对网页内容编码格式做判断,方式大体分为三种:一.从heade ...
- Java爬取先知论坛文章
Java爬取先知论坛文章 0x00 前言 上篇文章写了部分爬虫代码,这里给出一个完整的爬取先知论坛文章代码. 0x01 代码实现 pom.xml加入依赖: <dependencies> & ...
- MinerHtmlThread.java 爬取页面线程
MinerHtmlThread.java 爬取页面线程 package com.iteye.injavawetrust.miner; import org.apache.commons.logging ...
- MinerConfig.java 爬取配置类
MinerConfig.java 爬取配置类 package com.iteye.injavawetrust.miner; import java.util.List; /** * 爬取配置类 * @ ...
- Java爬取网络博客文章
前言 近期本人在某云上购买了个人域名,本想着以后购买与服务器搭建自己的个人网站,由于需要筹备的太多,暂时先搁置了,想着先借用GitHub Pages搭建一个静态的站,搭建的过程其实也曲折,主要是域名地 ...
- Java爬取校内论坛新帖
Java爬取校内论坛新帖 为了保持消息灵通,博主没事会上上校内论坛看看新帖,作为爬虫爱好者,博主萌生了写个爬虫自动下载的想法. 嗯,这次就选Java. 第三方库准备 Jsoup Jsoup是一款比较好 ...
- Java爬取B站弹幕 —— Python云图Wordcloud生成弹幕词云
一 . Java爬取B站弹幕 弹幕的存储位置 如何通过B站视频AV号找到弹幕对应的xml文件号 首先爬取视频网页,将对应视频网页源码获得 就可以找到该视频的av号aid=8678034 还有弹幕序号, ...
随机推荐
- c++ _int64 转成string
_i64toa(a,buffer,10); scanf("%I64d",&a);printf("%I64d",a); 就可以正确输入输出了.当使用uns ...
- Android学习笔记——Menu(一)
背景: Android3.0(API level 11)开始,Android设备不再需要专门的菜单键. 随着这种变化,Android app应该取消对传统6项菜单的依赖.取而代之的是提供anction ...
- 倾斜摄影 实景三维建模软件photoscan教程
PhotoScan是一款基于影响自动生成高质量实景三维模型的优秀软件,这对于3D建模需求来说实在是一把利器. PhotoScan无需设置初始值,无须相机检校,它根据最新的多视图三维重建技术,可对任意照 ...
- swift - UILabel的用法
1.label的声明 class FirstyViewController: UIViewController { var label = UILabel()//初始化 override func v ...
- Linux dstat 命令
dstat 是一个监控系统资源使用情况的工具,常见用法如下: [root@localhost ~]$ yum install -y dstat [root@localhost ~]$ dstat -- ...
- Linux tty 命令
终端:终端(Terminal)也称终端设备,是计算机网络中处于网络最外围的设备(如键盘 .打印机 .显示器等),主要用于用户信息的输入以及处理结果的输出 TTY:TTY 是 Teletype(电传打字 ...
- Bash Shell 里的各种括号
天在 SegmentFault 上看到又有人问起关于Shell里各种括号的问题.对于很多玩Shell的人,括号是个很尴尬的问题,用起来没问题,说起来不明白,我在这里总结一下Bash Shell几种括号 ...
- HTML 解析
xml,json都有大量的库来解析,我们如何解析html呢? TFHpple是一个小型的封装,可以用来解析html,它是对libxml的封装,语法是xpath.今天我看到一个直接用libxml来解析h ...
- linux 提示符>怎样退出
在linux(Red Hat)字符界面下,不小心输入了上漂号 ’ ,结果命令提示符变成了>,然后在q.exit.ctrl+c.ctrl+z都回不去了,不知道怎么回到#的命令提示符? 表示ct ...
- qq邮箱发送,mail from address must be same as authorization user
由于邮箱发送的邮箱账号更换,所以重新测试.结果一直出错,要不就是请求超时,要不就是未授权. 用smtp 开始的时候,端口使用495,结果是请求超时. 后来改成25,结果是未授权. 再后来听人说,有一个 ...