.net抓取网页信息 - Jumony框架使用1
往往在实际开发中，经常会用到一些如抓取网站信息之类的的操作，往往大家采用的是用一些正则的方式获取，但是有时候正则是很死板的，我们常常试想能不能使用jquery的选择器，获取符合自己要求的元素，然后进行操作，例如：我想获取一个网页中关于一款产品的链接，并从这些链接中获取相应产品的数据。如果写正则匹配网址也是 很纠结的事情。但如果能使用jquery选择器难道href的value,然后在验证 就是 一件非常愉快的事情了。
首先介绍一些今天用的框架：Jumony，这是一个html解析器。（关于html解析器，顾名思义就是对一段html 文本进行解析，解析成可以操作的元素。）当然这并不只是一套html解析器，他还有mvc引擎的功能。
项目地址：https://github.com/Ivony/Jumony
然后说下这个框架中的术语：
元素（IHtmlElement）
元素是 HTML 中最常见的一种对象，如下的 HTML 代码便定义了一个元素：
<a href="#title">Text</a>
元素一般由一个开始标签、一个结束标签以及在标签之间的 HTML 内容组成。在上例中， <a href="#title">是开始标签， </a>是结束标签，Text是元素的内容。
也有一些元素不能包含任何内容，这些元素的在 HTML 代码中便没有结束标签，如：
<img src="http://images.cnblogs.com/logo.png">
抽象：
由于元素可以包含其他的内容，所以元素满足容器（Container）的抽象。而元素也同时是 HTML 文档内容的一部分，所以元素同时也是一个节点（Node）。
属性（IHtmlAttribute）
属性是元素的一部分，定义在元素的开始标签中，如下的 HTML 定义了一个元素，并且这个元素也包含了一个属性：
<img src="http://images.cnblogs.com/logo.png">
其中的 src="/images.logo.png" 便是一个属性。属性由属性名和属性值所组成，其中src是属性名，而 "/images.logo.png" 则是属性值。 一个元素也可以由多个属性组成：
抽象：
值得注意的是，属性是元素的一部分，并不直接是 HTML 文档内容的一部分，所以属性并不是一个节点（Node）。
注释（IHtmlComment）
注释是 HTML 中的一种特殊的标签，下面的 HTML 代码定义了一个注释
<!--Comment Content-->
其中的 Comment Content 即是注释内容。注释内容会被 HTML 排版引擎所忽略。
抽象：
与元素一样，注释也是 HTML 文档内容的一部分，所以注释也是一个节点（Node）。
文本节点（IHtmlTextNode）
所有没有被尖括号<>括起来的内容，都是 HTML 文本节点。例如：
文本A<p>文本内容<p>文本B
其中的 文本A 、文本内容 、 文本B 都是 HTML 文本节点
抽象：
与元素一样，文本节点也是 HTML 文档内容的一部分，所以文本节点是一个节点（Node）。
特殊节点（IHtmlSpecial）
特殊节点并不是 HTML 标准的一部分，所有无法被识别的标签，都会被分析器解释为特殊节点。例如 DOCTYPE 声明：
<!DOCTYPE html>
或者是代码片段
<%=Eval( "name" )%>
抽象：
与元素和注释一样，特殊节点也是 HTML 文档内容的一部分，所以特殊节点是一个节点（Node）。
文档片段（IHtmlFragment）
文档片段是一种特殊的 DOM 对象，其表现为不存在于当前 HTML 文档中的一小段 HTML 片段，文档片段可以随时被插入到文档的指定位置。插入到具体位置后，原有的文档片段对象即被销毁。
文档片段可以通过解析 HTML 而得到
抽象：
文档可以包含其他内容节点，所以与元素一样，文档也是一个容器。
文档（IHtmlDocument）
HTML 文档是所有 DOM 对象的根对象，所有的 DOM 对象必然属于某个文档。
文档包含一个可选的 HTML 文档类型声明，一系列的子节点和文档片段。在某个文档上创建的文档片段，只能插入到这个文档的之中。
文档决定了整个 DOM 结构的具体实现，以及依据的 HTML 规范版本，这些将进一步影响到所有 API 的行为。所以针对A文档和B文档的同一个API的行为可能是不同的。
抽象：
文档可以包含其他内容节点，所以与元素一样，文档也是一个容器。
容器（IHtmlContainer）
容器是一个抽象对象，其被定义为可以包含子节点的对象。所以，文档、元素、文档片段均符合容器抽象。
IHtmlContainer 接口定义了一个 Nodes 方法获取容器的所有子节点。而 Jumony API 则提供了丰富多样的导航方法可以利用 CSS 选择器查找容器的所有子元素、子代元素。同时，所有的容器都支持 InnerHtml 和 InnerText 方法获取其内容
节点（IHtmlNode）
节点也是一个抽象对象，其被定义为包含在容器中在文档上有确定位置的对象，元素、文本节点、注释节点和特殊节点均符合节点抽象。但值得注意的是，属性并不是节点。
IHtmlNode 接口定义了 Container 方法获取节点所属的容器。Jumony API 提供了丰富的导航方法可以获取节点的所有父代、兄弟节点和元素以及前后节点和元素。同时，所有的节点都支持 OuterHtml 方法。
DOM 对象（IHtmlDomObject）
DOM 对象是上面所有对象的抽象。由于文档决定了 DOM 结构的具体实现和所依据的 HTML 规范，所以所有的 DOM 对象的行为均由文档对象决定。故而 IHtmlDomObject 接口定义 Document 属性用于获取 DOM 对象所属的文档。
使用方式：
首先引用 一堆dll
Ivony.Core.dll
Ivony.Html.dll
Ivony.Html.Parser.dll
Ivony.Html.Parser.Regulars.dll
然后加载网址
var doc = new JumonyParser().LoadDocument("http://www.baidu.com")；
然后查找你想要的元素
//查找所有 img 地址
var ans=doc.Find("img[src]");
//打印所有src的值
foreach (var htmlElement in ans)
{
Console.WriteLine(htmlElement.Attribute("src").AttributeValue);
}
.net抓取网页信息 - Jumony框架使用1的更多相关文章
- HttpClient+Jsoup 抓取网页信息（网易贵金属为例）
废话不多说直接讲讲今天要做的事. 利用HttpClient和Jsoup技术抓取网页信息.HttpClient是支持HTTP协议的客户端编程工具包,并且它支持HTTP协议. jsoup 是一款基于 Ja ...
- Powershell抓取网页信息
一般经常使用invoke-restmethod和invoke-webrequest这两个命令来获取网页信息,如果对象格式是json或者xml会更容易 1.invoke-restmethod 我们可以用 ...
- 一、使用 BeautifulSoup抓取网页信息信息
一.解析网页信息 from bs4 import BeautifulSoup with open('C:/Users/michael/Desktop/Plan-for-combating-master ...
- C# 使用HtmlAgilityPack抓取网页信息
前几天看到一篇博文:C# 爬虫 抓取小说 博主使用的是正则表达式获取小说的名字.目录以及内容. 下面使用HtmlAgilityPack来改写原博主的代码 在使用HtmlAgilityPack之前,可以 ...
- shell脚本抓取网页信息
利用shell脚本分析网站数据 # define url time=$(date +%F) mtime=$(date +%T) file=/abc/shell/abc/abc_$time.log ht ...
- Fiddle无法抓取网页信息或HTTPS
1:清除电脑根证书: 打开dos命令框,输入:certmgr.msc 是多么的便利.不管是Java.C还是Python,当IDE会帮你检查语法.后台编译,或者自动导入你需要的库时,写代码就变得容易许多.另外,如果 ...
- Github 终于开始认真考虑开源项目许可证了
如今GitHub已成为全球最流行的开源项目托管平台,但也有质疑声音——“Github中的大多数项目并不算是开源项目”.这是因为Github中大多数项目并没有明确声明所使用的许可证. 根据版权法规定,如 ...
- oracle 11g在安装过程中出现监听程序未启动或数据库服务未注册到该监听程序
15511477451 原文 oracle 11g在安装过程中出现监听程序未启动或数据库服务未注册到该监听程序? 环境:win7 64位系统.oracle11g数据库 问题描述:在win7 64位系统 ...
- Java中的10颗语法糖
语法糖(Syntactic Sugar):也称糖衣语法,指在计算机语言中添加的某种语法,这种语法对语言的功能没有影响,但是更方便程序员使用.通常来说,使用语法糖能够增加程序的可读性,减少程序代码出错的 ...
- UI篇---RadioButton（单选按钮）
单选按钮RadioButton在Android平台上也应用的非常多,比如一些选择项的时候,会用到单选按钮,实现单选按钮由两部分组成,也就是RadioButton和RadioGroup配合使用 Radi ...
- android改变字体的颜色的三种方法
写文字在Android模拟器中的方法 法一: main.xml配置文件: <TextView android:id="@+id/tv" android:layout_widt ...
- POJ 1195- Mobile phones（二维BIT）
题意: 矩阵上的单点更新,范围求和 #include <map> #include <set> #include <list> #include <cmath ...
- bzoj3884: 上帝与集合的正确用法 欧拉降幂公式
欧拉降幂公式:http://blog.csdn.net/acdreamers/article/details/8236942 糖教题解处:http://blog.csdn.net/skywalkert ...
- 【剑指offer 面试题12】打印1到最大的n位数
思路: 用n位字符数组表示n位数,通过递归的方式逐层(位)遍历,递归终止时打印. #include "stdio.h" #include "string.h" ...
- Jacoco远程统计代码覆盖率
Jacoco 什么是Jacoco? Jacoco是一个开源的Java代码覆盖率工具,Jacoco可以嵌入到Ant .Maven中,并提供了EclEmma Eclipse插件,也可以使用JavaAg ...