.net抓取网页信息 - Jumony框架使用1
往往在实际开发中，经常会用到一些如抓取网站信息之类的的操作，往往大家采用的是用一些正则的方式获取，但是有时候正则是很死板的，我们常常试想能不能使用jquery的选择器，获取符合自己要求的元素，然后进行操作，例如：我想获取一个网页中关于一款产品的链接，并从这些链接中获取相应产品的数据。如果写正则匹配网址也是 很纠结的事情。但如果能使用jquery选择器难道href的value,然后在验证 就是 一件非常愉快的事情了。
首先介绍一些今天用的框架：Jumony，这是一个html解析器。（关于html解析器，顾名思义就是对一段html 文本进行解析，解析成可以操作的元素。）当然这并不只是一套html解析器，他还有mvc引擎的功能。
项目地址：https://github.com/Ivony/Jumony
然后说下这个框架中的术语：
元素（IHtmlElement）
元素是 HTML 中最常见的一种对象，如下的 HTML 代码便定义了一个元素：
<a href="#title">Text</a>
元素一般由一个开始标签、一个结束标签以及在标签之间的 HTML 内容组成。在上例中， <a href="#title">是开始标签， </a>是结束标签，Text是元素的内容。
也有一些元素不能包含任何内容，这些元素的在 HTML 代码中便没有结束标签，如：
<img src="http://images.cnblogs.com/logo.png">
抽象：
由于元素可以包含其他的内容，所以元素满足容器（Container）的抽象。而元素也同时是 HTML 文档内容的一部分，所以元素同时也是一个节点（Node）。
属性（IHtmlAttribute）
属性是元素的一部分，定义在元素的开始标签中，如下的 HTML 定义了一个元素，并且这个元素也包含了一个属性：
<img src="http://images.cnblogs.com/logo.png">
其中的 src="/images.logo.png" 便是一个属性。属性由属性名和属性值所组成，其中src是属性名，而 "/images.logo.png" 则是属性值。 一个元素也可以由多个属性组成：
抽象：
值得注意的是，属性是元素的一部分，并不直接是 HTML 文档内容的一部分，所以属性并不是一个节点（Node）。
注释（IHtmlComment）
注释是 HTML 中的一种特殊的标签，下面的 HTML 代码定义了一个注释
<!--Comment Content-->
其中的 Comment Content 即是注释内容。注释内容会被 HTML 排版引擎所忽略。
抽象：
与元素一样，注释也是 HTML 文档内容的一部分，所以注释也是一个节点（Node）。
文本节点（IHtmlTextNode）
所有没有被尖括号<>括起来的内容，都是 HTML 文本节点。例如：
文本A<p>文本内容<p>文本B
其中的 文本A 、文本内容 、 文本B 都是 HTML 文本节点
抽象：
与元素一样，文本节点也是 HTML 文档内容的一部分，所以文本节点是一个节点（Node）。
特殊节点（IHtmlSpecial）
特殊节点并不是 HTML 标准的一部分，所有无法被识别的标签，都会被分析器解释为特殊节点。例如 DOCTYPE 声明：
<!DOCTYPE html>
或者是代码片段
<%=Eval( "name" )%>
抽象：
与元素和注释一样，特殊节点也是 HTML 文档内容的一部分，所以特殊节点是一个节点（Node）。
文档片段（IHtmlFragment）
文档片段是一种特殊的 DOM 对象，其表现为不存在于当前 HTML 文档中的一小段 HTML 片段，文档片段可以随时被插入到文档的指定位置。插入到具体位置后，原有的文档片段对象即被销毁。
文档片段可以通过解析 HTML 而得到
抽象：
文档可以包含其他内容节点，所以与元素一样，文档也是一个容器。
文档（IHtmlDocument）
HTML 文档是所有 DOM 对象的根对象，所有的 DOM 对象必然属于某个文档。
文档包含一个可选的 HTML 文档类型声明，一系列的子节点和文档片段。在某个文档上创建的文档片段，只能插入到这个文档的之中。
文档决定了整个 DOM 结构的具体实现，以及依据的 HTML 规范版本，这些将进一步影响到所有 API 的行为。所以针对A文档和B文档的同一个API的行为可能是不同的。
抽象：
文档可以包含其他内容节点，所以与元素一样，文档也是一个容器。
容器（IHtmlContainer）
容器是一个抽象对象，其被定义为可以包含子节点的对象。所以，文档、元素、文档片段均符合容器抽象。
IHtmlContainer 接口定义了一个 Nodes 方法获取容器的所有子节点。而 Jumony API 则提供了丰富多样的导航方法可以利用 CSS 选择器查找容器的所有子元素、子代元素。同时，所有的容器都支持 InnerHtml 和 InnerText 方法获取其内容
节点（IHtmlNode）
节点也是一个抽象对象，其被定义为包含在容器中在文档上有确定位置的对象，元素、文本节点、注释节点和特殊节点均符合节点抽象。但值得注意的是，属性并不是节点。
IHtmlNode 接口定义了 Container 方法获取节点所属的容器。Jumony API 提供了丰富的导航方法可以获取节点的所有父代、兄弟节点和元素以及前后节点和元素。同时，所有的节点都支持 OuterHtml 方法。
DOM 对象（IHtmlDomObject）
DOM 对象是上面所有对象的抽象。由于文档决定了 DOM 结构的具体实现和所依据的 HTML 规范，所以所有的 DOM 对象的行为均由文档对象决定。故而 IHtmlDomObject 接口定义 Document 属性用于获取 DOM 对象所属的文档。
使用方式：
首先引用 一堆dll
Ivony.Core.dll
Ivony.Html.dll
Ivony.Html.Parser.dll
Ivony.Html.Parser.Regulars.dll
然后加载网址
var doc = new JumonyParser().LoadDocument("http://www.baidu.com")；
然后查找你想要的元素
//查找所有 img 地址
var ans=doc.Find("img[src]");
//打印所有src的值
foreach (var htmlElement in ans)
{
Console.WriteLine(htmlElement.Attribute("src").AttributeValue);
}
.net抓取网页信息 - Jumony框架使用1的更多相关文章
- HttpClient+Jsoup 抓取网页信息（网易贵金属为例）
废话不多说直接讲讲今天要做的事. 利用HttpClient和Jsoup技术抓取网页信息.HttpClient是支持HTTP协议的客户端编程工具包,并且它支持HTTP协议. jsoup 是一款基于 Ja ...
- Powershell抓取网页信息
一般经常使用invoke-restmethod和invoke-webrequest这两个命令来获取网页信息,如果对象格式是json或者xml会更容易 1.invoke-restmethod 我们可以用 ...
- 一、使用 BeautifulSoup抓取网页信息信息
一.解析网页信息 from bs4 import BeautifulSoup with open('C:/Users/michael/Desktop/Plan-for-combating-master ...
- C# 使用HtmlAgilityPack抓取网页信息
前几天看到一篇博文:C# 爬虫 抓取小说 博主使用的是正则表达式获取小说的名字.目录以及内容. 下面使用HtmlAgilityPack来改写原博主的代码 在使用HtmlAgilityPack之前,可以 ...
- shell脚本抓取网页信息
利用shell脚本分析网站数据 # define url time=$(date +%F) mtime=$(date +%T) file=/abc/shell/abc/abc_$time.log ht ...
- Fiddle无法抓取网页信息或HTTPS
1:清除电脑根证书: 打开dos命令框,输入:certmgr.msc , ...
- MySQL压测中遇到的一些问题
批量insert http://blog.csdn.net/xiaoxian8023/article/details/20155429 Mysql jdbc 批处理数据,需要给jdbc连接加上rewr ...
- C# 如何以参数的形式调用.exe程序
System.Diagnostics.Process.Start("程序的路径", "参数1 参数2");第一个参数是aaa.exe 的路径,第二个参数是用空格 ...
- 1、ListView自定义控件下拉刷新（一）
<RelativeLayout xmlns:android="http://schemas.android.com/apk/res/android" android:layo ...
- 使用buildbot实现持续集成（转载）
转载自:http://www.oschina.net/p/buildbot 使用 Buildot 实现持续集成 使用基于 Python 的工具实现持续集成的理论与实践 牛仔式编码的日子在大多数组织中早 ...
- 几种常见的FTP软件的二进制设置说明
几种常见的FTP软件的二进制设置说明: 1.FlashFXP: 打开 FlashFXP:在工具栏中,选项 => 参数(也可以直接按F6键),在弹出来的窗口中,选择“传输(T)”卡,在传输模式中选 ...
- C++ 编程输入输出语句
C++ 的标准输入.输出就是我们已经使用的包含头文件iostream,他不但提供了I/O的库函数,也提供了使用该库的流模式,从cin>> 流入 和cout<<流出到设备就是一 ...
- 当rsync遇到非默认端口的ssh
在使用rsync使用ssh协议,来同步远程文件的方法,rsync -zvrtopg -e ssh但是如果遇到ssh不是22端口的时候使用rsync -zvrtopg -e ‘ssh -p 端口’特别是 ...
- TCPSocket v1.0 for cocos2d-x下载
下载地址:http://files.cnblogs.com/elephant-x/TCPSocketLibs_V1.0.rar 这是自己封装的一个TCPSOCKET包,是独立于cocos2d-x的,使 ...
- 邻接表存储图，DFS遍历图的java代码实现
import java.util.*; public class Main{ static int MAX_VERTEXNUM = 100; static int [] visited = new i ...