.net抓取网页信息 - Jumony框架使用1
往往在实际开发中，经常会用到一些如抓取网站信息之类的的操作，往往大家采用的是用一些正则的方式获取，但是有时候正则是很死板的，我们常常试想能不能使用jquery的选择器，获取符合自己要求的元素，然后进行操作，例如：我想获取一个网页中关于一款产品的链接，并从这些链接中获取相应产品的数据。如果写正则匹配网址也是 很纠结的事情。但如果能使用jquery选择器难道href的value,然后在验证 就是 一件非常愉快的事情了。
首先介绍一些今天用的框架：Jumony，这是一个html解析器。（关于html解析器，顾名思义就是对一段html 文本进行解析，解析成可以操作的元素。）当然这并不只是一套html解析器，他还有mvc引擎的功能。
项目地址：https://github.com/Ivony/Jumony
然后说下这个框架中的术语：
元素（IHtmlElement）
元素是 HTML 中最常见的一种对象，如下的 HTML 代码便定义了一个元素：
<a href="#title">Text</a>
元素一般由一个开始标签、一个结束标签以及在标签之间的 HTML 内容组成。在上例中， <a href="#title">是开始标签， </a>是结束标签，Text是元素的内容。
也有一些元素不能包含任何内容，这些元素的在 HTML 代码中便没有结束标签，如：
<img src="http://images.cnblogs.com/logo.png">
抽象：
由于元素可以包含其他的内容，所以元素满足容器（Container）的抽象。而元素也同时是 HTML 文档内容的一部分，所以元素同时也是一个节点（Node）。
属性（IHtmlAttribute）
属性是元素的一部分，定义在元素的开始标签中，如下的 HTML 定义了一个元素，并且这个元素也包含了一个属性：
<img src="http://images.cnblogs.com/logo.png">
其中的 src="/images.logo.png" 便是一个属性。属性由属性名和属性值所组成，其中src是属性名，而 "/images.logo.png" 则是属性值。 一个元素也可以由多个属性组成：
抽象：
值得注意的是，属性是元素的一部分，并不直接是 HTML 文档内容的一部分，所以属性并不是一个节点（Node）。
注释（IHtmlComment）
注释是 HTML 中的一种特殊的标签，下面的 HTML 代码定义了一个注释
<!--Comment Content-->
其中的 Comment Content 即是注释内容。注释内容会被 HTML 排版引擎所忽略。
抽象：
与元素一样，注释也是 HTML 文档内容的一部分，所以注释也是一个节点（Node）。
文本节点（IHtmlTextNode）
所有没有被尖括号<>括起来的内容，都是 HTML 文本节点。例如：
文本A<p>文本内容<p>文本B
其中的 文本A 、文本内容 、 文本B 都是 HTML 文本节点
抽象：
与元素一样，文本节点也是 HTML 文档内容的一部分，所以文本节点是一个节点（Node）。
特殊节点（IHtmlSpecial）
特殊节点并不是 HTML 标准的一部分，所有无法被识别的标签，都会被分析器解释为特殊节点。例如 DOCTYPE 声明：
<!DOCTYPE html>
或者是代码片段
<%=Eval( "name" )%>
抽象：
与元素和注释一样，特殊节点也是 HTML 文档内容的一部分，所以特殊节点是一个节点（Node）。
文档片段（IHtmlFragment）
文档片段是一种特殊的 DOM 对象，其表现为不存在于当前 HTML 文档中的一小段 HTML 片段，文档片段可以随时被插入到文档的指定位置。插入到具体位置后，原有的文档片段对象即被销毁。
文档片段可以通过解析 HTML 而得到
抽象：
文档可以包含其他内容节点，所以与元素一样，文档也是一个容器。
文档（IHtmlDocument）
HTML 文档是所有 DOM 对象的根对象，所有的 DOM 对象必然属于某个文档。
文档包含一个可选的 HTML 文档类型声明，一系列的子节点和文档片段。在某个文档上创建的文档片段，只能插入到这个文档的之中。
文档决定了整个 DOM 结构的具体实现，以及依据的 HTML 规范版本，这些将进一步影响到所有 API 的行为。所以针对A文档和B文档的同一个API的行为可能是不同的。
抽象：
文档可以包含其他内容节点，所以与元素一样，文档也是一个容器。
容器（IHtmlContainer）
容器是一个抽象对象，其被定义为可以包含子节点的对象。所以，文档、元素、文档片段均符合容器抽象。
IHtmlContainer 接口定义了一个 Nodes 方法获取容器的所有子节点。而 Jumony API 则提供了丰富多样的导航方法可以利用 CSS 选择器查找容器的所有子元素、子代元素。同时，所有的容器都支持 InnerHtml 和 InnerText 方法获取其内容
节点（IHtmlNode）
节点也是一个抽象对象，其被定义为包含在容器中在文档上有确定位置的对象，元素、文本节点、注释节点和特殊节点均符合节点抽象。但值得注意的是，属性并不是节点。
IHtmlNode 接口定义了 Container 方法获取节点所属的容器。Jumony API 提供了丰富的导航方法可以获取节点的所有父代、兄弟节点和元素以及前后节点和元素。同时，所有的节点都支持 OuterHtml 方法。
DOM 对象（IHtmlDomObject）
DOM 对象是上面所有对象的抽象。由于文档决定了 DOM 结构的具体实现和所依据的 HTML 规范，所以所有的 DOM 对象的行为均由文档对象决定。故而 IHtmlDomObject 接口定义 Document 属性用于获取 DOM 对象所属的文档。
使用方式：
首先引用 一堆dll
Ivony.Core.dll
Ivony.Html.dll
Ivony.Html.Parser.dll
Ivony.Html.Parser.Regulars.dll
然后加载网址
var doc = new JumonyParser().LoadDocument("http://www.baidu.com")；
然后查找你想要的元素
//查找所有 img 地址
var ans=doc.Find("img[src]");
//打印所有src的值
foreach (var htmlElement in ans)
{
Console.WriteLine(htmlElement.Attribute("src").AttributeValue);
}
.net抓取网页信息 - Jumony框架使用1的更多相关文章
- HttpClient+Jsoup 抓取网页信息（网易贵金属为例）
废话不多说直接讲讲今天要做的事. 利用HttpClient和Jsoup技术抓取网页信息.HttpClient是支持HTTP协议的客户端编程工具包,并且它支持HTTP协议. jsoup 是一款基于 Ja ...
- Powershell抓取网页信息
一般经常使用invoke-restmethod和invoke-webrequest这两个命令来获取网页信息,如果对象格式是json或者xml会更容易 1.invoke-restmethod 我们可以用 ...
- 一、使用 BeautifulSoup抓取网页信息信息
一.解析网页信息 from bs4 import BeautifulSoup with open('C:/Users/michael/Desktop/Plan-for-combating-master ...
- C# 使用HtmlAgilityPack抓取网页信息
前几天看到一篇博文:C# 爬虫 抓取小说 博主使用的是正则表达式获取小说的名字.目录以及内容. 下面使用HtmlAgilityPack来改写原博主的代码 在使用HtmlAgilityPack之前,可以 ...
- shell脚本抓取网页信息
利用shell脚本分析网站数据 # define url time=$(date +%F) mtime=$(date +%T) file=/abc/shell/abc/abc_$time.log ht ...
- Fiddle无法抓取网页信息或HTTPS
1:清除电脑根证书: 打开dos命令框,输入:certmgr.msc 
我的环境 OS: WIN10 (x64) IDE: VS2015 (VC14) http://www.boost.org/ 1. 下载 下载boost包, boost_1_62_0.7z 使用ASIO ...
- HDU 5375 Gray code
题意:给出一个二进制数,其中有些位的数字不确定,对于所有对应的格雷码,与一个序列a对应,第i位数字为1时得分a[i],求最大的得分. 解法:一个二进制数x对应的格雷码为x ^ (x >> ...
- ADO.NET访问SQL Server调用存储过程带回参
1,ADO.NET访问SQL Server调用存储过程带回参 2,DatabaseDesign use northwind go --存储过程1 --插入一条商品 productname=芹菜 un ...
- storm入门教程 第一章 前言[转]
1.1 实时流计算 互联网从诞生的第一时间起,对世界的最大的改变就是让信息能够实时交互,从而大大加速了各个环节的效率.正因为大家对信息实时响应.实时交互的需求,软件行业除了个人操作系统之外,数据库 ...
- C# 替换文本文件中的某一行
C# 替换文本文件中的某一行 (要求此文件存在) /// <summary> /// LineIndex 表示新的内容所在的行位置 /// </summary> /// < ...
- bzoj 4006 [JLOI2015]管道连接（斯坦纳树+状压DP）
[题目链接] http://www.lydsy.com/JudgeOnline/problem.php?id=4006 [题意] 给定n点m边的图,连接边(u,v)需要花费w,问满足使k个点中同颜色的 ...
- ACM1995
/* 汉诺塔V Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K (Java/Others)Total Sub ...
- Redis3.0 Install
Installation Download, extract and compile Redis with: $ wget http://download.redis.io/releases/redi ...
- Hbase物理模型
Hbase 一种高可靠,面向列,可伸缩,事实读写的分布式数据库. 利用HDFS作为其文件存储系统. MapReduce处理数据. Zookeeper分布式协同服务. 数据结构 Row Key:行 ...
- Windows下cmd的替代软件——PowerCmd
Powercmd 是一款运行在windows下的cmd增强软件(A Better Command Prompt Replacement Tool),当前最新的版本为2.2. 官方提供试用版,貌似没有功 ...