Winista.Text.HtmlParser; 获取html
using System;
using System.Collections.Generic;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.Linq;
using System.Text;
using System.Windows.Forms;
using System.Net;
using System.IO;
using System.Text.RegularExpressions;
using Winista.Text.HtmlParser;
using Winista.Text.HtmlParser.Lex;
using Winista.Text.HtmlParser.Util;
using Winista.Text.HtmlParser.Tags;
using Winista.Text.HtmlParser.Filters;
namespace Leo.GetOrganzation
{
public partial class FormLeo : Form
{
IList<string> siteList = new List<string>();
public FormLeo()
{
InitializeComponent();
this.InitSet();
}
private void InitSet()
{
this.comboBoxArea.SelectedIndex = 0;
}
private void comboBoxArea_SelectedIndexChanged(object sender, EventArgs e)
{
string strUrl = string.Empty;
switch (this.comboBoxArea.SelectedIndex)
{
case 0:
strUrl = string.Empty;
break;
case 1:
strUrl = "http://www.alexa.com/topsites/global;{0}";
break;
case 2:
strUrl = "http://www.alexa.com/topsites/countries;{0}/CN";
break;
case 3:
strUrl = "http://www.alexa.com/topsites/countries;{0}/HK";
break;
case 4:
strUrl = "http://www.alexa.com/topsites/countries;{0}/MO";
break;
case 5:
strUrl = "http://www.alexa.com/topsites/countries;{0}/TW";
break;
}
this.txtUrlText.Text = strUrl;
this.textBox1.Text = "";
this.textBox2.Text = "";
this.textBox3.Text = "";
}
private void btnGetRes_Click(object sender, EventArgs e)
{
siteList = new List<string>();
if (this.comboBoxArea.SelectedIndex == 0)
{
MessageBox.Show("请选择区域");
return;
}
for (int i = 0; i < int.Parse(this.textBox3.Text.Trim()); i++)
{
string urlLink = string.Format(this.txtUrlText.Text.Trim(),i);
string temp = this.GetRes(urlLink);
this.GetSiteName(temp);
System.Threading.Thread.Sleep(1000);
Application.DoEvents();
}
////string temp = this.GetRes("http://www.alexa.com/topsites/countries;19/TW");
////this.GetSiteName(temp);
MessageBox.Show("获取完毕,待导出");
}
private void GetSiteName(string strhtml)
{
Parser parser = Parser.CreateParser(strhtml, null);
NodeList nodes = parser.ExtractAllNodesThatMatch(new TagNameFilter("h2"));
for (int i = 0; i < nodes.Count; i++)
{
siteList.Add(nodes[i].Children[1].ToPlainTextString());
}
}
private string GetRes(string Url)
{
string strResult = string.Empty;
try
{
HttpWebRequest request =(HttpWebRequest)WebRequest.Create(Url);
request.Timeout = 30000;
request.Headers.Set("Pragma", "no-cache");
HttpWebResponse response =(HttpWebResponse)request.GetResponse();
Stream streamReceive = response.GetResponseStream();
Encoding encoding = Encoding.GetEncoding("utf-8");
StreamReader streamReader =new StreamReader(streamReceive, encoding);
strResult = streamReader.ReadToEnd();
}
catch(Exception) {}
return strResult;
}
private void WriteTxt()
{
string sucessFile = Application.StartupPath;
string selectText = this.comboBoxArea.SelectedItem.ToString();
if (File.Exists(string.Format("{0}\\{1}.txt", sucessFile, selectText)))
{
File.Delete(string.Format("{0}\\{1}.txt", sucessFile, selectText));
}
StreamWriter sw = new StreamWriter(string.Format("{0}\\{1}.txt", sucessFile, selectText),true);
try
{
foreach (string item in siteList)
{
sw.WriteLine(item+" "+selectText);
}
sw.Dispose();
sw.Close();
MessageBox.Show("导出OK");
}
catch (Exception)
{
}
}
private void button1_Click(object sender, EventArgs e)
{
if (this.comboBoxArea.SelectedIndex == 0)
{
MessageBox.Show("请选择区域");
return;
}
if (siteList.Count == 0)
{
MessageBox.Show("没有数据");
return;
}
WriteTxt();
}
private void textBox3_TextChanged(object sender, EventArgs e)
{
int countPage = int.Parse(this.textBox3.Text.Trim());
this.textBox1.Text = string.Format(this.txtUrlText.Text.Trim(), 0);
this.textBox2.Text = string.Format(this.txtUrlText.Text.Trim(), countPage - 1);
}
}
}
Winista.Text.HtmlParser; 获取html的更多相关文章
- HTMLParser获取属性名
HTMLParser获取属性名方式: 原始网页文本: <a title="美军被曝虐尸" href="http://www.sogou.com/web?query= ...
- jquery中html()或text()方法获取或设置p标签的值
html()方法可以用来读取或者设置某个元素中的HTML内容,text()方法可以用来读取或者没置某个元素中的文本内容 html()方法 此方法类似于JavaScript中的innerHTML属性,可 ...
- select获取选中的option(包含value和text,重点是text怎么获取)
简单描述:后台需要获取到select标签选择的内容,也就是text,该怎么取呢?很简单. 代码: //hml代码<div class="col-md-6"> <l ...
- js 通过html()及text()方法获取并设置p标签的显示值
html()方法 此方法类似于JavaScript中的innerHTML属性,可以用来读取或者设置某个元素中的HTML内容.要获取某个元素的内容,可以这样: 复制代码 代码如下: var p_html ...
- 大数据处理之道 (htmlparser获取数据<一>)
一:简单介绍 (1)HTML Parser是一个用于解析Html的Java的库.可採用线性或嵌套两种方式.主要用于网页的转换或提取,他有一些特性:过滤器filter,遍历器visitors,通常的标签 ...
- Text 尺寸获取
获取text在当前文本内容下应该尺寸: 宽度:text.preferredWidth 高度:text.preferredHeight
- XPath匹配标签使用text()判断获取结果失败/为空的问题及解决方法
XPath当匹配标签判断text()判断内容失败的问题及解决 问题复现 在爬取网站的时候我使用XPath去抓取网页上的内容,XPath表达式来精准获取需要的标签内容. 当我对如下一段html代码编写X ...
- sublime text 插件 -- 获取文件名到剪贴板
日常开发使用 sublime text 有好长一段时间了,有时候想拷贝当前正在编辑的文件名时发现没有很快捷的方法,一般都是先点击右键菜单栏中的 Reveal in Side Bar 对文件进行定位(在 ...
- HTMLPARSER.NET 参考资料
例子1: using System;using System.IO;using Winista.Text.HtmlParser;using Winista.Text.HtmlParser.Lex;us ...
随机推荐
- 编译工程时报illegal character:\65279--转
windows对UTF-8文件进行了特殊处理,对UTF-8的文本文件自动在前面加了三个byte(EF BB BF),javac编译时,读到最前面这三个byte时报错 illegal character ...
- Innodb锁机制:Next-Key Lock 浅谈(转)
http://www.cnblogs.com/zhoujinyi/p/3435982.html 数据库使用锁是为了支持更好的并发,提供数据的完整性和一致性.InnoDB是一个支持行锁的存储引擎,锁的类 ...
- phpcms日期时间
PHPCMS V9调用时间标签 |日期时间格式化 转载 2016-06-17 14:58:54 标签:php PHPCMS V9 如何调用时间标签,下面分享常见的调用时间标签 |日期时间格式化 1.日 ...
- JSON.stringify(),JSON.parse(),toJSON()方法使用
JSON.stringify(),将value(Object,Array,String,Number...)序列化为JSON字符串 JSON.parse(), 将JSON数据解析为js原生值 ...
- 程序员书单_UML篇
UML基础与Rose建模教程 http://download.csdn.net/detail/shenzhq1980/9076199 UML和模式应用1 Applying UML and Patter ...
- jsoncpp用法通俗易懂之将数据合成json格式
void *upload(void *pParam) { CUpSender *s = (CUpSender*)pParam; map<string, string> mx; char t ...
- Filter 过滤器
1. config in web.xml 2. @Component 3. @WebFilter (filterName="LoginFilter", url-patterns= ...
- spark MapOutputTrackerMaster
最近用了一个RowNumber() over()函数 进行三张4000万数据的关联筛选,建表语句如下: create table CiCustomerPortrait2 as SELECT ROW_N ...
- Scala第三章学习笔记
换行后的左大括号造成的问题: class FooHolder { def foo() { println("foo was called") } } Scala认为def foo( ...
- SparkSQL相关语句总结
1.in 不支持子查询 eg. select * from src where key in(select key from test); 支持查询个数 eg. select * from src w ...