Jsoup.parse解析HTML字符串，如Jsoup.parse("<html><head><title>Firstparse</title></head>")

Jsoup.connect解析url网站地址，如Jsoup.connect(http://www.baidu.com).get()

可以用httpclient获取网页，再用Jsoup.parse解析页面

String text = getMethod.getResponseBodyAsString();
Document doc = Jsoup.parse(text);

法一：httpclient+Jsoup

 String dataUrl = "http://hi.mop.com/?";

 HttpClient httpClient = new HttpClient();

 String cookies = "_ml=371386500452711504675;";

 GetMethod getMethod = new GetMethod(dataUrl);

 // 每次访问需授权的网址时需带上前面的 cookie 作为通行证

 getMethod.setRequestHeader("cookie", cookies);

 getMethod.setRequestHeader("Referer", "http://passport.mop.com/");

 getMethod.setRequestHeader("User-Agent", "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)");

 int statusCodes = httpClient.executeMethod(getMethod);

 System.out.println(statusCodes);

 System.out.println("模拟登录成功");

 String text = getMethod.getResponseBodyAsString();

法二：Jsoup Connction + Jsoup解析

Connection conn = Jsoup.connect(String url);

conn.data("txtBill", key);// 设置关键字查询字段

Document doc = null;

doc = conn.timeout(100000).post();//设置请求类型为post型或者get型，超时100000毫秒

results = doc.select(TagName);// 处理返回数据

for (Element result : results){}
package Step1;

import java.io.BufferedReader;

import java.io.InputStream;

import java.io.InputStreamReader;

import javax.lang.model.element.Element;

import org.apache.commons.httpclient.Cookie;

import org.apache.commons.httpclient.HttpClient;

import org.apache.commons.httpclient.NameValuePair;

import org.apache.commons.httpclient.cookie.CookiePolicy;

import org.apache.commons.httpclient.methods.GetMethod;

import org.apache.commons.httpclient.methods.PostMethod;

import org.jsoup.Jsoup;

import org.jsoup.nodes.Document;

import org.jsoup.select.Elements;

/**

 *

    * @ClassName: HttpLogin

    * @Description:  java通过httpclient结合Jsoup

    * @author zeze

    * @date 2015年11月10日 下午5:07:33

    *

 */

public class HttpLogin {

    public static void main(String[] args) {

        //Url

        String dataUrl = "http://hi.mop.com/?";

        HttpClient httpClient = new HttpClient();

        try {

            // 获得登陆后的 Cookie

            String cookies = "_ml=371386500452711504675;";

            GetMethod getMethod = new GetMethod(dataUrl);

            // 每次访问需授权的网址时需带上前面的 cookie 作为通行证

            getMethod.setRequestHeader("cookie", cookies);

            getMethod.setRequestHeader("Referer", "http://passport.mop.com/");

            getMethod.setRequestHeader("User-Agent", "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)");

            int statusCodes = httpClient.executeMethod(getMethod);

            System.out.println("状态码："+statusCodes);

            //如果返回的头信息没有指定长度或长度大于1M则抛出异常需把 getResponseBodyAsString（）换成 getResponseBodyAsStream（）

            //String text = getMethod.getResponseBodyAsString();

            InputStream inputStream = getMethod.getResponseBodyAsStream();

            BufferedReader br = new BufferedReader(new InputStreamReader(inputStream));

            StringBuffer stringBuffer = new StringBuffer();

            String str= "";

            while((str = br.readLine()) != null){

                stringBuffer.append(str );

            }

            //Element result=text;

             Document doc = Jsoup.parse(stringBuffer.toString());

             Elements name=doc.select("[class=tc c068 fs14 yahei mt5 username]");

             System.out.println(name.text());

        }

        catch (Exception e) {

            e.printStackTrace();

        }

    }

}

httpclient+Jsoup总结的更多相关文章

  1. HttpClient + Jsoup模拟登录教务处并获取课表

    1.概述 最近想做一个校园助手类的APP,由于第一次做,所以打算先把每个功能单独实现,防止乱了阵脚.利用教务处登录获取课表和成绩等是一个基本功能,所以以获取课表为例实现了这个功能.完整代码点这里,尝试 ...

  2. HttpClient+Jsoup 抓取网页信息（网易贵金属为例）

    废话不多说直接讲讲今天要做的事. 利用HttpClient和Jsoup技术抓取网页信息.HttpClient是支持HTTP协议的客户端编程工具包,并且它支持HTTP协议. jsoup 是一款基于 Ja ...

  3. httpclient+jsoup实现小说线上采集阅读

    前言 用过老版本UC看小说的同学都知道,当年版权问题比较松懈,我们可以再UC搜索不同来源的小说,并且阅读,那么它是怎么做的呢?下面让我们自己实现一个小说线上采集阅读.(说明:仅用于技术学习.研究) 看 ...

  4. HttpClient+Jsoup模拟登陆贺州学院教务系统，获取学生个人信息

    前言 注:可能学校的教务系统已经做了升级,当前的程序不知道还能不能成功获取信息,加上已经毕业,我的账户已经被注销,试不了,在这里做下思路跟过程的记录. 在我的毕业设计中”基于SSM框架贺州学院校园二手 ...

  5. HttpClient&Jsoup爬虫的简单应用

    详细的介绍已经有很多前辈总结,引用一下该篇文章:https://blog.csdn.net/zhuwukai/article/details/78644484 下面是一个代码的示例: package ...

  6. HttpClient+jsoup登录+解析 163邮箱

    找了几个,只有这个靠谱,用的是httpclient4,另外还需要commons-lang和jsoup包 http://jsoup.org/ http://www.oschina.net/code/sn ...

  7. httpclient+jsoup实现网页信息抓取

    需求分析:抓取:http://tools.2345.com/rili.htm中的万年历(阳历.阴历等等). 1.首先为抓取的内容创建一个类.实现封装. package com.wan.domain; ...

  8. 【小型系统】简单的刷票系统（突破IP限制进行投票）

    一.前言 相信大家平时肯定会收到朋友发来的链接,打开一看,哦,需要投票.投完票后弹出一个页面(恭喜您,您已经投票成功),再次点击的时候发现,啊哈,您的IP(***.***.***.***)已经投过票了 ...

  9. (转）投票系统，更改ip刷票

    前言 相信大家平时肯定会收到朋友发来的链接,打开一看,哦,需要投票.投完票后弹出一个页面(恭喜您,您已经投票成功),再次点击的时候发现,啊哈,您的IP(***.***.***.***)已经投过票了,不 ...

随机推荐

  1. (转)JS Date格式化为yyyy-MM-dd类字符串

    Date.prototype.format = function(format){ var o = { "M+" : this.getMonth()+1, //month &quo ...

  2. rpm 命令

    这些事rpm的常用参数!!! 你可以在linux下man 一下rpm就知道了!!! 不过是英文的,不然你可以百度一下rpm就知道了额!!! 下面我帮你贴几个!!!!rpm 常用命令1.安装一个包 # ...

  3. WinForm中新开一个线程操作 窗体上的控件（跨线程操作控件）

    最近在做一个winform的小软件(抢票的...).登录窗体要从远程web页面获取一些数据,为了不阻塞登录窗体的显示,开了一个线程去加载数据远程的数据,会报一个错误"线程间操作无效: 从不是 ...

  4. ubuntu系统下使用锐捷上网的方法——特快

    1．点击右上方的有线连接: 2．点击编辑连接: 3．选择802.x的安全性分页: 4．勾选下面的单选框: 5．输入登陆账号(通常就是学号),密码(通常是身份证后六位),如果出现了一个“解锁密码环”的对 ...

  5. recording just for inquiry in the future

    auditd审计 相关命令有: auditd, auditctl, ausearch, aureport 相关文件: /etc/audit/auditd.conf, /etc/audit/audit. ...

  6. jQuery源码-dom操作之jQuery.fn.html

    写在前面 前面陆陆续续写了jQuery源码的一些分析,尽可能地想要cover里面的源码细节,结果导致进度有些缓慢.jQuery的源码本来就比较晦涩,里面还有很多为了解决兼容问题很引入的神代码,如果不g ...

  7. .NET中的工作目录一览！

    定义:       当前工作目录——进行某项操作的目的目录,会随着OpenFileDialog.SaveFileDialog等对象所确定的目录而改变. 当前执行目录——该进程从中启动的目录,即文件自身 ...

  8. NUGet的诞生与使用

    本文引用地址:http://msdn.microsoft.com/zh-cn/magazine/hh547106.aspx NuGet 使用 NuGet 管理项目库 Phil Haack 无论多么努力 ...

  9. 自动去除nil的NSDictionary和NSArray构造方法

    http://www.jianshu.com/p/a1e8d8d579c7 极分享 http://www.finalshares.com/

  10. 关于Tchar

    因为C++支持两种字符串,即常规的ANSI编码(使用""包裹)和Unicode编码(使用L""包裹),这样对应的就有了两套字符串处理函数,比如:strlen和w ...