<!DOCTYPE>

<html>

<head>

<meta http-equiv="Content-Type" content="text/html; charset=utf-8" />

<title>模拟登录测试</title>

</head>

<body>

<?php

    //curl模拟自动登陆认证

    $url = "";

    $User_Agent="Mozilla/5.0 (Windows NT 6.1; WOW64; rv:43.0) Gecko/20100101 Firefox/43.0";

    $post_data = "muser=***&passwd=***";

    $refer="http://***/";

    $ch = curl_init();

    curl_setopt($ch, CURLOPT_URL, $url);        //设置URL

    curl_setopt($ch, CURLOPT_HEADER, true);        //设置显示响应头

    curl_setopt($ch,CURLOPT_USERAGENT,$User_Agent); //设置代理浏览器

    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);

    curl_setopt($ch, CURLOPT_TIMEOUT,5);//超时处理

    curl_setopt($ch,CURLOPT_REFERER,$refer);    //设置来源网站

    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);//设置重定向

    curl_setopt($ch, CURLOPT_POSTFIELDS, $post_data);//设置参数

    $content = curl_exec($ch);

    $headArr = explode("\r\n", $content);        //解析url

    foreach ($headArr as $loop) {

        //echo htmlspecialchars($loop)."<br />";

      if(strpos($loop, "http://***/default.aspx?id=") !== false){//找到Location

            $id = trim(substr($loop, 46));

      }

      if(strpos($loop, "Set-Cookie") !== false){//找到Cookie

            $cookie = trim(substr($loop, 12));

      }

    }

    $rurl="****?id=".$id;

    echo "edengUrl:<br>".$rurl;

    echo "<br />";

    echo "setcookie:<br>".$cookie."<br />";

    curl_close($ch);

    //结果处理

    $url = $rurl;

    $User_Agent="Mozilla/5.0 (Windows NT 6.1; WOW64; rv:43.0) Gecko/20100101 Firefox/43.0";

    $refer="http://****/";

    $ch = curl_init();

    curl_setopt($ch, CURLOPT_URL, $url);        //设置URL

    curl_setopt($ch, CURLOPT_COOKIE, $cookie);        //设置cookies

    curl_setopt($ch,CURLOPT_USERAGENT,$User_Agent); //设置代理浏览器

    curl_setopt($ch, CURLOPT_TIMEOUT,5);//超时处理

    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);

    curl_setopt($ch,CURLOPT_REFERER,$refer);    //设置来源网站

    $content = curl_exec($ch);

    //解析html

    echo "<br />";

    echo "<br />解析：";

    echo "<br />";

    $content=strip_tags($content);//去除html标签

    echo $content;

    echo "<br />";

    echo "<br />";

    $sk=strpos(trim($content), "当前用户")+28;

    $name = trim(substr($content,$sk,9));

    $arr=explode("    ",$name);

    echo $sk."<br />".$arr[0]."<br />";

    curl_close($ch); 

?>

</body>

</html>

curl模拟自动登陆&采集网页数据的更多相关文章

  1. API例子：用Python驱动Firefox采集网页数据

    1,引言 本文讲解怎样用Python驱动Firefox浏览器写一个简易的网页数据采集器.开源Python即时网络爬虫项目将与Scrapy(基于twisted的异步网络框架)集成,所以本例将使用Scra ...

  2. Java模拟新浪微博登陆抓取数据

    前言:  兄弟们来了来了,最近有人在问如何模拟新浪微博登陆抓取数据,我听后默默地抽了一口老烟,暗暗的对自己说,老汉是时候该你出场了,所以今天有时间就整理整理,浅谈一二. 首先:  要想登陆新浪微博需要 ...

  3. 用js采集网页数据并插入数据库最快的方法

    今天教大家一个快速采集网站数据的方法,因为太晚了,直接上例子,这里以采集易车网的产品数据为例. 思路:利用js获取网页数据并生成sql命令,执行sql命令把采集的数据插入数据库. 1.用谷歌浏览器或者 ...

  4. [PHP自动化－进阶]001.CURL模拟登录并采集数据

    引言:PHP可以通过libcurl实现模拟登录,提交数据,违法乱纪,烧杀抢虐等等事项. 简单说明一下"libcurl",补一下脑: libcurl目前支持http.https.ft ...

  5. PHP Curl模拟登录并抓取数据

    使用PHP的Curl扩展库可以模拟实现登录,并抓取一些需要用户账号登录以后才能查看的数据.具体实现的流程如下(个人总结): 1. 首先需要对相应的登录页面的html源代码进行分析,获得一些必要的信息: ...

  6. 通过curl模拟多线程抓取网页(curl_multi_*)

    curl请求多个url,以前都是使用循环来处理.最近发现可以通过curl_multi_*系列函数来模拟多线程.比对一下,发现如果请求的url只有几个,2种方案耗时差不多,但是url比较多,差距就非常明 ...

  7. cURL模拟POST方法提交XML数据并解析

    php编程中会用到xml格式传送数据,这里演示下php以post形式发送xml,服务器接收,并解析xml的过程! post_xml.php源码: <?php header("Conte ...

  8. csharp:正则表达式采集网页数据

    https://msdn.microsoft.com/zh-cn/library/system.text.regularexpressions.regex(v=vs.110).aspx https:/ ...

  9. 采集网页数据---Using Java

    http://www.cnblogs.com/longwu/archive/2011/12/24/2300110.html 1).学习网页数据采集,首先必不可少的是学习java的正则表达式(Regex ...

随机推荐

  1. Java反射机制<1>

    如果要通过一个对象找到一个类的名称,此时就需要用到反射机制(反射技术是用来做框架的,一般情况下Java私有对象不能被访问,但是暴力反射可以访问私有对象). 任何一个类如果没有明确地声明继承自哪个父类的 ...

  2. ast模块

    有这么一个需求,你想从文件中读取字典,方法有很多,这里用的是ast模块 import ast with open("account","r",encoding= ...

  3. ERROR 1130 (HY000) Host ‘hostname’ is not allowed to connect to this MySQL server

    GRANT ALL PRIVILEGES ON *.* TO 'root'@'%'; FLUSH PRIVILEGES;

  4. SCWS分词扩展在UNIX/LINUX下的安装方法

    <?php/** * 中文分词处理方法 *+--------------------------------- * @param stirng  $string 要处理的字符串 * @param ...

  5. dubbo框架----初探索-配置

    使用框架版本 dubbo-2.5.3 spring-4.2.1.RELEASE jdk-1.8 tomcat-8.0 zookeeper-3.3.6 Dubbo与Zookeeper.SpringMVC ...

  6. WebApi常见4xx错误总结！！！

    iis 7上发布mvc报错:403.14-Forbidden Web 服务器被配置为不列出此目录的内容 折腾了半天,提示里面的解决方法是: 如果不希望启用目录浏览,请确保配置了默认文档并且该文件存在. ...

  7. CSS3的REM设置字体大小

    在Web中使用什么单位来定义页面的字体大小,至今天为止都还在激烈的争论着,有人说PX做为单位好,有人说EM优点多,还有人在说百分比方便,以至于出现了CSS Font-Size: em vs. px v ...

  8. ScriptManager与UpdatePanel总结

    1.From http://www.cnblogs.com/Tim-Seven/archive/2011/02/11/1952409.html Ajax Extensions 2.ScriptMana ...

  9. Todd's Matlab讲义第6讲：割线法

    割线法 割线法求解方程\(f(x)=0\)的根需要两个接近真实根\(x^\*\)的初值\(x_0\)和\(x_1\),于是得到函数\(f(x)\)上两个点\((x_0,y_0=f(x_0))\)和\( ...

  10. go学习与记录

    搭建go开发环境:http://studygolang.com/articles/5406 日志相关:https://github.com/hpcloud/tail go定时器:http://stud ...