前言

之前搞过几次模拟登录,都是模拟 post 后取到 cookie,之后便能用这个 cookie 愉快玩耍。这次碰到了验证码,其实只需手动登录一次,手动取到 cookie 后也能玩耍,不过 cookie 有效期不长,经常要换,十分麻烦。然后看到了这个库 tesseract.js,由于我们的验证码机器识别难度并不是很高,试了下出现 good case 概率还是非常高的,决定试下自动识别验证码登录。

验证码是用 PHP 生成的,指向一个 PHP 地址。原理不是很难,PHP 生成验证码图片,开启 Session(所以每次点击验证码切换图片,都会是一个新的 Session),然后把验证码数字记在 Session 数组中,当用户提交表单后,check 输入的验证码数字是否存在于 Session 数组中。

用的语言是 Node。之前想的非常简单,首先将验证码 down 下来,然后调用 tesseract.js 识别,最后模拟 post 后取到后续操作需要的 key cookie。

POST 中文参数问题

出现该问题需要满足两个条件:

  • 页面编码 GBK
  • POST 携带中文参数

模拟 post 有个参数 username 用的是中文,如果页面是 utf-8 编码应该没这个问题,就直接发送中文参数了,但是看实际请求中文参数被编码了,查了下 urlencode 这个包可以做类似的编码。将这个被编码后的参数填入发起模拟请求,报用户名错误,然后查到了 这个帖子,场景类似,同样是 gbk 编码页面的 post 携带了中文参数,我猜测原因也可能相同,被二次编码了。

但把转换过的字符串传到 request 的 form 中去后,request 又会对其中的 % 编码为 %25

用帖子里的方法可以解决:

var request = require('request');
var iconv = require('iconv-lite');

var post_request = request
    .post({
      url: 'https://xx.com',
      headers: {
        'Content-Type': 'application/x-www-form-urlencoded',
        'Cookie': 'PHPSESSID=xx'
      },
      encoding: null  // 关键代码
    }, function (err, sres, body) {
      // 解决返回页面乱码(gbk)
      var html = iconv.decode(body, 'gb2312');
      console.log(html);
    });

// form data
post_request.write("a=xx&b=xx&c=xx");

请求 gbk 页面会中文乱码,这里用了 iconv-lite 这个包,其他解决方法可以参考 node爬虫之gbk网页中文乱码解决方案

因为一直用的是 superAgent 这个模块,所以希望能在 superAgent 基础上解决这个问题,然后在 cnode 提了个 问题 ,最后也是解决了。

为了避免返回信息中文乱码,用了 superagent-charset 这个包:

var superagent = require('superagent-charset');

var req = superagent
  .post('https://xx.com')
  .set("Content-Type", "application/x-www-form-urlencoded")
  .set("Cookie", "PHPSESSID=xxx")
  .charset('gbk');

// form data
req.write("username=xx&password=xx&checkcode=xx");

req.end(function(err, sres) {
  console.log(sres.text);
});

验证码识别

以上问题解决后,PHPSESSID 这个 cookie 非常容易获取,模拟请求一次取 cookie 即可。手动在代码中输入浏览器中显示的验证码,模拟登录可以成功,然后取登录后的 cookie,确实也可以愉快玩耍,不过问题来了,验证码图片无法识别了!

昨天晚上试了下直接在登录页面右键复制下来验证码,然后用 tesseract.js 是可以解析的,但是用 Node down 下来的却不能解析,alsotang 大大说可能是 "buffer 在 ondata 的相加问题"。刚才试了下昨天手动保存验证码图片,成功解析的 case 也报错了,感觉是 tesseract.js 这个库还不是很成熟,过段时间再看看。

下载图片用的是这个函数:

// to download picture
function download(url, savePath) {
  var req = http.get(url, function(res){
    var binImage = '';
    res.setEncoding('binary');

    res.on('data', function(chunk){
      binImage += chunk;
    });

    res.on('end', function(){
      if (!binImage) {
        console.log('image data is null');
        return null;
      }

      fs.writeFile(savePath, binImage, 'binary', function(err){
        if (err) throw err;
        console.log('It\'s saved!'); // 文件被保存
      });
    });
  });
}

对 Node 不熟,这个问题留坑以后待解决了。

问题解决过程中,除了上面的帖子,还在 v 站发了个帖子,如何模拟登录有验证码的网站?,FYI

「post中文参数问题」以及「验证码自动识别备忘」的更多相关文章

  1. 如何评价苹果中国官网 iOS 8 介绍页面的文案「开发者的大事、大快所有人心的大好事」?[转自知乎]

    在什么是「苹果式中文」答案中,小七得出了这个结论: 「苹果式中文」是指句子结构破碎,经常缺乏主语,滥用排比,顶真,偏正短语,和不恰当四字词的广告文体. (有关什么是苹果式中文,小七原来贴错地方了TAT ...

  2. Java的参数传递是「按值传递」还是「按引用传递」?

    JAVA传递的只有值,.传递的都是栈里的的值,只是有些栈里面的是值.有的是内存地址.(原文传递的都是栈里的的值有误,局部变量在栈中,成员变量在堆中,类变量(静态变量和常量)在方法区中,可以看做本文的变 ...

  3. 【微信小程序】开发实战 之 「配置项」与「逻辑层」

    微信小程序作为微信生态重要的一环,在实际生活.工作.商业中的应用越来越广泛.想学习微信小程序开发的朋友也越来越多,本文将在小程序框架的基础上就微信小程序项目开发所必需的基础知识及语法特点进行了详细总结 ...

  4. [转帖]详解shell脚本括号区别--$()、$「 」、$「 」 、$(()) 、「 」 、「[ 」]

    详解shell脚本括号区别--$().$「 」.$「 」 .$(()) .「 」 .「[ 」] 原创 波波说运维 2019-07-31 00:01:00 https://www.toutiao.com ...

  5. Git 执行 「fork 出来的仓库」和「最新版本的原仓库」内容同步更新

    当我们在 GitHub 上 fork 出一个仓库后,如果原仓库更新了,此时怎样才能保证我们 fork 出来的仓库和原仓库内容一致呢?我们一般关注的是仓库的 master(主干分支)的内容,通过以下步骤 ...

  6. FileUpload控件「批次上传 / 多档案同时上传」的范例--以「流水号」产生「变量名称」

    原文出處  http://www.dotblogs.com.tw/mis2000lab/archive/2013/08/19/multiple_fileupload_asp_net_20130819. ...

  7. Java的参数传递是「值传递」还是「引用传递」?

    关于Java传参时是引用传递还是值传递,一直是一个讨论比较多的话题. 有人说Java中只有值传递,也有人说值传递和引用传递都是存在的,比较容易让人产生疑问. 关于值传递和引用传递其实需要分情况看待. ...

  8. Linux 小知识翻译 - 「Unix」和「兼容Unix的OS」

    经常有人会问「Linux和Unix有什么区别?」,「Linux就是Unix吗?」. 回答一般都是「Linux是仿照Unix而开发的OS」,「Linux和Unix相似但不是一种OS」之类的. 关于「Li ...

  9. Linux 小知识翻译 - 「Linux」和「发行版」之间的关系

    「Linux」本来指的仅仅是内核.5年之前大多都是这么认为的,但是最近不这么说了. 最近一般都说「Linux」是个 OS,这里的OS,不仅仅是内核,而是指电脑的整体环境(除了内核,还包括一些外围的软件 ...

随机推荐

  1. ASP.NET Core 中文文档 第四章 MVC(3.4)如何使用表单

    原文:Working with Forms 作者:Rick Anderson.Dave Paquette.Jerrie Pelser 翻译:姚阿勇(Dr.Yao) 校对:孟帅洋(书缘) 这篇文章演示了 ...

  2. CatchPacket网络抓包软件

    CatchPacket网络抓包软件  qq  22945088431.技术特点:基于WinPcap库,c# winform2.实现获取机器所有网卡,可任意选择监听3.可以捕获常见网络协议arp dns ...

  3. 判断IEnumerable<T>集合中是否包含有T对象

    比如,有角色集合中,只有用户创建有角色,才出现“分配”铵钮.反之,隐藏. IEnumerable有一个方法,叫Any:

  4. php实现设计模式之 模板方法模式

    <?php /** * 模板模式 * * 定义一个操作中的算法骨架,而将一些步骤延迟到子类中,使得子类可以不改变一个算法的结构可以定义该算法的某些特定步骤 * */ abstract class ...

  5. FastDFS 安装及使用

    FastDFS 安装及使用 2012-11-17 13:10:31|  分类: Linux|举报|字号 订阅     Google了一下,流行的开源分布式文件系统有很多,介绍如下:   mogileF ...

  6. Web项目从Oracle转为Mysql,fluentnhibernate-1.0和NHibernate2.1.0升级到NHibernate3.3的注意事项

    1.Oracel数据库没有字段自增长属性,要实现自增长通常是通过查询序列或者触发器来实现的. 设置自增长主键 alter table SUB_SUBSCRIPTION add primary key( ...

  7. 服务器搭建多个tomcat服务器

    以三个tomcat为例: 先配置环境变量: 编辑 /etc/profile 文件 添加三个tomcat环境变量:value为tomcat目录 //第一个tomcatCATALINA_BASE=/usr ...

  8. ArcGIS Engine开发之图形查询

    图形查询是以用户通过鼠标操作生成的图形几何体为输入条件进行查询的查询,其查询结果为该几何体空间范围内的所有要素.常用的查询方式包括点选.线选.多边形选择.圆形选择和矩形选择等. 相关类与接口 图像查询 ...

  9. 【web前端面试题整理08】说说最近几次面试(水)

    为什么换工作 换工作简单来讲一般会归纳为钱不够或者人不对,我们团队氛围很不错,所以基本就定位到钱不够了,而我更多是考虑到以后的职业发展,简单说来就是对以后几年的工作有想法,而这种想法实现不一定能在现在 ...

  10. Arcmap中加载互联网地图资源

    本文转载自:http://blog.3snews.net/space.php?uid=6955280&do=blog&id=67981 前一段时间想在Arcmap中打开互联网地图中的地 ...