项目简介

  在之前的文章keras入门(三)搭建CNN模型破解网站验证码中,笔者介绍介绍了如何用Keras来搭建CNN模型来破解网站的验证码,其中验证码含有字母和数字。

  让我们一起回顾一下那篇文章的处理思路:

  • 利用OpenCV对图像进行单个字符的切割,大概400多张图片;
  • 对切割好的单个字符进行人工手动标记;
  • 搭建合适的CNN模型,对标记好的数据集进行训练;
  • 对于新的验证码,先切割单个字符,再对单个字符进行预测,组成总的预测结果。

  这一次,笔者将会换种思路,使用CNN模型来破解网站的验证码。我们的数据集如下:

一共是946张图片,这里只展示了一部分,可以看到,这些验证码全部由数字组成。那么,新的破解验证码的思路是什么呢?如下:

  • 直接对验证码进行标记,标记的结果见上图;
  • 搭建合适的CNN模型对标记好的数据集进行训练;
  • 对新验证码进行预测。

这种思路的好处是,不需要对验证码进行繁琐的预处理,只需要简单的数据标记即可。

  下面,笔者将会具体展示这个过程。

数据标记

  数据标记绝对是个累活,当我想到要对946张图片进行标记并重命名,而且还要保证标记的准确性的时候,我开始是有点拒绝的心态,毕竟这项工作费时费力,而且能不能保证识别的效果还是个未知数。

  就这么纠结了一段时间,原本年前就想做的项目一直拖到了现在,后来我想,能不能写个脚本,能够帮助我快速地进行数据标注,并自动保存呢?这么想着,我就动手自己做了一个由Tornado实现的前端页面,可以帮助我快速地标记数据并保存图片,页面如下:

界面虽然简陋,却能帮助我很好地提升数据标记的速度,只需要在value文本框中输入自己识别的结果,程序就能自动保存标记好的图片,并切换至下一张未标记的验证码。有了如此好的工具,结果我用了不到一小时就标记完了这946张验证码(其实是1000张,因为标记好的结果会有重复)。有机会笔者会介绍这个验证码标记的项目~

模型训练

  标记完验证码后,我们就利用这946张验证码作为训练数据,训练CNN模型。我们使用Keras框架,CNN模型的结构图如下:

模型训练的Python代码如下:

# CNN模型训练

# -*- coding: utf-8 -*-
import cv2
import os
import random
import numpy as np
from keras.models import *
from keras.layers import *
from keras import callbacks characters = '0123456789'
width, height, n_len, n_class = 50, 22, 4, 10 # 产生训练的一批图片,默认是32张图片
def gen(dir, batch_size=32):
X = np.zeros((batch_size, height, width, 3), dtype=np.uint8)
y = [np.zeros((batch_size, n_class), dtype=np.uint8) for _ in range(n_len)]
files = os.listdir(dir)
while True:
for i in range(batch_size):
path = random.choice(files)
imagePixel = cv2.imread(dir+'/'+path, 1)
filename = path[:4]
X[i] = imagePixel
for j, ch in enumerate(filename):
y[j][i, :] = 0
y[j][i, characters.find(ch)] = 1 yield X, y input_tensor = Input((height, width, 3))
x = input_tensor # 产生有四个block的卷积神经网络
for i in range(4):
# 卷积层
x = Conv2D(32 * 2 ** i, (3, 3), activation='relu', padding='same')(x)
x = Conv2D(32 * 2 ** i, (3, 3), activation='relu', padding='same')(x)
# 池化层
x = MaxPooling2D((2, 2))(x) x = Flatten()(x)
x = Dropout(0.25)(x) # 多输出模型,使用了4个'softmax'來分别预测4個字母的输出
x = [Dense(n_class, activation='softmax', name='c%d' % (i + 1))(x) for i in range(4)]
model = Model(inputs=input_tensor, outputs=x)
model.summary() # 保存模型结构图
from keras.utils.vis_utils import plot_model
plot_model(model, to_file="./model.png", show_shapes=True) model.compile(loss='categorical_crossentropy',
optimizer='adadelta',
metrics=['accuracy']) # 保存效果最好的模型
cbks = [callbacks.ModelCheckpoint("best_model.h5", save_best_only=True)] dir = './result'
history = model.fit_generator(gen(dir, batch_size=8), # 每次生成器会产生8张小批量的图片
steps_per_epoch=120, # 每次的epoch要训练120批图片
epochs=50, # 总共训练50次
callbacks=cbks, # 保存最好的模型
validation_data=gen(dir), # 验证数据也是用生成器來产生
validation_steps=10 # 用10组图片来进行验证
) # 绘制损失值图像
import matplotlib.pyplot as plt def plot_train_history(history, train_metrics, val_metrics):
plt.plot(history.history.get(train_metrics), '-o')
plt.plot(history.history.get(val_metrics), '-o')
plt.ylabel(train_metrics)
plt.xlabel('Epochs')
plt.legend(['train', 'validation']) # 打印整体的loss与val_loss,并保存图片
plot_train_history(history, 'loss', 'val_loss')
plt.savefig('./all_loss.png') plt.figure(figsize=(12, 4)) # 第一个数字的正确率
plt.subplot(2, 2, 1)
plot_train_history(history, 'c1_acc', 'val_c1_acc') # 第二个数字的正确率
plt.subplot(2, 2, 2)
plot_train_history(history, 'c2_acc', 'val_c2_acc') # 第三個数字的正確率
plt.subplot(2, 2, 3)
plot_train_history(history, 'c3_acc', 'val_c3_acc') # 第四個数字的正确率
plt.subplot(2, 2, 4)
plot_train_history(history, 'c4_acc', 'val_c4_acc') # 保存图片
plt.savefig('./train.png')

在这个代码中,我们总共训练了50个epoch,每个epoch共120次批次,每个批次是8张验证码,每张验证码的大小为50*22。

  运行该训练模型,后几个epoch的输出结果如下:

总的损失值图像如下:

四个数字每个数字的损失值图像如下:

训练完后,程序会将训练效果最好的epoch保存为best_model.h5文件,便于后续的模型预测。由输出的结果及图像来看,该CNN模型的训练效果应该是相当好的,下面,我们来看看对新验证码的预测效果。

模型预测

  新的验证码共有20张,如下:

模型预测的Python代码如下:

# 使用训练好的CNN模型对新图片进行预测

# -*- coding: utf-8 -*-
from keras.models import load_model
import cv2
import numpy as np # 导入训练好的模型
model = load_model('best_model.h5') batch_size = 20
width, height, n_len, n_class = 50, 22, 4, 10 # 导入验证码数据并进行预测
X = np.zeros((batch_size, height, width, 3), dtype=np.uint8) for i in range(batch_size):
X_test = cv2.imread('./new_image/code%d.png' %(i+1), 1)
X[i] = X_test y_pred = model.predict(X)
y_pred = np.argmax(y_pred, axis=2) # 输出每张验证码的预测结果
for i in range(batch_size):
print('第%d张验证码的识别结果为:' %(i+1), end='')
print(''.join(map(str, y_pred[:, i].tolist())))

运行该模型,得到的输出结果如下:

第1张验证码的识别结果为:3568
第2张验证码的识别结果为:5402
第3张验证码的识别结果为:6051
第4张验证码的识别结果为:6769
第5张验证码的识别结果为:2675
第6张验证码的识别结果为:2450
第7张验证码的识别结果为:2364
第8张验证码的识别结果为:6879
第9张验证码的识别结果为:3702
第10张验证码的识别结果为:3459
第11张验证码的识别结果为:5895
第12张验证码的识别结果为:8042
第13张验证码的识别结果为:6897
第14张验证码的识别结果为:6558
第15张验证码的识别结果为:9428
第16张验证码的识别结果为:5662
第17张验证码的识别结果为:5431
第18张验证码的识别结果为:4981
第19张验证码的识别结果为:0567
第20张验证码的识别结果为:5239

对这20张新的验证码,预测完全正确!不得不说,CNN模型的识别效果非常好!

总结

  本文采用了一种新的思路,搭建CNN模型来实现验证码的识别,取得了不错的识别效果,而且识别的验证码是从网页中下载下来的,具有实际背景,增强了该项目的应用性。

  本项目已放至Github,地址为:https://github.com/percent4/CAPTCHA-Recognizition

注意:本人现已开通微信公众号: Python爬虫与算法(微信号为:easy_web_scrape), 欢迎大家关注哦~~

Keras入门(四)之利用CNN模型轻松破解网站验证码的更多相关文章

  1. keras入门(三)搭建CNN模型破解网站验证码

    项目介绍   在文章CNN大战验证码中,我们利用TensorFlow搭建了简单的CNN模型来破解某个网站的验证码.验证码如下: 在本文中,我们将会用Keras来搭建一个稍微复杂的CNN模型来破解以上的 ...

  2. Keras入门(二)模型的保存、读取及加载

    本文将会介绍如何利用Keras来实现模型的保存.读取以及加载.   本文使用的模型为解决IRIS数据集的多分类问题而设计的深度神经网络(DNN)模型,模型的结构示意图如下: 具体的模型参数可以参考文章 ...

  3. Keras入门(六)模型训练实时可视化

      在北京做某个项目的时候,客户要求能够对数据进行训练.预测,同时能导出模型,还有在页面上显示训练的进度.前面的几个要求都不难实现,但在页面上显示训练进度当时笔者并没有实现.   本文将会分享如何在K ...

  4. keras训练cnn模型时loss为nan

    keras训练cnn模型时loss为nan 1.首先记下来如何解决这个问题的:由于我代码中 model.compile(loss='categorical_crossentropy', optimiz ...

  5. Spring Cloud实战之初级入门(四)— 利用Hystrix实现服务熔断与服务监控

    目录 1.环境介绍 2.服务监控 2.1 加入依赖 2.2 修改配置文件 2.3 修改启动文件 2.4 监控服务 2.5 小结 3. 利用hystrix实现消费服务熔断 3.1 加入服务熔断 3.2 ...

  6. Keras入门(一)搭建深度神经网络(DNN)解决多分类问题

    Keras介绍   Keras是一个开源的高层神经网络API,由纯Python编写而成,其后端可以基于Tensorflow.Theano.MXNet以及CNTK.Keras 为支持快速实验而生,能够把 ...

  7. 【翻译】借助 NeoCPU 在 CPU 上进行 CNN 模型推理优化

    本文翻译自 Yizhi Liu, Yao Wang, Ruofei Yu.. 的  "Optimizing CNN Model Inference on CPUs" 原文链接: h ...

  8. Keras如何构造简单的CNN网络

    1. 导入各种模块 基本形式为: import 模块名 from 某个文件 import 某个模块 2. 导入数据(以两类分类问题为例,即numClass = 2) 训练集数据data 可以看到,da ...

  9. 深度学习:Keras入门(一)之基础篇

    1.关于Keras 1)简介 Keras是由纯python编写的基于theano/tensorflow的深度学习框架. Keras是一个高层神经网络API,支持快速实验,能够把你的idea迅速转换为结 ...

随机推荐

  1. enumerate取下标

    for index,item in enumerate(product_list): # print(product_list.index(item),item) print(index,item) ...

  2. ModBus功能码速记

    一.0x01~0x04: 这四个功能码都是"读"操作,可分两组记忆,0x01和0x02是一组(bool类型),0x03和0x04是一组(寄存器类型):两组属性差不多如下: 1.都是 ...

  3. Treap与fhq_Treap学习笔记

    1.普通Treap 通过左右旋来维护堆的性质 左右旋是不改变中序遍历的 #include<algorithm> #include<iostream> #include<c ...

  4. Git----GitHub上传本地文件到git

    1.首先在git上创建一个库,用来保存上传的本地文件 2.通过命令 git init 把这个目录变成git可以管理的仓库 git init 3.将远程git库克隆一份保存到本地 git clone x ...

  5. selenium IDE中log的保存与查看方法

    下载selenium IDE的log保存插件为File Logging(selenium IDE),下载安装方式如下: (1)打开firefox浏览器----点击右上角----附加组件---插件--- ...

  6. 下拉框选择selected

    var id=$("#orderId").children('option:selected').val(); //selected选中项取值 var id=$('#orderId ...

  7. Sublime text3所遇到的问题

    sublime text3的下载地址:https://www.sublimetext.com/ 解决sublime text上不能使用交互的input的输入问题 通过安装sublimeREPL插件解决 ...

  8. Android进阶加密-第1章-Android系统架构-读书笔记

    第 1 章 Android 系统架构 1.1 Android 系统架构 Android 系统架构分为五层,从上到下依次是应用层.应用框架层.系统运行库层.硬件抽象层和 Linux 内核层. 应用层(S ...

  9. 从壹开始前后端分离【 .NETCore2.1 +Vue 2 +AOP+DI】框架之一 || 前言

    缘起 作为一个.Net攻城狮已经4年有余了,一直不温不火,正好近来项目不是很忙,闲得无聊,搞一搞新技术,一方面是打发无聊的时间,一方面也是督促自己该学习辣!身边的大神都转行的转行,加薪的加薪,本人比较 ...

  10. angular2-7中的变化监测

      最近做公司新项目用的angular7,中碰到了一个很头疼的问题在绑定对象中的数据改变时,页面视图没有跟新,需点击页面中的时间元素后才会更新.以前使用angularJs也经常碰到类似情况,这种时候一 ...