Python识别验证码

发表于 | 分类于

前言

在网页爬虫的时候往往我们需要破解验证码，这篇博文是为了论证如何依赖Python来识别验证码。

准备工作

首先我们需要安装PIL这个库。

1
2
3
sudo apt-get install libtiff5-dev libjpeg8-dev zlib1g-dev \
libfreetype6-dev liblcms2-dev libwebp-dev tcl8.6-dev tk8.6-dev python-tk
sudo pip install pillow

Pillow相对于老版本的PIL好处已经在网上有很多，这里也不再介绍了。。。

提取图片文件

首先我们可以下载一个验证码包，你可以使用下面的命令下载：

1
2
3
$ wget http://labfile.oss.aliyuncs.com/courses/364/python_captcha.zip
$ unzip python_captcha.zip
$ cd python_captcha

这样就可以下载到验证码了。

比如这一张：captcha

1
2
3
4
5
6
7
8
9
10
#coding:UTF-8
__author__ = 'exbot'
from PIL import Image
im = Image.open("python_captcha/captcha.gif")
#(将图片转换为8位像素模式)
im = im.convert("P")
#打印颜色直方图
print im.histogram()

这样最后就能输出颜色的直方图：

1
[0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 2, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 2, 1, 0, 0, 0, 2, 0, 0, 0, 0, 1, 0, 1, 1, 0, 0, 1, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 2, 0, 0, 0, 1, 2, 0, 1, 0, 0, 1, 0, 2, 0, 0, 1, 0, 0, 2, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 1, 0, 3, 1, 3, 3, 0, 0, 0, 0, 0, 0, 1, 0, 3, 2, 132, 1, 1, 0, 0, 0, 1, 2, 0, 0, 0, 0, 0, 0, 0, 15, 0, 1, 0, 1, 0, 0, 8, 1, 0, 0, 0, 0, 1, 6, 0, 2, 0, 0, 0, 0, 18, 1, 1, 1, 1, 1, 2, 365, 115, 0, 1, 0, 0, 0, 135, 186, 0, 0, 1, 0, 0, 0, 116, 3, 0, 0, 0, 0, 0, 21, 1, 1, 0, 0, 0, 2, 10, 2, 0, 0, 0, 0, 2, 10, 0, 0, 0, 0, 1, 0, 625]

颜色直方图的每一位数字都代表了在图片中含有对应位的颜色的像素的数量。

每个像素点可表现256种颜色，你会发现白点是最多（白色序号255的位置，也就是最后一位，可以看到，有625个白色像素）。红像素在序号200左右，我们可以通过排序，得到有用的颜色。

接下来，我们继续操作这个直方图：

1
2
3
4
5
6
7
8
his = im.histogram()
values = {}
for i in range(256):
    values[i] = his[i]
for j,k in sorted(values.items(),key=lambda x:x[1],reverse = True)[:10]:
    print j,k

这样就会按照顺序输出直方图中的原来值和对应的键值的序列了。

1
2
3
4
5
6
7
8
9
10
255 625
212 365
220 186
219 135
169 132
227 116
213 115
234 21
205 18
184 15

这样我们就得到了很多种颜色，而很明显的，在验证码里面我们只需要红色和灰色，其他的我们可以视为杂色排除。而通过这样我们就能过构造出一个灰色图出来。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
#-*- coding:utf8 -*-
from PIL import Image
im = Image.open("captcha.gif")
im = im.convert("P")
im2 = Image.new("P",im.size,255)
for x in range(im.size[1]):
    for y in range(im.size[0]):
        pix = im.getpixel((y,x))
        if pix == 220 or pix == 227: # these are the numbers to get
            im2.putpixel((y,x),0)
im2.show()

这样我们就得到了只有红色和灰色的图像，这就比较容易辨识了。

提取单个字符

由于这种字符比较简单，我们就直接纵向切割，提取单个字符就可以了。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
inletter = False
foundletter=False
start = 0
end = 0
letters = []
for y in range(im2.size[0]): 
    for x in range(im2.size[1]):
        pix = im2.getpixel((y,x))
        if pix != 255:
            inletter = True
    if foundletter == False and inletter == True:
        foundletter = True
        start = y
    if foundletter == True and inletter == False:
        foundletter = False
        end = y
        letters.append((start,end))
    inletter=False
print letters

这样就输出：

1
[(6, 14), (15, 25), (27, 35), (37, 46), (48, 56), (57, 67)]

这样就可以知道每个字符开始和结束的序列号。

1
2
3
4
5
6
7
8
9
10
import hashlib
import time
count = 0
for letter in letters:
    m = hashlib.md5()
    im3 = im2.crop(( letter[0] , 0, letter[1],im2.size[1] ))
    m.update("%s%s"%(time.time(),count))
    im3.save("./%s.gif"%(m.hexdigest()))
    count += 1

对图像进行切割就可以得到字符了。

向量空间搜索

在这里我们使用向量空间搜索引擎来做字符识别，它具有很多优点：

  • 不需要大量的训练迭代
  • 不会训练过度
  • 你可以随时加入／移除错误的数据查看效果
  • 很容易理解和编写成代码
  • 提供分级结果，你可以查看最接近的多个匹配
  • 对于无法识别的东西只要加入到搜索引擎中，马上就能识别了。
    当然它也有缺点，例如分类的速度比神经网络慢很多，它不能找到自己的方法解决问题等等。

举个例子，你有3篇文档，筛选出其中的单词作为特征，对应单词的数量作为特征的值。取n个单词就生成一个n维空间，而每一篇文档就是在这个空间中的矢量，我们只要计算矢量之间的角度就能得到文章的相似度了。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
import math
class VectorCompare:
    #计算矢量大小
    def magnitude(self,concordance):
        total = 0
        for word,count in concordance.iteritems():
            total += count ** 2
        return math.sqrt(total)
    #计算矢量之间的 cos 值
    def relation(self,concordance1, concordance2):
        relevance = 0
        topvalue = 0
        for word, count in concordance1.iteritems():
            if concordance2.has_key(word):
                topvalue += count * concordance2[word]
        return topvalue / (self.magnitude(concordance1) * self.magnitude(concordance2))

这样他就会计算两个Python的字典类型并且输出他们的相似度。

取大量验证码提取单个字符图片作为训练集合的工作，但只要是有好好读上文的同学就一定知道这些工作要怎么做，在这里就略去了。可以直接使用提供的训练集合来进行下面的操作。

iconset目录下放的是我们的训练集。

最后追加的内容：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
#将图片转换为矢量
def buildvector(im):
    d1 = {}
    count = 0
    for i in im.getdata():
        d1[count] = i
        count += 1
    return d1
v = VectorCompare()
iconset = ['0','1','2','3','4','5','6','7','8','9','0','a','b','c','d','e','f','g','h','i','j','k','l','m','n','o','p','q','r','s','t','u','v','w','x','y','z']
#加载训练集
imageset = []
for letter in iconset:
    for img in os.listdir('./iconset/%s/'%(letter)):
        temp = []
        if img != "Thumbs.db" and img != ".DS_Store":
            temp.append(buildvector(Image.open("./iconset/%s/%s"%(letter,img))))
        imageset.append({letter:temp})
count = 0
#对验证码图片进行切割
for letter in letters:
    m = hashlib.md5()
    im3 = im2.crop(( letter[0] , 0, letter[1],im2.size[1] ))
    guess = []
    #将切割得到的验证码小片段与每个训练片段进行比较
    for image in imageset:
        for x,y in image.iteritems():
            if len(y) != 0:
                guess.append( ( v.relation(y[0],buildvector(im3)),x) )
    guess.sort(reverse=True)
    print "",guess[0]
    count += 1

下面就是全部代码了：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
from PIL import Image
import hashlib
import time
import os
import math
class VectorCompare:
    def magnitude(self,concordance):
        total = 0
        for word,count in concordance.iteritems():
            total += count ** 2
        return math.sqrt(total)
    def relation(self,concordance1, concordance2):
        relevance = 0
        topvalue = 0
        for word, count in concordance1.iteritems():
            if concordance2.has_key(word):
                topvalue += count * concordance2[word]
        return topvalue / (self.magnitude(concordance1) * self.magnitude(concordance2))
def buildvector(im):
    d1 = {}
    count = 0
    for i in im.getdata():
        d1[count] = i
        count += 1
    return d1
v = VectorCompare()
iconset = ['0','1','2','3','4','5','6','7','8','9','0','a','b','c','d','e','f','g','h','i','j','k','l','m','n','o','p','q','r','s','t','u','v','w','x','y','z']
imageset = []
for letter in iconset:
    for img in os.listdir('./iconset/%s/'%(letter)):
        temp = []
        if img != "Thumbs.db" and img != ".DS_Store": # windows check...
            temp.append(buildvector(Image.open("./iconset/%s/%s"%(letter,img))))
        imageset.append({letter:temp})
im = Image.open("captcha.gif")
im2 = Image.new("P",im.size,255)
im = im.convert("P")
temp = {}
for x in range(im.size[1]):
    for y in range(im.size[0]):
        pix = im.getpixel((y,x))
        temp[pix] = pix
        if pix == 220 or pix == 227: # these are the numbers to get
            im2.putpixel((y,x),0)
inletter = False
foundletter=False
start = 0
end = 0
letters = []
for y in range(im2.size[0]): # slice across
    for x in range(im2.size[1]): # slice down
        pix = im2.getpixel((y,x))
        if pix != 255:
            inletter = True
    if foundletter == False and inletter == True:
        foundletter = True
        start = y
    if foundletter == True and inletter == False:
        foundletter = False
        end = y
        letters.append((start,end))
    inletter=False
count = 0
for letter in letters:
    m = hashlib.md5()
    im3 = im2.crop(( letter[0] , 0, letter[1],im2.size[1] ))
    guess = []
    for image in imageset:
        for x,y in image.iteritems():
            if len(y) != 0:
                guess.append( ( v.relation(y[0],buildvector(im3)),x) )
    guess.sort(reverse=True)
    print "",guess[0]
    count += 1

这样直接运行就可以得到我们的验证码信息了。

pytesser库

  1. pytesser依赖于PIL,因此需要先安装PIL模块，详见：http://wenyue.me/blog/278
  2. pytesser调用了tesseract，因此需要安装tesseract：
    先用包管理器安装这几个库：
    1
    2
    3
    4
    sudo apt-get install libpng12-dev
    sudo apt-get install libjpeg62-dev
    sudo apt-get install libtiff4-dev
    sudo apt-get install zlibg-dev

下载tesseract的源码包：http://tesseract-ocr.googlecode.com/files/tesseract-3.00.tar.gz
解压、cd到解压后目录下tesseract-3.00/
运行./configure -prefix=你想要安装到的路径，比如:

1
./configure --prefix=/home/pf-miles/installation/install/tesseract

然后make & make install
将tesseract的运行脚本加到环境变量中，比如：

1
export PATH=$PATH:/home/pf-miles/installation/install/tesseract/bin

, 这个路径与刚才你configure的时候设置的路径有关
到http://code.google.com/p/tesseract-ocr/downloads/list页 面去下载最新的eng.traineddata.gz文件，解压后的eng.traineddata放到/home/pf-miles /installation/install/tesseract/share/tessdata目录下，注意，虽然tesseract的svn trunk里也有这个文件，但那个用不得，会报

1
actual_tessdata_num_entries_ <= TESSDATA_NUM_ENTRIES:Error:Assert failed:in file tessdatamanager.cpp, line 55

错误，详见：http://www.uluga.ubuntuforums.org/showthread.php?p=10248384，所以一定要用http://code.google.com/p/tesseract-ocr/downloads/list这里下载的那一份
试一试：

1
2
tesseract
Usage:tesseract imagename outputbase [-l lang] [configfile [[+|-]varfile]...]

OK,tesseract安装完毕

  1. 下载pytesser包：http://pytesser.googlecode.com/files/pytesser_v0.0.1.zip(目前是0.0.1版本), 解压…并cd到解压后的目录下
  2. 目录下有个“phototest.tif”图片文件作为测试用，直接在目录下写一个python脚本进行测试：
    test.py:
    from pytesser import * im = Image.open(‘phototest.tif’) text = image_to_string(im) print text
    运行：
1
python test.py 2

结果：
Thls IS a lot of 12 pornt text to test the
ocr code and see lf It works on all types
of frle format
lazy fox The qurck brown dog jumped
over the lazy fox The qulck brown dog
jumped over the lazy fox The QUICK
brown dog jumped over the lazy fox
The quick brown dog jumped over the
应该说准确率还令人满意吧

pytesser的验证码识别能力比较低，只能对规规矩矩不歪不斜数字和字母验证码进行识别，这里还是要介绍下它的用法。有关它的安装和python对应的模块可以参考http://wenyue.me/blog/tag/pytesser。
pytesser只能对tiff（tif）格式的图片文件进行识别，大部分网站的验证码图片不是tiff格式的，所以需要进行转换。可使用Image模块转化图片格式：

1
2
#需要保存成tmp.tiff，发现保存成tmp.tif的话pytesser无法识别
Image.open(‘tmp.gif’).convert(‘RGB’).save(‘tmp.tiff’)

获取验证码的时候需要让对方服务器写如cookie，所以需要以下这段

1
2
3
jk = cookielib.LWPCookieJar()
cookies = urllib2.HTTPCookieProcessor(jk)
opener = urllib2.build_opener(cookies)

然后再需要拿着这个opener去登录， 登录成功后的，再去请求其他需要登录的页面的时候也需要使用这个opener去urlopen