python与中文的那点事

在学习python的过程中，发现在python2与python3中对中文的处理有所不同，所以这篇文章就来探讨一下这些不同

python与中文的那点事

1. utf-8/gbk/unicode/ASCII

我们都知道，在计算机内部所有的信息都可以被表示成二进制的字符串，每一个二进制位有1和0两种状态，因此8位的二进制数可以表示256种状态，这也被称为字节(byte)，也就是一个字节可以表示可以用来表示256种不同的状态，每一个状态都对应一个符号；上个年代美国制定了一套字符编码，对应英文字母与二进制之间的关系，做了统一的规定。这被称为ASCII，一直沿用至今。

当然设计上存在很多的编码方式，同一个二进制也可以被解释成不同的符号，因此想要打开一个文件就必须要知道它的编码方式，否则用错误的编码方式进行读取，就会产生乱码。所以说如果有一种编码，能适应世界上所有的编码规则，那么就可以解决掉所有的乱码问题。所以Unicode这套编码规则就被设计出来了，Unicode当然是一个很大的合集，可以容纳100多万个符号，每个符号的编码都不一样，但是要注意到的是，Unicode只是一个符号集，他并没有规定这个二进制如何去存储，所以有些字符是用2个字节存储，有的是三个或者四个字节进行存储，甚至更多。那么这样的话就会有一个问题，就是计算机应该如何确定到底是三位字节决定一个符号，还是两字节决定一个符号。这样造成的结果就是会产生多种的Unicode编码方式，也就是说有不同的二进制格式，所以不能进行有效的推广。

随着互联网的普及，需要一种能够统一的编码方式，utf-8就是在互联网上是用最广的一种Unicode实现的方法，其他方法还有UFT-18和UTF-32，不过现在在互联网上基本不是很通用，所以要强调的是UTF-8是Unicode的一种实现方式。UTF-8最大的一个特点就是它是一种变长的编码模式；它可以用1~4个字节表示一个符号，根据不同的符号而变化字节长度。

另外，UTF-8是Unix下的通用编码，可以对汉字进行编码；gbk是win环境下的一种汉字编码格式。所有的UTF-8和gbk编码都得通过Unicode编码进行转换，而UTF-8和gbk之间不能相互转换，要在Unicode过个场。

在下面代码中：

# -*- coding:utf-8 -*-

s='汉字'

print(s)

s是一串utf-8编码的汉字，在print的时候，先把utf-8转化成unicode再输出成正产显示的汉字。

2.各种编码之间的转换

python中有两个很好用的函数decode()和encode()。

decode('utf-8') 是从utf-8编码转换成unicode编码，当然括号里也可以写'gbk'。

encode('gbk') 是将unicode编码编译成gbk编码，当然括号里也可以写'utf-8'。

假如我知道一串编码是用gbk编写的，怎么转成utf-8呢?

s.decode('utf-8').encode('gbk')

那么这样就有一个有意思的小问题，如何看一个汉字分别用utf-8和gbk编码所用的位数，我们用代码演示一下：

#python3 中可以直接进行编码

>>> len("测试代码".encode("utf-8"))

12

>>> len("测试代码".encode("gbk"))

8

#因为在Python3中默认就是unicode编码

#python2中需要先decode 一次

>>> len("测试代码".decode("utf-8").encode("utf-8"))

12

>>> len("测试代码".decode("utf-8").encode("gbk"))

8

Python3.0中默认的编码类型就是Unicode了，在python2.x中默认编码是ascill。

3. 统计字符串中数字,字母,汉字的个数

#re模块,实现正则匹配

import re

str_test = 'asdfghjkl123456测试代码'

num_regex = re.compile(r'[0-9]')

alphabet_regex = re.compile(r'[a-zA-z]')

chzn_regex = re.compile(r'[\u4E00-\u9FA5]')

print('输入字符串:',str_test)

#findall获取字符串中所有匹配的字符

num_list = num_regex.findall(str_test)

print('包含的数字:',num_list)

alphabet_list = alphabet_regex.findall(str_test)

print('包含的字母:',alphabet_list)

chzn_list = chzn_regex.findall(str_test)

print('包含的汉字:',chzn_list)

print('数字个数：',len(num_list))

print('字母个数：',len(alphabet_list))

print('汉字个数：',len(chzn_list))

输出结果：

输入字符串: asdfghjkl123456测试代码

包含的数字: ['1', '2', '3', '4', '5', '6']

包含的字母: ['a', 's', 'd', 'f', 'g', 'h', 'j', 'k', 'l']

包含的汉字: ['测', '试', '代', '码']

数字个数： 6

字母个数： 9

汉字个数： 4