编码的目的,就是给抽象的字符赋予一个数值,好在计算机里面表示。常见的ASCII使用8bit给字符编码,但是实际只使用了7bit,最高位没有使用,因此,只能表示128个字符;ISO-8859-1(也叫Latin-1,或者直接8859)使用全8bit编码,可以看成是ASCII的超集,因为它的低128个字符编码和ASCII一样,也就是说,如果一个字符使用ASCII编码,那么转换成ISO-8859-1后,编码值不变。

但是,无论是ASCII,还是ISO-8859-1,都无法满足用来表示像中文这样的字符,所以,为了国际化的需要,诞生了Unicode编码。Unicode本质上是一套标准,而UTF-32,UTF-16,UTF-8是Unicode的三种不同实现方式。

Unicode

Unicode规定了一个数值范围,这个数值范围叫code space。Unicode的code space为0到10FFFF,这个空间里面的每一个数值,叫做一个code point,因此,Unicode总共有1114112个code point。Unicode中,在表示一个code point的时候,常常使用U+前缀,比如表示code point 201DF:U+201DF。

Unicode将code space中的code point分配给要编码的字符,有时一个字符用一个code point表示,有时一个字符会重复编码,也就是说可能不同的两个或者多个code point代表同一个字符,而有时候,可能连续多个code point表示一个字符,而这里面的每一个code point都表示一个其他的字符。code point和字符的关系如下图所示:

在上图中,A+一个小圈这个字符就有3种编码,其中U+00C5和U+212B虽然code point不同,但是代表的都是这个字符,而这个字符还可以看成是字母A和一个小圈组合而成,A的code point是U+0041,小圈的code point是U+030A,因此,用A和小圈的code point组合在一起,也可以表示这个字符。

Unicode规定了code space和code point,那计算机到底怎么表示这些code point呢?是直接使用,还是会做一些形式的转换呢?

UTF-32(UCS-4)

在计算机中,Unicode字符的code point会被表示成一个,后者多个code unit,code unit可以和code point一样,也可以不一样。UTF-32,或者说UCS-4就是Unicode最简单的实现方式。在UTF-32中,一个code unit使用32bit,4个字节,并且Unicode中的每一个code point,都有一个与它相等的code unit对应,换句话说,UTF-32对Unicode规定的code point没有做任何转换,直接拿过来用了。

UTF-16(UCS-2)

对于UTF-16,或者UCS-2来说,每一个code unit使用16bit,2个字节。对于Unicode中位于U+0000-U+FFFF的code point,UTF-16使用一个code unit表示,对于Unicode位于U+10000-U+10FFFF的code point,UTF-16使用一对code unit表示,这样成对的code unit叫做surrogate pairs。

UTF-8

对于UTF-8,使用8bit的code unit。对于Unicode中位于U+0000-U+007F的code point,UTF-8使用一个code unit表示,因此,编码方式和ASCII没有任何区别;对于U+0100-U+07FF,UTF-8使用2个code unit表示;对于U+0800-U+FFFF,UTF-8使用3个code unit表示;对于U+10000-U+10FFFF,UTF-8使用4个code unit表示。

Unicode,UTF-32,UTF-16,UTF-8到底是啥关系?的更多相关文章

  1. JS原型的问题Object和Function到底是什么关系

    var F = function(){}; Objcert.prototype.a = function(){}; Function.prototype.b = function(){}; F 既能访 ...

  2. 内核与ramdisk到底是什么关系

    转自:http://www.lupaworld.com/forum.php?mod=viewthread&tid=61425 原名:内核与ramdisk到底是什么关系? 个人Notes:    ...

  3. SOA和微服务到底是什么关系

    本文原创,原文地址为:http://www.cnblogs.com/fengzheng/p/5847441.html SOA和微服务到底是什么关系? 说实话,我确实不明白SOA和微服务到底有什么本质上 ...

  4. SOA和微服务到底是什么关系?

    SOA和微服务到底是什么关系? 说实话,我确实不明白SOA和微服务到底有什么本质上的区别,两者说到底都是对外提供接口的一种架构设计方式.我倒觉得微服务其实就是随着互联网的发展,复杂的平台.业务的出现, ...

  5. C语言变量长度在32位和64位处理器上的关系

    C语言变量长度在32位和64位处理器上的关系       理论上来讲 我觉得数据类型的字节数应该是由CPU决定的,但是实际上主要由编译器决定(占多少位由编译器在编译期间说了算).常用数据类型对应字节数 ...

  6. Ansi、GB2312、GBK、Unicode(utf8、16、32)

    关于ansi,一般默认为本地编码方式,中文应该是gb编码 他们之间的关系在这边文章里描写的很清楚:http://blog.csdn.net/ldanduo/article/details/820353 ...

  7. PHP返回32位与16位的md5加密值

    字符串“123456”,经过md5算法加密之后是 32位: e10adc3949ba59abbe56e057f20f883e16位: 49ba59abbe56e057 PHP自带的 md5() 函数, ...

  8. Java Android 32位16位 MD5加密

    // md5加密 32位小写 private String Md5(String sourceStr) { String result = ""; try { MessageDig ...

  9. 2018.9.10 Java语言中的int及char数据类型的长度分别为(32,16 )

    Byte类型 (8) Character类型(16) Integer类型 (32) Double类型 (64) Long类型 (64)

随机推荐

  1. 竞赛题解 - Broken Tree(CF-758E)

    Broken Tree(CF-758E) - 竞赛题解 贪心复习~(好像暴露了什么算法--) 标签:贪心 / DFS / Codeforces 『题意』 给出一棵以1为根的树,每条边有两个值:p-强度 ...

  2. MySQL正则表达式的问题

    原本以为 正则表达式里面的特殊\d匹配数字放到sql语句里面也是适用的,没想到一直不匹配.但是放到编程语言java或者js里面又匹配.看了一下原来sql对正则的支持没有那么全面.一定要用[0-9]代表 ...

  3. hibernate的报错信息a different object with the same identifier value was already associated with the session解决办法

    废话不多说,直接说原因,这是在hibernate中,有2个相同类型的实体类具有同样的主键标识符,然后调用update或者调用saveOrUpdate,我朋友出这个错的由于他想要update一条数据时, ...

  4. 在tornado中使用异步mysql操作

    在使用tornado框架进行开发的过程中,发现tornado的mysql数据库操作并不是一步的,造成了所有用户行为的堵塞.tornado本身是一个异步的框架,要求所有的操作都应该是异步的,但是数据库这 ...

  5. spring-构建mvc工程

    SpringMVC基于模型-视图-控制器(MVC)模式实现,可以构建松耦合的web应用程序. 1.SpringMVC的请求过程 1)请求离开浏览器,并携带用户所请求的内容 2)DispatcherSe ...

  6. 「PHP」抽象工厂模式

    引言   所属:创建型模式,常用设计模式之一 参考资料: <大话设计模式>程杰   模式概述    官方定义:抽象工厂模式(Abstract Factory),提供一个创建一系列相关或互相 ...

  7. ckeditor + ckfinder + oss存储

    ckeditor 与 ckfinder 的整合方法 网上有很多,这里我也就不说了.  (主要是以前整合的现在忘记咋弄的了0.0) 我这里整合后直接使用js代码 <script type=&quo ...

  8. Spark运行模式_基于YARN的Resource Manager的Client模式(集群)

    现在越来越多的场景,都是Spark跑在Hadoop集群中,所以为了做到资源能够均衡调度,会使用YARN来做为Spark的Cluster Manager,来为Spark的应用程序分配资源. 在执行Spa ...

  9. centos7下使用n grok编译服务端和客户端穿透内网

    (发现博客园会屏蔽一些标题中的关键词,比如ngrok.内网穿透,原因不知,所以改了标题才能正常访问,) 有时候想在自己电脑.路由器或者树莓派上搭建一些web.vpn等服务让自己用,但是自己的电脑一般没 ...

  10. 【普及】NOIP2011 瑞士轮

    用sort会超时,显而易见. 然后想到了归并.至于为什么把运动员分成输与赢两组,我也不是很清楚,也许换种方式分组也行,但是分成输与赢两组更容易分组与合并. #include<iostream&g ...