Unicode编码,基础:它为世界上所有的文字系统的每个字符单位分配一个唯一的整数,该整数介于0~1114111之间,在Unicode术语中称为代码点(code point)。

和其它字符编码几乎没有任何不同(例如ASCII)。

不同在于ASCII将每个索引映射为唯一的二进制表示,但Unicode允许多个不同二进制编码的代码点。

不同的编码在要求存储的字符串数量和操作速度之间进行权衡。

目前最流行的Unicode编码方式有:UTF-8,UTF-16,UTF-32

Unicode根据历史的数据,错误的估算了代码点的容易范围。

最初,认为只需要216代码点,所以产生了UCS-2,其为16位编码的原始标准。一个代码点可以容纳16位的数字,简单的方法是将代码点与其编码元素一对一地映射起来,这称为一个代码单元(code unit)。

UCS-2是由独立的16位的代码单元组成,每个代码单元对应一个单独的Unicode代码点。这种编码方法的主要好处在于索引字符串是一种代码小的,固定时间的操作。获取某个字符串的第n个代码点只是简单简单地选取数组的第n个16位元素。

下面示例:

这个字符串,里面的每个字符由最初的16位范围中的代码点组成。对于Unicode字符串,代码点和编码元素能完全匹配

JS字符串采用这16位编码每一个元素。如果还保持20世纪90年代初的做法,JS字符串的每个元素还是对应一个单独的代码点。

Unicode从216扩展到了220个代码点。新增加后的范围被组织为17个大小为216代码点的子范围。

第一个子范围,称为基本多文种平面,包含最初的216个代码点。余下的16个范围称为辅助平面

一旦代码点的范围扩展了,UCS-2就变得过时了。它需要通过扩展来表示这些附加的代码点。基替代者UTF-16和它类似。

UTF-16采用代理对表示附加的代码点。一对16位的代码单元共同编码一个等于或大于216的代码点。(有点乱,是这样吧。一个代理对等于两个16位的代码单元。一个代码单元是代码点与其编码元素一对一地映射。)

举个例子:

高音谱号“”的代码点为U+1D11E(代码点数119070的Unicode的惯用16进制写法)

其由UTF-16格式的代码单元0xd834和0xddle共同表示。可以通过合并这两个代码单元选择的位来对代码点进行解码。(这种编码保证了这些代理对绝不会与有效的BMP代码点混淆,甚至从字符串中间的某个位置进行搜索,也可以随时识别一个代理对。)

由于UTF-16的每个代码点编码需要一个或两个16位的代码单元,因此UTF-16是一种可变长度的编码

  • 长度为n的字符串在内存中的大小变化基于字符串特定的代码点。
  • 查找字符串中的第n个代码点不再是一个固定时间的操作。
  • 搜索需要从字符串的开始进行。

当Unicode扩大规模时,JS已经采用了16位的字符串元素。字符串属性和方法都是基于代码单元层级,而不是代码点层级。

所以每当字符串包含辅助平面中的代码点时,js将每个代码点表示为两个元素而不是一个(一对UTF-16代理对的代码点)

一个js字符串的元素是一个16位的代码单元。

提取字符串的某个字符得到的是代码单元,而不是代码点。

正则表达式也工作于代码单元层级。其单字符模式(“.”)匹配一个单一的代码单元。

JS内置的字符串数据类型工作于代码单元层级,但这并不能阻止一些API意识到代码点和代理对。一些标准的ECMAScript库正确地处理了代理对。

URI操作函数:sendcodeURI,decodeURI,encodeURIComponent和decodeURIComponent。

提示

  • js字符串是由16位的代码单元组成,而不是由Unicode代码点组成。
  • js使用两个代码单元表示216及其以上的Unicode代码点。这两个代码单元被称为代理对。
  • 代理对甩开了字符串元素计数,length,charAt,charCodeAt方法及正则表达式模式受到了影响。
  • 使用第三方的库编写可识别代码点的字符串操作。
  • 每当使用一个含有字符串操作的库时,都需要查阅该库文档,看好像处理代码点的整个范围。

后记

这节看得我很蒙B,整不太懂,我平时的工作环境中,也没有遇到过这方面的BUG。

页面编码是utf-8或gbk的,是否可以不用考虑上面说的?

现在只是知道在内存的存储过程中,每种情况对应的存储方式。

再想进一步的,可以自己再去网上找资料看了。

进一步阅读

网上找了几个写这方面的文章,有兴趣自己去读吧。

  1. 简单几句话总结Unicode,UTF-8和UTF-16

  2. Unicode(UTF-8, UTF-16)令人混淆的概念

  3. 为什么 UTF-8 编码比 UTF-16 编码应用更广泛?
  4. UTF-8 GBK UTF8 GB2312 之间的区别和关系

[Effective JavaScript 笔记] 第7条:视字符串为16位的代码单元序列的更多相关文章

  1. [Effective JavaScript 笔记]第27条:使用闭包而不是字符串来封装代码

    函数是一种将代码作为数据结构存储的便利方式,代码之后可以被执行.这使得富有表现力的高阶函数抽象如map和forEach成为可能.它也是js异步I/O方法的核心.与此同时,也可以将代码表示为字符串的形式 ...

  2. [Effective JavaScript 笔记] 第4条:原始类型优于封闭对象

    js有5种原始值类型:布尔值.数字.字符串.null和undefined. 用typeof检测一下: typeof true; //"boolean" typeof 2; //&q ...

  3. [Effective JavaScript 笔记] 第5条:避免对混合类型使用==运算符

    “1.0e0”=={valueOf:function(){return true;}} 是值是多少? 这两个完全不同的值使用==运算符是相等的.为什么呢?请看<[Effective JavaSc ...

  4. [Effective JavaScript 笔记]第28条:不要信赖函数对象的toString方法

    js函数有一个非凡的特性,即将其源代码重现为字符串的能力. (function(x){ return x+1 }).toString();//"function (x){ return x+ ...

  5. [Effective JavaScript 笔记]第46条:使用数组而不要使用字典来存储有序集合

    对象属性无序性 js对象是一个无序属性集合. var obj={}; obj.a=10; obj.b=30; 属性a和属性b并没有谁前谁后之说.for...in循环,先输出哪个属性都有可能.获取和设置 ...

  6. [Effective JavaScript 笔记]第68条:使用promise模式清洁异步逻辑

    构建异步API的一种流行的替代方式是使用promise(有时也被称为deferred或future)模式.已经在本章讨论过的异步API使用回调函数作为参数. downloadAsync('file.t ...

  7. [Effective JavaScript 笔记]第66条:使用计数器来执行并行操作

    第63条建议使用工具函数downloadAllAsync接收一个URL数组并下载所有文件,结果返回一个存储了文件内容的数组,每个URL对应一个字符串.downloadAllAsync并不只有清理嵌套回 ...

  8. [Effective JavaScript 笔记]第65条:不要在计算时阻塞事件队列

    第61条解释了异步API怎样帮助我们防止一段程序阻塞应用程序的事件队列.使用下面代码,可以很容易使一个应用程序陷入泥潭. while(true){} 而且它并不需要一个无限循环来写一个缓慢的程序.代码 ...

  9. [Effective JavaScript 笔记]第20条:使用call方法自定义接收者来调用方法

    不好的实践 函数或方法的接收者(即绑定到特殊关键字this的值)是由调用者的语法决定的.方法调用语法将方法被查找的对象绑定到this变量,(可参阅之前文章<理解函数调用.方法调用及构造函数调用之 ...

随机推荐

  1. sql server 2008 操作数据表

    SQL Server表   表的类型:   ①临时表 临时表可用来处理中间数据或者用临时表 与其它连接共享进行中的工作.临时表只 能放在tempdb中. 私有临时表(#) 全局临时表(##)   ②系 ...

  2. 微信第一个“小程序”亮相:不是APP胜似APP!

    前天晚上,微信终于推出了“小程序”功能.看过效果演示之后,网友表示,好多App可以卸载了! 据了解,微信“小程序”已首批开放给200名拥有微信服务号的开发者进行内测,而且目前开发者发布的小程序无法在用 ...

  3. 字符串string类型转换成DateTime或DateTime?类型

    常用的Convert.ToDateTime方法 //将含有正确日期格式的string类型转换成DateTime类型 string strDate = "2014-08-01"; D ...

  4. Quartz.net的cron表达式

    写在前面 前面有一篇文章用到了quartz.net,在设置定时时间的时候,使用了cron表达式,这里记录几种常见设置方式,方便对照使用. 详情 在这篇文章:Quartz.Net在windows服务中的 ...

  5. WCF入门(11)

    前言 终于出太阳了. 可惜风太大,凉在阳台上的衣服全被吹到了地上,外加几双袜子被吹掉了,gone. 第11集 Difference between DataContract and MessageCo ...

  6. Javascript基础系列之(六)循环语句(break和continue语句)

    break和continue语句对循环中的代码执行提供了更为严格的流程控制.break语句可以立刻退出循环,阻止再次执行循环体中的任何代码.continue语句只是退出当前这一循环,根据控制表达式还允 ...

  7. c# JD快速搜索工具,2015分析JD搜索报文,模拟请求搜索数据,快速定位宝贝排行位置。

    分析JD搜索报文 搜索关键字 女装 第二页,分2次加载. rt=1&stop=1&click=&psort=&page=3http://search.jd.com/Se ...

  8. FilenameFilter用法

    使用FilenameFilter实现图片过滤,只要.gif,.jpg,.png文件. java 代码 public class ImageFilter implements FilenameFilte ...

  9. git的牛逼

    http://rogerdudler.github.io/git-guide/index.zh.html

  10. C基础--结构体

    C语言,结构体语法: 1.定义结构体类型: struct 结构体名称 { 成员类型 成员名称1; 成员类型 成员名称2; ... }; 例:struct Date { int year ; int m ...