字符编码

✍ dations ◷ 2025-05-18 09:59:08 #字符编码

字符编码(英语:Character encoding)、字集码是把字符集中的字符编码为指定集合中某一对象(例如:比特模式、自然数序列、8位组或者电脉冲),以便文本在计算机中存储和通过通信网络的传递。常见的例子包括将拉丁字母表编码成摩斯电码和ASCII。其中,ASCII将字母、数字和其它符号编号,并用7比特的二进制来表示这个整数。通常会额外使用一个扩充的比特,以便于以1个字节的方式存储。

在计算机技术发展的早期,如ASCII(1963年)和EBCDIC(1964年)这样的字符集逐渐成为标准。但这些字符集的局限很快就变得明显,于是人们开发了许多方法来扩展它们。对于支持包括东亚CJK字符家族在内的写作系统的要求能支持更大量的字符,并且需要一种系统而不是临时的方法实现这些字符的编码。

按照惯例,人们认为字符集和字符编码是同义词,因为使用同样的标准来定义提供什么字符并且这些字符如何编码到一系列的代码单元(通常一个字符一个单元)。由于历史的原因,MIME和使用这种编码的系统使用术语字符集来表示用于将一组字符编码成一系列八位字节数据的整个系统。

由统一码和通用字符集所构成的现代字符编码模型则没有跟从简单字符集的观点。它们将字符编码的概念分为:有哪些字符、它们的编号、这些编号如何编码成一系列的“码元”(有限大小的数字)以及最后这些单元如何组成八位字节流。区分这些概念的核心思想是创建一个能够用不同方法来编码的一个通用字符集。为了正确地表示这个模型需要更多比“字符集”和“字符编码”更为精确的术语表示。在Unicode Technical Report (UTR) #17中,现代编码模型分为5个层次,所用的术语列在下面:

高层机制(higher level protocol)提供了额外信息,用于选择Unicode字符的特定变种,如XML属性xml:lang

字符映射(character map)在Unicode中保持了其传统意义:从字符序列到编码后的字节序列的映射,包括了上述的CCS, CEF, CES层次。

术语字符编码(character encoding),字符映射(character map),字符集(character set)或者代码页,在历史上往往是同义概念,即字符表(repertoire)中的字符如何编码为码元的流(stream of code units)–通常每个字符对应单个码元。

码元(Code Unit,也称“代码单元”)是指一个已编码的文本中具有最短的比特组合的单元。对于UTF-8来说,码元是8比特长;对于UTF-16来说,码元是16比特长;对于UTF-32来说,码元是32比特长。码值(Code Value)是过时的用法。

代码页通常意味着面向字节的编码,但强调是一套用于不能语言的编码方案的集合.著名的如"Windows"代码页系列,"IBM"/"DOS"代码页系列.

IBM的字符数据表示体系(Character Data Representation Architecture - CDRA)与编码字符集标识符(coded character set identifiers - CCSIDs) 常常把charset, character set, code page, or CHARMAP等类似意义的术语混用.

Unix或Linux不使用代码页概念,它们用charmap,比locales具有更广泛的含义.

与上文的编码字符集(Coded Character Set - CCS)不同,字符编码(character encoding)是从抽象字符到代码字(code word)的映射. HTTP(与MIME)的用法中,字符集(character set)与字符编码同义,但与CCS不是一个意思.

由于有很多种字符编码方法被使用,从一种字符编码转换到另一种,需要一些工具。

跨平台:

Linux:

Microsoft Windows:

相关

  • 疑问词移位疑问词移位(英语称之为wh-movement、wh-extraction或A'-movement等)是一种可见于世界上许多语言的一种现象,在此现象中疑问词或词组会有特殊的语序,和一般的句子不同,在有此现
  • 社会语言学社会语言学(sociolinguistics)是语言学的一门分支学科。社会语言学主要研究社会的各层面(包含文化准则、社会规范或对话情境)对语言运用的影响以及语言对社会的影响。社会语言学
  • 威尔士历史在威尔士发现的最早的人类遗骸是尼安德特人的颚骨,发现于北威尔士埃尔威河谷的Bontnewydd Palaeolithic site遗址,大约在23万年前的旧石器时代后期。威尔士的凯尔特人在罗马帝
  • 固定齿轮自行车单速车,区分为2种 Single speed, Fixed Gear,后者又称固定齿轮自行车、“死飞车”,是一种没有飞轮的自行车,车轮与脚踏板永远处于联动状态,链轮齿与轮毂是紧紧咬合的,只要后轮旋转
  • 雨量计雨量计(或量雨计、测雨计)是一种气象学家和水文学家用来测量一段时间内某地区的降水量的仪器(降雪量的测量则需要使用雪量计)。大部分的雨量计都是以毫米作为测量单位,有时候测量
  • 牛头马面牛头马面,是中国佛教、道教与台湾民间信仰中两个阴间的神祇,形象分别是牛头人身、马头人身,负1]合,责捉拿、带领阳寿终了的亡魂到地府审判,即鬼差。一说为两尊是负责把守地府中奈
  • N-香草基壬酰胺N-香草基壬酰胺(N-vanillylnonanamide,Nonivamide)又称壬酸香兰基酰胺(Nonyl Vanillylamide)、天竺葵酸香兰基酰胺(pelargonic acid vanillylamide,缩写PAVA)、诺香草胺(Nonivamide)、
  • 大定府大定府,可以指:
  • 舌曲林舍曲林(英语:Sertraline)(商品名:左洛复、彼迈乐等)是一种选择性5-羟色胺再吸收抑制剂(SSRI)类抗抑郁药,1991年由辉瑞制药公司发明。舍曲林主要用于治疗成人重度抑郁症(MDD),也用来治疗
  • 华盛顿都会区交通局华盛顿都会区交通局(英语:Washington Metropolitan Area Transit Authority,简称WMATA /wəˈmɑːtə/ wə-MAH-tə),又称为Metro,是一个横跨三州的政府组织,负责营运华盛顿都会区