字母频率

✍ dations ◷ 2025-02-24 00:43:22 #密码学,语言学,语言学术语,计量语言学

字母频率(frequency of letters; character frequencies),指的是各个字母在文本材料中出现的频率。常被应用于密码学,尤其是可破解古典密码的频率分析。在英语中最常见的字母是e。而在铅字印刷时代,人们已根据经验在Linotype排字机上将字母按常用与否排列成etaoin shrdlu(英语:ETAOIN SHRDLU) cmfwyp vbgkjq xz 。还有,摩斯电码中越常用的字母,其编码符号就越短;而发出各字母的用时由快到慢顺序是e it san hurdm wgvlfbk opjxcz yq。数据压缩技术中也有相似的方法,如霍夫曼编码就是按来源符号出现的机率大小去编码。

有分析显示字母频率就像词频(英语:word frequencies),不同作者或写作主题的作品中往往各不相同。当为x射线(x-rays)撰文时,文章中就会有大量的字母X。而撰写用x射线治疗卡塔尔(Qatar)的斑马(zebras)时,一般很少出现的字母X、Q和Z就会充斥文中。可从作者的字母使用频率中看出他的某些写作习惯。例如,海明威的写作风格明显不同于福克纳。字母、双字母组、三字母组(英语:trigram)、单词频率、单词长度和句子长度,这些都可以经统计后用以证明或反驳某一作品是某作者所写,甚至待鉴别作品与作者的写作风格相近也可用这一方法。

只能靠分析大量有代表性的文本才可得出准确的字母平均频率,而借由现代计算机和庞大的文本语料库,很容易完成这样的统计工作。又聋又瞎网(Deafandblind)列出了各种文本材料(新闻报告、宗教文本、科学文本和一般小说)的字母频率顺序,其中在一般小说类里,字母“h”与“i”的排位差异尤甚,由Linotype排字机的“etaoin shrdlu”变成了“etaohn isrdlu”。

赫伯特·S·基姆(英语:Herbert Zim)在他那部经典的密码学入门著作 《密码和隐密写作》(Codes and Secret Writing)里提道:英文的字母频率排列顺序是ETAON RISHD LFCMU GYPWB VKJXQ Z,最常见的字母对是TH HE AN RE ER IN ON AT ND ST ES EN OF TE ED OR TI HI AS TO,最常见的连写字母对是LL EE SS OO TT FF RR NN PP CC。

使用最多的前12个字母占了总使用次数的80%,使用最多的前8个字母则占了总使用次数的65%。数种排名函数(英语:rank functions)能很好地拟合字母频率,而双参数Cocho/Beta排名函数(two-parameter Cocho/Beta rank function)是当中的佼佼者。用另一种不能调节参数的排名函数也能不错地拟合字母频率分布,该函数也能拟合蛋白质序列中的氨基酸频率。

使用VIC暗号(英语:VIC cipher)或其他基于纵横棋盘格的暗号时,间谍常用助记符如“a sin to err”(最后的r不计)来记住最常用的8个字母。在密码解谜游戏cryptograms(英语:cryptograms)和单词解谜游戏如猜单词游戏、Scrabble、香蕉拼字游戏和电视游戏节目幸运轮(英语:Wheel of Fortune (U.S. game show))中,须要运用字母频率和频率分析。在古典文学中,爱伦坡早在其著名小说《金甲虫》描述了如何用英文字母频率的知识去解开故事中的替换式密码,找出船长基德埋藏宝藏的所在。

字母频率在一些键盘布局的设计上举足轻重。Blickensderfer打字机(英语:Blickensderfer typewriter#Layouts)在下排放置最常用的字母。德沃夏克键盘将最常用的字母放在最易输入的中排,即除拇指外的八指所放之处。

英语中的字母频率如下:

上面列出的表格引自Algoritmy网站。而这个列表和其他的表稍微不同,如美国康奈尔大学数学探索项目(Math Explorer's Project)在统计40000个单词后得到了大同小异的另一表 页面存档备份,存于互联网档案馆。牛津大学出版社分析简明牛津词典的词条后也得出百分比稍有不同的一表。

英语中空格出现的频率比使用最多的字母(e)还稍稍多点(约为107%),而非字母符号(如数字、标点等)统共后排名第四,即在字母“T”和“A”之间。

单词中首字母的频率如下:

*参见带点与不带点I


根据上表,英语中使用频率最高的10个字母为etaoi nshrd,而其他语言的排列顺序如下:

以上语言基本使用相似的25个(或以上)字母。而道本语的排列顺序是ainlo ektms,与以上语言不同的是道本语只使用了14个字母。

相关

  • 黄帝三部针灸甲乙经《针灸甲乙经》,全名《黄帝三部鍼灸甲乙经》,是现存最早的一部针灸专书,(公元256-282 年)晋皇甫谧(士安)编辑整理《素问》、《针经》、《明堂孔穴针灸治要》,所编著而成。 全书共十
  • 正丙苯正丙苯(英语:n-propylbenzene)是一种烷基苯,为异丙苯的同分异构体。在化工生产中可做用作溶剂或有机合成中间体,也可用于纺织染料和印刷,作醋酸纤维溶剂。该物质可由由硫酸二乙酯
  • 侧链侧链指有机分子完整结构上的侧支,所以又可称之为“支链”。区块链中的侧链(sidechains)实质上不是特指某个区块链,而是指遵守侧链协议的所有区块链,该名词是相对与比特币主链来说
  • 酵素结合免疫吸附分析法酶联免疫吸附试验(又称酵素免疫分析法,Enzyme-linked immunosorbent assay (ELISA),简称酶联法)利用抗原抗体之间专一性键结之特性,对检体进行检测;由于结合于固体承载物(一般为塑
  • Kidd血型系统Kidd血型系统是人类血型系统之一。决定该系统血型分型的抗原称为Kidd抗原(Kidd antigens)或Jk抗原(Jk antigens)。1951年,Allen等在一个姓Kidd的妇女血清中发现了一中新抗体,导致
  • 清史讲义《清史讲义》,著名历史学家孟森的代表作之一。本书是孟森在1930年代在北京大学历史系授课时的讲义,后由其弟子商鸿逵整理,中华书局1981年出版,但有删节。中华书局2006年再版的版
  • 西尼罗热西尼罗河病毒是一种热带和温带地区病毒。它主要传染鸟,但还传染人、马、猫、臭鼬、灰鼠,和家养的兔子。人的传染主路是由被传染的蚊子的叮咬。最早发现西尼罗病毒是1937年在乌
  • 襄邑睢县 (汉语拼音:Suī Xiàn) 在中华人民共和国河南省东部、惠济河中游,是商丘市下辖的一个县。面积926平方公里,2010年人口80万。县政府驻城郊乡。位于商丘市西部,与民权县,杞县,
  • 偏穗草科偏穗草科包括17属约80余种,分布在热带的南美洲东部和非洲西部。1981年的克朗奎斯特分类法将其列入鸭跖草目,1998年根据基因亲缘关系分类的APG 分类法认为无法将其列入任何一目
  • 黄河航运黄河航运在历史上较为发达,北宋之后由于政治自然条件逐渐衰落,在陇海铁路竣工后,逐渐丧失了优势。三门峡水利枢纽建成后,由于没有修建航道,黄河中下游的航运基本中断。黄河下游修