编码理论

✍ dations ◷ 2025-07-20 08:08:11 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 逆转录酶抑制剂核苷类逆转录酶抑制剂(英语:Nucleoside Reverse Transcriptase Inhibitors,简称NRTIs),是合成HIV的DNA逆转录酶底物脱氧核苷酸的类似物,在体内转化成活性的三磷酸核苷衍生物,与天然
  • 贝氏定理贝叶斯定理(英语:Bayes' theorem)是概率论中的一个定理,描述在已知一些条件下,某事件的发生概率。比如,如果已知某癌症与寿命有关,使用贝叶斯定理则可以通过得知某人年龄,来更加准确
  • 密克罗尼西亚联邦面积以下资讯是以2013年估计国家领袖国内生产总值(购买力平价) 以下资讯是以2016年估计国内生产总值(国际汇率) 以下资讯是以2016年估计人类发展指数 以下资讯是以2018年估计密
  • 英国人英国人(British people)是指持有英国国籍的人或英国公民。 不列颠人(Britons)最初是指原居于不列颠群岛的凯尔特人,后为盎格鲁撒克逊人所使用而转为大不列颠岛上的盎格鲁撒克逊人
  • 酸化酸(有时用“HA”表示)的传统定义是当溶解在水中时,溶液中氢离子的浓度大于纯水中氢离子浓度的化合物。换句话说,酸性溶液的pH值小于水的pH值(25℃时为水的pH值是7)。酸一般呈酸味,
  • ATC代码 (L01)A·B·C·D·G·H·QI·J·L·M·N·P·R·S·VATC代码L01(Antineoplastic agents)是解剖学治疗学及化学分类系统的一个药物分组,这是由世界卫生组织药物统计方法整合中心(The W
  • 斯蒂恩·迈尔斯奥利斯蒂恩·“斯蒂恩”·迈尔斯(英语:Ollisteen 'Steen' Miles;1946年8月20日-2017年3月29日),是美国的民主党政治人物,前佐治亚州参议院议员。迈尔斯出生在印地安纳州南本德,曾入
  • NHK丰桥支局NHK丰桥支局,是日本放送协会位于爱知县丰桥市的支局,也是负责主管当地事务的放送支局。
  • 阿里·博泽尔阿里·许斯雷夫·博泽尔(土耳其语:Ali Hüsrev Bozer,1925年7月28日-),土耳其政治人物,商法学者。博泽尔生于土耳其安卡拉,曾在图尔古特·厄扎尔和耶尔德勒姆·阿克布卢特内阁担任副
  • 训戎站训戎站(韩语:훈융역)是朝鲜民主主义人民共和国咸镜北道庆源郡训戎里的一个铁路车站,属于咸北线。咸北线