编码理论

✍ dations ◷ 2025-09-18 17:02:20 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 后工业化后工业社会是社会科学名词,指涉开始自1960年代的工业社会转型出现的社会现象,该词最早出自法国社会学家阿兰·图赖讷,后由美国社会学家丹尼尔·贝尔的著作《后工业社会的来临》
  • 视黄醇维生素A(英语:Retinol)又称为视黄醇是维生素A的动物形式之一,它是一个二萜和醇的结构,它可以转换为其他形式的维生素A,并且以醇的衍生物视黄酯充当动物中维生素的储存形式。当转换
  • 唯象专家理论粒子物理中的粒子物理现象学(英文:particle physics phenomenology)处理有关理论物理在高能粒子实验中的应用。在标准模型的框架内,现象学家为实验计算详细的预测结果,通常要
  • 泛种论泛种论,或称胚种论、宇宙撒种说(英语:Panspermia,希腊语:πανσπερμία ),是一种假说,猜想各种形态的微生物存在于全宇宙,并借着流星、小行星与彗星散播、繁衍。在泛种论相关
  • 诸罗县诸罗县(闽南语:Tsu-lô-Kuān)为台湾清治时期之行政区划,1683年明郑灭亡,经施琅力陈,次年(1684年)4月正式设立台湾府,隶属于福建省,并将明郑时期承天府、天兴州、万年州的行政区域略加
  • 湿度计湿度计,度量湿度的仪器,湿度计分为“毛发湿度计”和“干球湿球温度计”(干球温度计以及湿球温度计,两种组合而成)两种,在干球湿球温度计中,湿球是水银玻璃管式干湿表,玻璃球被湿
  • 黑狱亡魂《黑狱亡魂》(英语:The Third Man)是一部1949年上映的英国黑色电影,由卡洛·李执导,约瑟夫·考登、艾莉达·瓦利、屈佛·霍华和奥森·威尔士主演,编剧为著名小说家格雷厄姆·格林,
  • 物理学重要著作列表这些是物理上的重要著作列表,按领域排列。这些著作被认为是重要的原因如下: 2.磁场的变化会产生电场(法拉第电磁感应定率)3.单独的磁极并不存在4.电流会产生磁场(安培定率)电
  • 奎宁水奎宁水(英语:tonic water),是一种汽水类的软性气泡饮料,使用以奎宁(Quinine,又称为“金鸡纳霜”)为主的香料作为调味,带有一种天然的植物性苦味,经常被用来与烈酒调配各种鸡尾酒,如琴奎
  • 2017年成都机场无人机入侵系列事件成都双流国际机场无人机入侵事件为2017年3月至5月间的一系列无人航空飞行器入侵成都双流机场空域的安全事件。出于航空安全考量,空域入侵事件事实上造成了成都双流机场进港航