编码理论

✍ dations ◷ 2025-11-24 04:16:08 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 哥特式艺术哥特式艺术,又译作哥德式艺术(法语:Art gothique),为一种源自法国的艺术风格,该风格始于12世纪的法国,盛行于13世纪,至14世纪末期,其风格逐渐大众化和自然化,形成国际哥特风格,直至15世
  • 拟态拟态(Mimicry)在演化生物学里,指的是一个物种在演化过程中,获得与另一种成功物种相似的特征,以混淆另一方(如掠食者)的认知,进而远离或靠近拟态物种。这种现象在许多动物的行为中很
  • 卡叠石战役卡迭石战役是古埃及与赫梯王国争夺叙利亚地区统治权而发生的战役。约前1274年5月底埃及第十九王朝的法老拉美西斯二世与赫梯国王在奥伦特河边的卡迭石(叙利亚的大马士革东北)
  • 1441年约前1445年,古埃及法老图特摩斯三世打败了米坦尼国王,夺占米坦尼王国位于幼发拉底河西岸的土地。
  • 钟观光锺观光(1868年9月19日-1940年9月30日),字宪鬯,出生于浙江镇海。中国著名植物学家。他曾任湖南高等师范学校、北京大学和浙江大学副教授,及北平研究院副研究员;自1918年起,先后调查中
  • 达伦·阿罗诺夫斯基达伦·阿罗诺夫斯基(Darren Aronofsky,1969年2月12日-)是一位美国电影导演与剧本家,出生在纽约布鲁克林。达伦·阿罗诺夫斯基也是第三位获得威尼斯电影节金狮奖的美国导演。阿伦
  • 廖正豪廖正豪(1946年3月30日-),台湾政治人物及法学家,中华民国台湾嘉义县人。毕业于国立台湾大学法律系,曾任台湾省政府官员、行政院副秘书长、中华民国法务部部长。胞兄是廖正雄,曾任六
  • 余杭区余杭区是中国浙江省杭州市的一个市辖区。位于杭嘉湖平原南端,面积1228平方千米。根据2010年全国第六次人口普查数据,余杭区目前常住人口1170290人。至2019年4月,共有户籍人口10
  • 闭后圆唇元音闭后圆唇元音是元音的一种。用于部分口说语言当中。国际音标用以表示此音的符号为⟨u⟩;而X-SAMPA则以 u代表此音。普通话的韵母u就是此音。在多数有此音的语言中,此音以唇内
  • 皇帝企鹅皇帝企鹅(学名:)常简称为帝企鹅或皇企鹅,是企鹅家族中体型最大的属种,成年皇帝企鹅身高可达120厘米,体重可达46公斤。在皇帝企鹅发现之前,有一种企鹅被认为是最大的企鹅,取名为国王