编码理论

✍ dations ◷ 2025-08-23 09:48:45 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 消瘦消瘦(英语:emaciation)被定义为由于皮下脂肪和身体肌肉的损失导致过度的体重减轻和不自然的羸瘦。过度的消瘦会影响到人类和动物的健康。消瘦是由严重的营养不良和饥饿引起的。
  • 美国西部美国西部(英语:Western United States)泛指美国西部各州。由于美国自建国以来疆域多次向西扩展,因此美国西部的定义也随着时代而变化。一般多以密西西比河作为美国东西部的分界
  • 严重败血症败血症(拉丁语:Sepsis)(中国大陆译为脓毒症)指的是由于感染所引起的全身性发炎的严重疾病。常见的临床症状包括发烧、呼吸频率和心跳加速,以及意识不清。有时患者也会发生特定的
  • 电影评论电影评论是指观影后从艺术性、观赏性、技术性、社会性及政治等方面对一部电影进行评价和批评。电影评论出现于20世纪初,是从戏剧评论发展过来的。电影评论最初只在专业报刊可
  • 马来亚族泰国马来人(马来语:Orang Melayu Thai, 泰语:ไทยเชื้อสายมลายู, 爪夷文: ملايو تاي, 亚维语: Oré Nayu, Jawi or Bangso Yawi),是一个泰国术语,用来指生
  • 北京联合大学北京联合大学,简称北京联大,为市属普通高等院校。校本部位于北京市朝阳区北四环路的小营,众多的学院则散布在北京的海淀区、丰台区、昌平区、平谷区、西城区、及河北省廊坊市东
  • 麦卡洛克诉马里兰州案麦卡洛克诉马里兰州案(17 U.S. 316 (1819))是美国最高法院的一个著名案例。马里兰州向美国第二银行在该州的分行征收税款来试图阻止其运转。该州法案虽然写明适用于一切未经
  • 中国传说生物本文收集中国神话中提及的动物、十二生肖动物、宗教中提及的动物、龙生九子以及脊兽等等。其中有些动物出现在上述的几个范围里,不容易明确划分。年是一种凶兽,又名“夕”故过
  • JR羽越本线出轨事故 除特别注明外,本文所有时间均以东九区时间(UTC+9)为准。JR羽越本线出轨事故(日语:JR羽越本線脱線事故)是一宗在2005年12月25日时,发生于日本山形县最上川的铁路事故,一列JR东日本
  • 109件奇怪的事《109件奇怪的事》(韩文: 109 별일 다 있네,英语:109 Strange Things),2017年2月1日起在韩国NAVER TVcast平台上首播的科幻网络剧,由崔泰俊、郑彩娟领衔主演。描述从未来穿越的KDI-