编码理论

✍ dations ◷ 2025-08-13 04:00:59 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 性工作者性工作者有两重意思:狭义的性工作者是指为不特定对象提供性服务以获得报酬的人;广义的性工作者则包含在色情产业中表演性行为的人,例如女性色情片演员。人们从事性工作的原因是
  • 欧盟统计局欧洲统计局(Eurostat),是欧洲联盟负责统计工作的行政机构,总部位于卢森堡。
  • 焚化炉焚化炉,即一种火炉,是以高温燃烧作用火化分解焚化垃圾等物体,成为炭、碳、水蒸气、二氧化碳、二氧化氮、二氧化硫、臭氧、一氧化碳、二
  • 郭劲宏郭劲宏(英语:George Ching-Hung Kuo),台湾裔病毒学家,1989年与迈克尔·霍顿、朱桂霖(英语:Qui-Lim Choo)和丹尼尔·布拉德利共同发现并成功培养了丙型肝炎病毒。在1970年代,医学界发
  • 血体血体是卵巢滤泡排卵后形成的一种临时结构。创伤愈合后,随后的结构称为黄体(进而成为白体退化)。
  • 宁才宁才(1963年11月-),中国内地导演、演员,内蒙古民族剧团一级演员,上海戏剧学院毕业。在话剧和电影上屡有建树,2002年凭借电影 《天上草原》获得金鸡奖最佳男演员。宁才出生在科尔沁
  • 打捞打捞(英文:Marine salvage)是一种于水域进行寻回尸体或者物件的技术。于前327年前,周朝传国之宝九鼎佚遗失于泗水,前219年,秦始皇派人入河床利用绳索将其自水下拉起,不过没有成功(这
  • 诺福克轻轨诺福克轻轨(英语:Tide Light Rail,可直译为“海浪轻轨”),是在美国弗吉尼亚州诺福克地区由汉普顿锚地交通局运营的一个轻轨系统。该系统只有一条线路,11个车站,总长7.4英里(11.91千
  • 苏联加盟共和国苏联的加盟共和国(俄语:Сою́зные Респу́блики,转写:Soyúznye Respúbliki)是苏维埃社会主义共和国联盟的构成国,亦可视为苏联的一级行政区划。1991年苏联解体
  • 第9981例行政命令第9981例行政命令(Executive Order 9981),是1948年7月26日由美国总统哈里·S·杜鲁门发布的一个行政命令,以消除美国军队中种族隔离现象。从美国革命伊始,非洲裔美国人民便在美军