编码理论

✍ dations ◷ 2025-04-25 18:40:34 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 替米考星替米考星(英语:Tilmicosin)是一种由泰乐菌素半合成的大环内酯类药物,为动物专用抗生素。替米考星的化学名称为4A-O-脱(2,6-二脱氧-3-C-甲基-L-核糖-吡喃己基)-20-脱氧-20-(3,5-
  • MBN每日广播(韩语:매일방송,英语:Maeil Broadcasting Network),简称MBN,前身为韩国一条24小时播送的新闻、财经频道,时称每日经济TV(매일경제TV),该期间也有DMB电台频道。从2011年12月1
  • 视觉皮层视觉皮层(英文:Visual cortex)是指大脑皮层中主要负责处理视觉讯息的部分,位于大脑后部的枕叶。人类的视觉皮层包括初级视皮层(V1,亦称纹状皮层(Striate cortex))以及纹外皮层(Extrast
  • 高德利高德利(1958年4月16日-),山东省禹城市人,中华人民共和国科学家、中国科学院院士。1982年,毕业于华东石油学院开发系,1984年,获得西南石油学院矿场机械硕士学位,1990年获得中国石油大
  • 美尔奈弗拉·阿依美尔奈弗拉•阿依(英语:Merneferre Ay),古埃及法老,第十三王朝君主。在位二十三年8个月又18天,约公元前1701年——约公元前1677年或约公元前1714年——约公元前1691年前后在位,为该
  • 电力消耗电力资料来源:IEA 2016人口资料来源:World By Map 2016人均用电量: 电力消耗量(TW·h/年) x 1000000000 / 人口(因含工业用电,且不含移住劳工等人口,人均用电量并不能表示节约
  • 日落症候群日落症候群是部分老人痴呆症或阿兹海默症患者的其中一种病征,发病率由一成至三成不等,患者一到日落、傍晚时刻,就开始出现焦躁、躁动、幻觉、甚至产生攻击倾向。日落症候群的成
  • 双氟苯丁哌啶苯并咪唑酮双氟苯丁哌啶苯并咪唑酮(Pimozide;哌迷清;匹莫齐特;商标名 Orap)是二苯丁基哌啶(英语:Diphenylbutylpiperidine)类的抗精神病药药品。它于1963年由杨森制药公司(英语:Janssen Pharmace
  • 英国皇家化学学会英国皇家化学学会(英语:Royal Society of Chemistry,简称RSC)是一所英国的学会(专业机构)、欧洲最大的化学科学组织:184、历史最为悠久的化学学会,目标为“推进化学科学”。1841年,
  • 环量环量是流体的速度沿着一条闭曲线的路径积分,通常用 Γ {\displaystyle \Gamma } 来表示。如果 V