编码理论

✍ dations ◷ 2024-09-20 12:24:06 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 环杓肌环杓肌(cricoarytenoid muscles)是连接环状软骨及杓状软骨之间的肌肉。而其中之环杓后肌、环杓侧肌(外环杓肌),与杓间肌均属于喉内肌群。后环杓肌及侧环杓肌(外环杓肌)更具体地
  • 火山学火山学是一门研究火山、熔岩、岩浆及相关地质学、地球物理学、和地球化学现象的学问。研究火山学的人称为火山学家。火山学家是地质学家,他们研究火山的喷发活动和火山的形成
  • 男孩别哭《男孩不哭》(英语:Boys Don't Cry)是一部1999年的美国独立电影,导演是Kimberly Peirce,剧本由导演和Andy Bienen共同撰写。这部电影是根据布兰登·蒂纳的真实生活经历创作的,布兰
  • span style=color: white;EMU/span本文是 欧洲联盟的政治与政府 系列条目之一欧洲联盟经济暨货币联盟(Economic and Monetary Union of the European Union)为欧盟中使用欧元为其国内之唯一法定货币的成员国所
  • 英法挚诚协定英法协约,又名挚诚协定(英语:Entente cordiale),是指1904年4月8日英国和法国签订的一系列协定,它标志着两国停止关于争夺海外殖民地的冲突而开始合作对抗新崛起的德国的威胁。在协
  • 支配行动英国40名英国/印度士兵被杀第二次第三次(英语:Third Indochina War)越南战争,英国称为Operation Masterdom(支配行动),越南称为Nam Bộ kháng chiến(南方抗战),是在第二次世界大战日
  • 杰瑞·布朗小埃德蒙·杰拉尔德·“杰里”·布朗(Edmund Gerald "Jerry" Brown, Jr.,1938年4月7日-),美国政治人物,美国民主党人。前任加利福尼亚州州长,曾在1975年到1983年及2011年到2019年两
  • 宽街线.mw-parser-output .RMbox{box-shadow:0 2px 2px 0 rgba(0,0,0,.14),0 1px 5px 0 rgba(0,0,0,.12),0 3px 1px -2px rgba(0,0,0,.2)}.mw-parser-output .RMinline{float:none
  • 格蕾丝·凯莉格蕾丝·帕翠西亚·凯莉(英语:Grace Patricia Kelly;1929年11月12日-1982年9月14日),摩纳哥王妃,生于美国费城,美国电影女演员、慈善家,奥斯卡影后,摩纳哥亲王兰尼埃三世的妻子。格蕾
  • 金枝演社金枝演社剧团(英文:Golden Bough Theatre),成立于1993年,由王荣裕所创立,作品大多将庶民文化融入现代剧场,创造出有别于西方剧场的特质,使其作品充满独特的草根魅力与野台能量。金枝