编码理论

✍ dations ◷ 2025-06-29 21:05:57 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 威廉·伦琴威廉·康拉德·伦琴(德语:Wilhelm Conrad Röntgen,1845年3月27日-1923年2月10日),德国物理学家。1895年11月8日,时为德国维尔茨堡大学校长的他在进行阴极射线的实验时,观察到放在射
  • 刘广均刘广均(1929年7月15日-),中国同位素分离专家。回族。生于天津。1952年毕业于清华大学物理系。核工业理化工程研究院高级工程师。1991年当选为中国科学院院士(学部委员)。
  • 胸部外科医生胸腔外科学或称心胸肺外科(英语:Cardiothoracic Surgery),是一门医学专科,专门研究胸腔内器官,包括心脏、肺、气道与呼吸系统、胸壁、纵隔、膈肌和食道等,以及这些器官与部位的诊断
  • 加里·库珀加里·库珀(英语:Gary Cooper,1901年5月7日-1961年5月13日)是一位美国知名演员,曾经获得5次奥斯卡最佳男主角奖提名,总共夺得2次奥斯卡最佳男主角奖(《约克军曹》与《日正当中》)与1
  • 上夹河镇上夹河镇,是中华人民共和国辽宁省抚顺市新宾满族自治县下辖的一个乡镇级行政单位。上夹河镇下辖以下地区:五龙村、马尔墩村、大堡村、腰站村、胜利村、古楼村、河西村、南嘉禾
  • 罗勇府罗勇府(泰语:จังหวัดระยอง,皇家转写:Changwat Rayong,泰语发音:)是东泰国的一个府,府都为罗勇市。该府在西面和北面与春武里府相邻、东面则与庄他武里府相邻,南滨泰国湾
  • 国家计量总局1999年规定:正部级国务院直属机构的印章直径5厘米,中央刊国徽,由国务院制发。中华人民共和国国家质量监督检验检疫总局徽标中华人民共和国标准化法 中华人民共和国计量法 中华
  • 翟墨翟墨(1968年-山东泰安人,是一位中国航海家,被媒体誉为“中国无动力帆船单人环球航海第一人”,因自驾帆船完成环球航海而成为感动中国2009年年度人物之一。2013年7月30日,翟墨驾驶
  • 埃利亚斯·芒努斯·弗里斯埃利亚斯·芒努斯·弗里斯(瑞典语:Elias Magnus Fries,1794年8月15日-1878年2月8日),瑞典生物学家。他在六十多年的科研生涯中,搜集了欧洲各地大量的真菌标本,对其进行了科学、系统
  • 玛莎·蔡斯玛莎·蔡斯(Martha Cowles Chase,1927年8月8日-2003年8月27日)是一位美国生物学家,与阿弗雷德·赫希所作的赫希-蔡斯实验证明了DNA为遗传物质,为20世纪生物学最重要的发现之一。19