编码理论

✍ dations ◷ 2025-06-08 09:32:09 #编码理论,错误检测与校正,计算机科学,理论计算机科学

编码理论(英语:Coding theory)是研究编码的性质以及它们在具体应用中的性能的理论。编码用于数据压缩、加密、纠错(英语:error-correction),最近也用于网络编码中。不同学科(如信息论、电机工程学、数学以及计算机科学)都研究编码是为了设计出高效、可靠的数据传输方法。这通常需要去除冗余并校正(或检测)数据传输中的错误。

编码共分四类:

数据压缩和前向错误更正可以一起考虑(英语:Joint source and channel coding)。

信源编码试图压缩来自信源的数据以使传输更高效。这种做法每天都能在互联网上见到,因为在互联网上使用常见的ZIP格式来降低网络负载,使文件更小。

第二种,信道编码,加入额外的数据位以使在传输信道有干扰存在的时候数据传输的强健性更强。普通用户可能不知道许多应用中都使用了信道编码。平常的音乐CD使用里德-所罗门码来纠正划痕和灰尘。在此应用中传输信道就是光盘本身。手机也使用编码技术纠正高频无线电传输的衰落和噪声。数据调制解调器、电话传输、NASA都采用信道编码技术来传输信息,例如涡轮码(英语:turbo code)和低密度码。

1948年,克劳德·香农发表了《通信的数学理论》,这篇文章由《贝尔系统技术杂志》的七月和十月刊分两部分发行。该文重点研究了如何最有效地对发送者要发送的信息进行编码的问题。在这篇基础性的论文中,他使用了诺伯特·维纳发展的概率论工具,而这些概率论工具用于通信理论在当时还尚处萌芽阶段。香农提出信息熵作为消息不确定性的量度,而实质上创造了信息论这个领域。

二进制戈莱码(英语:binary Golay code)在1949年被提出。更具体地说,它是一种每个24位字能够纠正三个错误、检测出第四个错误的纠错码。

理查德·汉明因在贝尔实验室在数值方法、自动编码系统以及错误检测和纠错码的成就于1968年获得了图灵奖。他发明了汉明码、汉明窗、汉明数和汉明距离等概念。

信源编码的目的是让源数据变小。

信源的熵是信息的度量。基本上,信源编码在尽量减少信源的冗余,用携带更多信息的更少的比特来表示信源。

明确试图根据特定的假定概率模型来最小化消息的平均长度被称为熵编码。

有各种采用信源编码方案试图达到信源熵的极限的技术。() ≥ (),其中 () 为信源熵(比特率),() 为压缩后的比特率。特别指出,没有源编码方案可以比信源的熵更好。

传真传输使用简单的游程编码。信源编码去除所有发射机必要发送以外所有多余数据,降低了传输所需的带宽。

相关

  • 筒箭毒碱氯化筒箭毒碱(英语:Tubocurarine chloride,又简称为D-筒箭毒碱或DTC)是从南美洲防己科植物和番本科植物箭毒中提取的生物碱,为N2胆碱受体阻断药中的一种非去极化型神经肌肉阻断剂
  • 半生期半衰期(英语:Half-life)是指某种特定物质的浓度经过某种反应降低到剩下初始时一半所消耗的时间,半衰期是研究反应动力学的一个容易测定的重要参数,数学上可以证明,只有一级反应的
  • 福建人福建人可以指:
  • 野葛葛(学名:Pueraria montana var. lobata)是葛属山葛的变种。其根部为中草药葛根(中药拉丁名Puerariae Radix),又名鹿藿、黄斤、鸡齐根,主治伤寒温热、头痛项强(颈僵)、烦热消渴、泄泻
  • 沈一鸣沈一鸣(1957年3月30日-2020年1月2日),中华民国空军一级上将,籍贯江苏宜兴,生于台北士林,曾任参谋总长、国防部副部长、空军司令、国防部常务次长、副参谋总长、空军作战指挥部指挥
  • 杜若杜若(学名:Pollia japonica)是鸭跖草科杜若属的植物。多年生草本,根状茎长而横走;茎直立,被有柔毛;叶子无柄,长椭圆形叶片,叶鞘无毛;夏季开白色花,蝎尾状聚伞花序集成圆锥花序;蓝黑色球
  • 性沉溺性成瘾(英语:Sexual addiction),也称性瘾、嗜性、性上瘾或做爱上瘾症,是一种尽管得到了负反馈,依然想要进行性活动(自慰或非直接性交)(特别是性交)的强迫行为。支持为性成瘾症建立一个
  • 公立常青藤公立常春藤(英语:Public Ivies)是指一些可以提供常春藤盟校教育体验,但只需公立学校价格的公立大学。《The Journal of Blacks in Higher Education》杂志将她们比作是“成功地
  • 声门塞音声门塞音(注音:ㄕㄥ ㄇㄣˊㄙㄜˋㄧㄣ;英文:Glottal stop)为声门闭塞形成的辅音,亦称“清喉塞音”。它在国际音标中的符号是⟨ʔ⟩,在X-SAMPA中的符号是 ?。声门塞音的特征有:声门
  • 安部彻安部彻(1917年3月28日-1993年7月18日),日本电影演员。