Burrows-Wheeler变换

✍ dations ◷ 2025-07-12 16:30:01 #无损压缩算法,变换

Burrows–Wheeler Transform(简称BWT,也称作块排序压缩),是一个被应用在数据压缩技术(如bzip2)中的算法。该算法于1994年被Michael Burrows(英语:Michael Burrows)和David Wheeler(英语:David Wheeler)在位于加利福尼亚州帕洛阿尔托的DEC系统研究中心(英语:DEC Systems Research Center)发明。它的基础是之前Wheeler在1983年发明的一种没有公开的转换方法。

当一个字符串用该算法转换时,算法只改变这个字符串中字符的顺序而并不改变其字符。如果原字符串有几个出现多次的子串,那么转换过的字符串上就会有一些连续重复的字符,这对压缩是很有用的。该方法能使得基于处理字符串中连续重复字符的技术(如MTF变换和游程编码)的编码更容易被压缩。

举个例子:

该算法的输出因为有更多的重复字符而更容易被压缩了。

算法将输入字符串的所有循环字符串按照字典序排序,并以排序后字符串形成的矩阵的最后一列为其输出。

banana
$ b a n a n a
a $ b a n a n
n a $ b a n a
a n a $ b a n
n a n a $ b a
a n a n a $ b
b a n a n a $
$ b a n a n a
a $ b a n a n
a n a $ b a n
a n a n a $ b
b a n a n a $
n a $ b a n a
n a n a $ b a
a n n b $ a a

Burrows–Wheeler变换的还原过程

  • 基于上述的BWT变换过程,以字符串“banana”为例,我们得到了变换结果“annb$aa”。其还原过程见以下过程:
  1. 1 基于原字符串矩阵的最后一列为“annb$aa”,我们进行该列进行排序,得到“annb$aa”,并将其作为还原矩阵的第一列
Burrows–Wheeler 还原过程 1
输入转移排序组合
- - - - - - a
- - - - - - n
- - - - - - n
- - - - - - b
- - - - - - $
- - - - - - a
- - - - - - a
a - - - - - -
n - - - - - -
n - - - - - -
b - - - - - -
$ - - - - - -
a - - - - - -
a - - - - - -
$ - - - - - -
a - - - - - -
a - - - - - -
a - - - - - -
b - - - - - -
n - - - - - -
n - - - - - -
$ - - - - - a
a - - - - - n
a - - - - - n
a - - - - - b
b - - - - - $
n - - - - - a
n - - - - - a
  1. 2 经过1.1的转移、排序和组合,我们得到了7对邻接字符串:<a$> <na> <na> <ba> <$b> <an> <an>,将这7对邻接字符串进行排序后,得到<$b> <a$> <an> <an> <ba> <na> <na>,由此,我们得到了还原矩阵的第二列“b$nnaaa”
Burrows–Wheeler 还原过程 2
输入转移排序组合
$ - - - - - a
a - - - - - n
a - - - - - n
a - - - - - b
b - - - - - $
n - - - - - a
n - - - - - a
a $ - - - - -
n a - - - - -
n a - - - - -
b a - - - - -
$ b - - - - -
a n - - - - -
a n - - - - -
$ b - - - - -
a $ - - - - -
a n - - - - -
a n - - - - -
b a - - - - -
n a - - - - -
n a - - - - -
$ b - - - - a
a $ - - - - n
a n - - - - n
a n - - - - b
b a - - - - $
n a - - - - a
n a - - - - a
  1. 3 经过1.2的转移、排序和组合,我们得到了7对邻接字符串:<a$b> <na$> <nan> <ban> <$ba> <ana> <ana>,将这7对邻接字符串进行排序后,得到<$ba> <a$b> <ana> <ana> <ban> <na$> <nan>,由此,我们得到了还原矩阵的第三列“abaan$n”
Burrows–Wheeler 还原过程 3
输入转移排序组合
$ b - - - - a
a $ - - - - n
a n - - - - n
a n - - - - b
b a - - - - $
n a - - - - a
n a - - - - a
a $ b - - - -
n a $ - - - -
n a n - - - -
b a n - - - -
$ b a - - - -
a n a - - - -
a n a - - - -
$ b a - - - -
a $ b - - - -
a n a - - - -
a n a - - - -
b a n - - - -
n a $ - - - -
n a n - - - -
$ b a - - - a
a $ b - - - n
a n a - - - n
a n a - - - b
b a n - - - $
n a $ - - - a
n a n - - - a
  1. 4 经过1.3的转移、排序和组合,我们得到了7对邻接字符串:<a$ba> <na$b> <nana> <bana> <$ban> <ana$> <anan>,将这7对邻接字符串进行排序后,得到<$ban> < a$ba > <ana$> < anan > < bana > < na$b > < nana >,由此,我们得到了还原矩阵的第四列“na$naba”
Burrows–Wheeler 还原过程 4
输入转移排序组合
$ b a - - - a
a $ b - - - n
a n a - - - n
a n a - - - b
b a n - - - $
n a $ - - - a
n a n - - - a
a $ b a - - -
n a $ b - - -
n a n a - - -
b a n a - - -
$ b a n - - -
a n a $ - - -
a n a n - - -
$ b a n - - -
a $ b a - - -
a n a $ - - -
a n a n - - -
b a n a - - -
n a $ b - - -
n a n a - - -
$ b a n - - a
a $ b a - - n
a n a $ - - n
a n a n - - b
b a n a - - $
n a $ b - - a
n a n a - - a
  1. 5 经过1.4的转移、排序和组合,我们得到了7对邻接字符串:<a$ban> <na$ba> <nana$> <banan> <$bana> <ana$b> <anana>,将这7对邻接字符串进行排序后,得到<$bana> <a$ban> < ana$b > <anana> <banan> <na$ba> <nana$>,由此,我们得到了还原矩阵的第五列“anbana$”
Burrows–Wheeler 还原过程 5
输入转移排序组合
$ b a n - - a
a $ b a - - n
a n a $ - - n
a n a n - - b
b a n a - - $
n a $ b - - a
n a n a - - a
a $ b a n - -
n a $ b a - -
n a n a $ - -
b a n a n - -
$ b a n a - -
a n a $ b - -
a n a n a - -
$ b a n a - -
a $ b a n - -
a n a $ b - -
a n a n a - -
b a n a n - -
n a $ b a - -
n a n a $ - -
$ b a n a - a
a $ b a n - n
a n a $ b - n
a n a n a - b
b a n a n - $
n a $ b a - a
n a n a $ - a
  1. 6 经过1.5的转移、排序和组合,我们得到了7对邻接字符串:<a$bana> <na$ban> <nana$b> <banaan> <$banan> <ana$ba> <anana$>,将这7对邻接字符串进行排序后,得到<$banan> <a$bana> < ana$ba> <anana$> <banana> <na$ban> <nana$b>,由此,我们得到了还原矩阵的第六列“naa$anb”。
Burrows–Wheeler 还原过程 5
输入转移排序组合
$ b a n a - a
a $ b a n - n
a n a $ b - n
a n a n a - b
b a n a n - $
n a $ b a - a
n a n a $ - a
a $ b a n a -
n a $ b a n -
n a n a $ b -
b a n a n a -
$ b a n a n -
a n a $ b a -
a n a n a $ -
$ b a n a n -
a $ b a n a -
a n a $ b a -
a n a n a $ -
b a n a n a -
n a $ b a n -
n a n a $ b -
$ b a n a n a
a $ b a n a n
a n a $ b a n
a n a n a $ b
b a n a n a $
n a $ b a n a
n a n a $ b a

经过六次排序转移与组合,还原出了原有的字符串即“$banana”。

def bwt(s):    """对字符串进行Burrows-Wheeler变换 不使用唯一字符('EOF')做标记 返回索引值列表"""    #创建所有循环字符串    table =  + s for i in range(len(s))]    #获取排序后的结果    table_sorted = table    table_sorted.sort()    #获取已排序表每个字符串在未排序表中对应字符串的下一个字符串在已排序表中的索引值    indexlist =     for t in table_sorted:        index1 = table.index(t)        index1 = index1+1 if index1 < len(s)-1 else 0        index2 = table_sorted.index(table)        indexlist.append(index2)    #取排序后结果的最后一列作为结果字符串    r = ''.join( for row in table_sorted])    return r, indexlistdef ibwt(r,indexlist):    """对字符串进行反Burrows-Wheeler变换 有索引值的反变换比使用唯一标记的反变换简单很多"""    s=''    x = indexlist    for _ in r:        s = s + r        x = indexlist    return s

python实现(基于末尾添加唯一字符方式)

通过在末尾添加唯一字符(不与输入字串中任何字符相同)后再进行变换,可以不需要传递索引值列表,不过逆变换的时候要做更多计算。

下面的伪代码提供了一个逆过程的朴素实现(输入字符串s为原过程之输出):

相关

  • 歹部,为汉字索引中的部首之一,康熙字典214个部首中的第七十八个(四划的则为第十八个)。就繁体和简体中文中,歹部归于四划部首。歹部通常是从左方为部字。且无其他部首可用者将部
  • 法案法案(英语:Bill)又称法律(草)案、条例(草)案,是法律在通过之前递交议会审议的形式,三读通过后即成为法律的一部分。在大部分政治体制中,法案还必须由行政首长或国家元首签署同意方能正
  • 木煤气木煤气(英语:Wood gas)是一种合成气燃料,可以被用作炉子燃料,和车辆替代汽油、柴油或其他燃料。在生产过程中,生物质或其它含碳材料在木材气体发生器中氧受限的环境内被气化产生氢
  • 东约克郡约克郡东区(英语:East Riding of Yorkshire),通称东约克郡,直译约克郡东瑞丁,英国英格兰约克郡-亨伯地区的名誉郡、非都市区(Non-metropolitan district)、单一管理区。行政总部位于
  • 亨顿坐标:51°35′01″N 0°13′31″W / 51.5837°N 0.2252°W / 51.5837; -0.2252亨顿(Hendon),或译亨通、亨登,是英国伦敦北部巴尼特区的一个地区,是原来的米德尔塞克斯的教区,1965年
  • 太浩国家森林太浩国家森林(英语:Tahoe National Forest)是一座美国国家森林,位于加利福尼亚州,处太浩湖之西北。其境内有高8,587-英尺(2,617-米)的塞拉巴特斯(Sierra Buttes)山峰,在塞拉市(英语:Sier
  • 木村昌福木村 昌福(きむら まさとみ、1891年(明治24年)12月6日 - 1960年(昭和35年)2月14日)是大日本帝国海军军人。最终阶级是海军中将。静冈县出生。作为历战的现场指挥官于太平洋战争的
  • 谷寿夫谷寿夫(日语:谷 寿夫〔谷 壽夫〕/たに ひさお ,1882年12月23日-1947年4月26日),日本帝国时代的陆军中将,南京大屠杀的主要责任人,二战乙级战犯。谷寿夫,冈山县人。1903年陆军士官学校
  • 陆怀玉陆怀玉(16世纪-17世纪),字石含,浙江嘉兴府平湖县人,明朝、南明政治人物。陆怀玉是万历四十七年(1619年)的进士,获授工部虞衡主事,监督临清砖厂,历任员外郎、营膳与虞衡郎中;又负责宝源局
  • 马玛莎Masha Ma ,中国时装设计师。 作品曾刊载于时尚 (杂志)、ELLE、时尚芭莎、Pop (fashion magazine)、花花公子、柯梦波丹及L'Officiel等国际知名时尚杂志。2008年,Masha Ma在伦