Burrows-Wheeler变换

✍ dations ◷ 2025-11-10 02:30:06 #无损压缩算法,变换

Burrows–Wheeler Transform(简称BWT,也称作块排序压缩),是一个被应用在数据压缩技术(如bzip2)中的算法。该算法于1994年被Michael Burrows(英语:Michael Burrows)和David Wheeler(英语:David Wheeler)在位于加利福尼亚州帕洛阿尔托的DEC系统研究中心(英语:DEC Systems Research Center)发明。它的基础是之前Wheeler在1983年发明的一种没有公开的转换方法。

当一个字符串用该算法转换时,算法只改变这个字符串中字符的顺序而并不改变其字符。如果原字符串有几个出现多次的子串,那么转换过的字符串上就会有一些连续重复的字符,这对压缩是很有用的。该方法能使得基于处理字符串中连续重复字符的技术(如MTF变换和游程编码)的编码更容易被压缩。

举个例子:

该算法的输出因为有更多的重复字符而更容易被压缩了。

算法将输入字符串的所有循环字符串按照字典序排序,并以排序后字符串形成的矩阵的最后一列为其输出。

banana
$ b a n a n a
a $ b a n a n
n a $ b a n a
a n a $ b a n
n a n a $ b a
a n a n a $ b
b a n a n a $
$ b a n a n a
a $ b a n a n
a n a $ b a n
a n a n a $ b
b a n a n a $
n a $ b a n a
n a n a $ b a
a n n b $ a a

Burrows–Wheeler变换的还原过程

  • 基于上述的BWT变换过程,以字符串“banana”为例,我们得到了变换结果“annb$aa”。其还原过程见以下过程:
  1. 1 基于原字符串矩阵的最后一列为“annb$aa”,我们进行该列进行排序,得到“annb$aa”,并将其作为还原矩阵的第一列
Burrows–Wheeler 还原过程 1
输入转移排序组合
- - - - - - a
- - - - - - n
- - - - - - n
- - - - - - b
- - - - - - $
- - - - - - a
- - - - - - a
a - - - - - -
n - - - - - -
n - - - - - -
b - - - - - -
$ - - - - - -
a - - - - - -
a - - - - - -
$ - - - - - -
a - - - - - -
a - - - - - -
a - - - - - -
b - - - - - -
n - - - - - -
n - - - - - -
$ - - - - - a
a - - - - - n
a - - - - - n
a - - - - - b
b - - - - - $
n - - - - - a
n - - - - - a
  1. 2 经过1.1的转移、排序和组合,我们得到了7对邻接字符串:<a$> <na> <na> <ba> <$b> <an> <an>,将这7对邻接字符串进行排序后,得到<$b> <a$> <an> <an> <ba> <na> <na>,由此,我们得到了还原矩阵的第二列“b$nnaaa”
Burrows–Wheeler 还原过程 2
输入转移排序组合
$ - - - - - a
a - - - - - n
a - - - - - n
a - - - - - b
b - - - - - $
n - - - - - a
n - - - - - a
a $ - - - - -
n a - - - - -
n a - - - - -
b a - - - - -
$ b - - - - -
a n - - - - -
a n - - - - -
$ b - - - - -
a $ - - - - -
a n - - - - -
a n - - - - -
b a - - - - -
n a - - - - -
n a - - - - -
$ b - - - - a
a $ - - - - n
a n - - - - n
a n - - - - b
b a - - - - $
n a - - - - a
n a - - - - a
  1. 3 经过1.2的转移、排序和组合,我们得到了7对邻接字符串:<a$b> <na$> <nan> <ban> <$ba> <ana> <ana>,将这7对邻接字符串进行排序后,得到<$ba> <a$b> <ana> <ana> <ban> <na$> <nan>,由此,我们得到了还原矩阵的第三列“abaan$n”
Burrows–Wheeler 还原过程 3
输入转移排序组合
$ b - - - - a
a $ - - - - n
a n - - - - n
a n - - - - b
b a - - - - $
n a - - - - a
n a - - - - a
a $ b - - - -
n a $ - - - -
n a n - - - -
b a n - - - -
$ b a - - - -
a n a - - - -
a n a - - - -
$ b a - - - -
a $ b - - - -
a n a - - - -
a n a - - - -
b a n - - - -
n a $ - - - -
n a n - - - -
$ b a - - - a
a $ b - - - n
a n a - - - n
a n a - - - b
b a n - - - $
n a $ - - - a
n a n - - - a
  1. 4 经过1.3的转移、排序和组合,我们得到了7对邻接字符串:<a$ba> <na$b> <nana> <bana> <$ban> <ana$> <anan>,将这7对邻接字符串进行排序后,得到<$ban> < a$ba > <ana$> < anan > < bana > < na$b > < nana >,由此,我们得到了还原矩阵的第四列“na$naba”
Burrows–Wheeler 还原过程 4
输入转移排序组合
$ b a - - - a
a $ b - - - n
a n a - - - n
a n a - - - b
b a n - - - $
n a $ - - - a
n a n - - - a
a $ b a - - -
n a $ b - - -
n a n a - - -
b a n a - - -
$ b a n - - -
a n a $ - - -
a n a n - - -
$ b a n - - -
a $ b a - - -
a n a $ - - -
a n a n - - -
b a n a - - -
n a $ b - - -
n a n a - - -
$ b a n - - a
a $ b a - - n
a n a $ - - n
a n a n - - b
b a n a - - $
n a $ b - - a
n a n a - - a
  1. 5 经过1.4的转移、排序和组合,我们得到了7对邻接字符串:<a$ban> <na$ba> <nana$> <banan> <$bana> <ana$b> <anana>,将这7对邻接字符串进行排序后,得到<$bana> <a$ban> < ana$b > <anana> <banan> <na$ba> <nana$>,由此,我们得到了还原矩阵的第五列“anbana$”
Burrows–Wheeler 还原过程 5
输入转移排序组合
$ b a n - - a
a $ b a - - n
a n a $ - - n
a n a n - - b
b a n a - - $
n a $ b - - a
n a n a - - a
a $ b a n - -
n a $ b a - -
n a n a $ - -
b a n a n - -
$ b a n a - -
a n a $ b - -
a n a n a - -
$ b a n a - -
a $ b a n - -
a n a $ b - -
a n a n a - -
b a n a n - -
n a $ b a - -
n a n a $ - -
$ b a n a - a
a $ b a n - n
a n a $ b - n
a n a n a - b
b a n a n - $
n a $ b a - a
n a n a $ - a
  1. 6 经过1.5的转移、排序和组合,我们得到了7对邻接字符串:<a$bana> <na$ban> <nana$b> <banaan> <$banan> <ana$ba> <anana$>,将这7对邻接字符串进行排序后,得到<$banan> <a$bana> < ana$ba> <anana$> <banana> <na$ban> <nana$b>,由此,我们得到了还原矩阵的第六列“naa$anb”。
Burrows–Wheeler 还原过程 5
输入转移排序组合
$ b a n a - a
a $ b a n - n
a n a $ b - n
a n a n a - b
b a n a n - $
n a $ b a - a
n a n a $ - a
a $ b a n a -
n a $ b a n -
n a n a $ b -
b a n a n a -
$ b a n a n -
a n a $ b a -
a n a n a $ -
$ b a n a n -
a $ b a n a -
a n a $ b a -
a n a n a $ -
b a n a n a -
n a $ b a n -
n a n a $ b -
$ b a n a n a
a $ b a n a n
a n a $ b a n
a n a n a $ b
b a n a n a $
n a $ b a n a
n a n a $ b a

经过六次排序转移与组合,还原出了原有的字符串即“$banana”。

def bwt(s):    """对字符串进行Burrows-Wheeler变换 不使用唯一字符('EOF')做标记 返回索引值列表"""    #创建所有循环字符串    table =  + s for i in range(len(s))]    #获取排序后的结果    table_sorted = table    table_sorted.sort()    #获取已排序表每个字符串在未排序表中对应字符串的下一个字符串在已排序表中的索引值    indexlist =     for t in table_sorted:        index1 = table.index(t)        index1 = index1+1 if index1 < len(s)-1 else 0        index2 = table_sorted.index(table)        indexlist.append(index2)    #取排序后结果的最后一列作为结果字符串    r = ''.join( for row in table_sorted])    return r, indexlistdef ibwt(r,indexlist):    """对字符串进行反Burrows-Wheeler变换 有索引值的反变换比使用唯一标记的反变换简单很多"""    s=''    x = indexlist    for _ in r:        s = s + r        x = indexlist    return s

python实现(基于末尾添加唯一字符方式)

通过在末尾添加唯一字符(不与输入字串中任何字符相同)后再进行变换,可以不需要传递索引值列表,不过逆变换的时候要做更多计算。

下面的伪代码提供了一个逆过程的朴素实现(输入字符串s为原过程之输出):

相关

  • 昆虫见内文昆虫在分类学上属于昆虫纲(学名:Insecta),是世界上最繁盛的动物,已发现超过100万种。其中单鞘翅目(Coleoptera)中所含的种数就比其它所有动物界中的种数还多。昆字原作䖵。昆
  • 猫空猫空(台语:猫空,Bâ-khang)位于台湾台北市文山区,属于二格山系,昔日为台北市最大产茶区之一,茶区上古道纵横,乃为运送茶叶所建,目前为茶艺及夜景胜地。“猫空”这个名称的由来,最常见
  • 舒懋官舒懋官,字长德,号萸房,江西靖安人,清朝政治人物。进士出身。乾隆五十八年(1793年)进士,历官广东英德。嘉庆十七年八月,担任清朝广东省潮州府丰顺县知县。后由王奇云接任。嘉庆二十一
  • 斯里兰卡卢比斯里兰卡卢比(英语:Sri Lanka Rupee,僧伽罗语:රුපියල,泰米尔语:ரூபாய்)为斯里兰卡通用货币。辅币单位为分,1卢比=100分。货币编号LKR。
  • 黔中黔中郡,中国古代的郡。战国楚置。辖境约当今湖南省西部和贵州省东部,后地入秦。治所在临沅县(今湖南常德市);一说治沅陵县(今湖南沅陵县西南)。辖境扩大,有今湖南省沅江、澧水流域,湖
  • 草原生态系草原生态系(英语:Grassland Ecosystem)位于内陆地区,地形平坦,常位于森林旁。雨量不多,大概是250~750毫米左右。几乎没有遮蔽物,动物不易躲藏。生产者是质地柔软的草本植物或较为矮
  • 弗里德里希·阿格兰德弗里德里希·阿格兰德(Friedrich Wilhelm August Argelander,1799年3月22日-1875年2月17日),普鲁士天文学家,编辑出版了波恩星表。阿格兰德1799年出生于东普鲁士的梅梅尔(今立陶宛
  • 杂志书杂志书(英语:mook,日语:ムック ),又译为墨刻、慕客志,是一种起源于日本的出版品类型,图片占版面很大比例,内容以主题式情报为主。其名称“mook”是将杂志(magazine)与书籍(book)两个字合
  • 千野忠男千野忠男(1934年1月21日-2008年7月17日),日本财务官僚、经济学家,曾任亚洲开发银行总裁。静冈县藤枝市人。
  • 轨迹奖轨迹奖(Locus Award)创立于70年代早期,颁发给《轨迹(英语:Locus_(magazine))》杂志年度读者投票的优胜者,给雨果奖的投票者们提供意见和建议。几十年来轨迹奖吸引到的投票者数经常