LZMA

✍ dations ◷ 2024-09-20 11:43:32 #无损压缩算法

LZMA(Lempel(英语:Abraham Lempel)-Ziv(英语:Jacob Ziv)-Markov chain-Algorithm的缩写)是2001年以来得到发展的一个数据压缩算法,它用于7-Zip归档工具中的7z格式和 Unix-like 下的 xz 格式。它使用类似于LZ77的字典编码(英语:Dictionary coder)机制,在一般的情况下压缩率比bzip2为高,用于压缩的字典文件大小可达4GB。

C++语言写成的LZMA开放源码压缩库使用了区间编码支持的LZ77改进压缩算法以及特殊的用于二进制的预处理程序。LZMA 对数据流、重复序列大小以及重续序列位置单独进行了压缩。LZMA支持几种散列链变体、二叉树以及基数树作为它的字典查找算法基础。

BCJ / BCJ2压缩工具所附带的LZMA SDK包括:在X86、ARM、PowerPC、IA-64以及ARM Thumb处理器上在压缩之前跳转目标进行归一化处理。对于x86平台来说,这是一个近跳转、近调用以及近条件跳转需要从“向后跳1665字节”这样的机器语言归一化到“跳转到5554”这样的格式,但是短跳转及短条件跳转不需要进行这样的处理。

BCJ与BCJ2之间的区别在于前者只将近跳转及近调用目标地址转换到归一化的形式,而BCJ2只将x86平台下的近跳转、近调用及条件近跳转目标分别进行压缩。

一些Windows操作系统专有的特性深深嵌入在原始程序中,使得最初很难生成一个与Unix等系统兼容的版本。然而,LZMA 由于其开放源码特性,仍然最终获得了各种平台的实现:

在GNU通用公共许可证下发布的 7-zip 参考版本有以下几个特点:

这个特点使得这个这个算法的解压过程非常适合于嵌入式系统应用的场合。p7zip 为 7-zip 的 POSIX 系统移植。

LZMA Unix Port 是一个只移植了 7-zip 中 LZMA 压缩代码的版本,内含命令行参数类似于 gzip 的基于数据流的压缩工具。它不是一个归档工具,而只是一个普通的压缩工具,并且由于它在没有数据头中没有未压缩文件大小的UInt64变量,所以它与7-zip生成的LZMA数据流中不同。7-zip使用一种更加灵活的归档格式7z,因此不能被此工具解压。

后来类似的 xz 替代了 LZMA Unix Port,提供了更好的压缩功能,并最终以其优异的性能和压缩比成为了不少开源软件(例如 Linux 内核源码、Debian deb 和 Fedora rpm)的压缩方式之一,甚至是默认压缩方式。xz 命令行程序曾有过一个名为 pxz 的分支,提供多线程压缩功能,后来 xz 在 5.2 时本身就直接提供多线程了。


Lzip 是另一个 Unix-like 系统下的 LZMA 压缩格式,其主要目的之一就是和 xz 竞争。与 xz 相比,它的最大亮点在于提供更简单的文件格式和因此得来的更方便的数据恢复。Lzip 的格式如此简单以至于其文档中就存在一个解压器实现,于是未来的数据考古学家即使在量子计算机使得 LZMA 无用多时之后只靠文档也能成功解压文件。

使用或者支持LZMA的软件有:

LZMA的压缩输出流是一个比特流,采用自适应二进制行程编码器(adaptive binary range coder)。比特流划分为包(packet),每个包或者表示一个字节的被压缩数据,或者如同LZ77的压缩输出序列那样的长度与距离的对(pair)。每个包得每个部分作为独立的上下文(context),从而对每个比特的概率预测仅相关于前一个包的同类型比特值。

有7类包:

LONGREP 表示LONGREP四种包, *REP指称LONGREP 与SHORTREP, *MATCH指称MATCH或*REP.

LONGREP包删除了对距离的直接表示,而是使用包序列最近四个距离。


包的长度部分表示如下:

如同LZ77, 长度不一定要小于距离。

距离在逻辑上是32比特,距离0表示最近增加到词典的那个字节。

距离的编码以6比特"distance slot"开始,由此可知后面跟着多少比特来补全。这是可变长编码。距离解码后为比特流,从最显著位到最不显著位。distance slots 0−3直接编码了0−3.

依据嵌入到Linux kernel的 XZ解码算法源文件。

相关

  • 使者古罗马政府与政治 系列条目罗马共和国前509年–前27年 罗马帝国前27年–1453年元首制西罗马帝国君主制东罗马帝国王政时代宪政(英语:Constitution of the Roman Kingdom) 共和
  • 侯朝焕侯朝焕(1936年9月29日-),中国信号处理和声学专家。生于四川自贡。1958年毕业于北京大学物理系。中国科学院声学研究所研究员。1995年当选为中国科学院院士。
  • Z检验Z检验,也称“U检验”,是为了检验在零假设情况下测试数据能否可以接近正态分布的一种统计测试。根据中心极限定理,在大样本条件下许多测验可以被贴合为正态分布。在不同的显著性
  • 三国干涉还辽三国干涉还辽(简称三国干涉)之事件,乃发生于甲午战争后。由清朝光绪政府与日本明治政府在1895年4月17日签署《马关条约》,割让辽东半岛予日本。六日后,俄罗斯、德国与法国以提供
  • 东方号东方运载火箭(Восток)是苏联R-7弹道导弹基础上研制的轻型运载火箭。东方运载火箭发射人类历史上第一颗人造卫星斯普特尼克和第一艘载人飞船。东方运载火箭是R-7火箭家族
  • 卡加烟省卡加延省(Cagayan)是菲律宾吕宋卡加延河谷政区的一个省份。首府为土格加劳市(Tuguegarao City),本省位于吕宋岛的最东北端。卡加延省还包括了北边的巴布延群岛。卡加延省西邻北伊
  • 西部据国家地理委员会的统计,西部地区是泰国的6个地理分区之一,包括5个省,与缅甸接壤。该地区面积共计53,769平方公里,人口约330万,人口密度为63人每平方公里。
  • 去吧,摩西《去吧,摩西》(英语:Go Down, Moses)是威廉·福克纳的一部长篇小说,1942年5月11日出版。小说由从属于同一主题的多篇故事组成,讲述了麦卡斯林家族的命运。这个家族是约克纳帕塔法
  • C. briggsae双桅隐杆线虫(学名:Caenorhabditis briggsae)是一种小型线虫,与常用的模式生物秀丽隐杆线虫同属于隐杆线虫属。两种线虫之间的差别很小,主要区别有雄虫尾部的形态不同,雌雄同体的
  • 磁阻磁阻,是一个与电路中的电阻类似的概念。电流总是沿着电阻最小的路径前进;磁通量总是沿着磁阻最小的路径前进。磁阻与电阻一样,都是一个标量。一个磁路中的磁阻等于“磁动势”与