LZMA

✍ dations ◷ 2024-12-22 21:09:56 #无损压缩算法

LZMA(Lempel(英语:Abraham Lempel)-Ziv(英语:Jacob Ziv)-Markov chain-Algorithm的缩写)是2001年以来得到发展的一个数据压缩算法,它用于7-Zip归档工具中的7z格式和 Unix-like 下的 xz 格式。它使用类似于LZ77的字典编码(英语:Dictionary coder)机制,在一般的情况下压缩率比bzip2为高,用于压缩的字典文件大小可达4GB。

C++语言写成的LZMA开放源码压缩库使用了区间编码支持的LZ77改进压缩算法以及特殊的用于二进制的预处理程序。LZMA 对数据流、重复序列大小以及重续序列位置单独进行了压缩。LZMA支持几种散列链变体、二叉树以及基数树作为它的字典查找算法基础。

BCJ / BCJ2压缩工具所附带的LZMA SDK包括:在X86、ARM、PowerPC、IA-64以及ARM Thumb处理器上在压缩之前跳转目标进行归一化处理。对于x86平台来说,这是一个近跳转、近调用以及近条件跳转需要从“向后跳1665字节”这样的机器语言归一化到“跳转到5554”这样的格式,但是短跳转及短条件跳转不需要进行这样的处理。

BCJ与BCJ2之间的区别在于前者只将近跳转及近调用目标地址转换到归一化的形式,而BCJ2只将x86平台下的近跳转、近调用及条件近跳转目标分别进行压缩。

一些Windows操作系统专有的特性深深嵌入在原始程序中,使得最初很难生成一个与Unix等系统兼容的版本。然而,LZMA 由于其开放源码特性,仍然最终获得了各种平台的实现:

在GNU通用公共许可证下发布的 7-zip 参考版本有以下几个特点:

这个特点使得这个这个算法的解压过程非常适合于嵌入式系统应用的场合。p7zip 为 7-zip 的 POSIX 系统移植。

LZMA Unix Port 是一个只移植了 7-zip 中 LZMA 压缩代码的版本,内含命令行参数类似于 gzip 的基于数据流的压缩工具。它不是一个归档工具,而只是一个普通的压缩工具,并且由于它在没有数据头中没有未压缩文件大小的UInt64变量,所以它与7-zip生成的LZMA数据流中不同。7-zip使用一种更加灵活的归档格式7z,因此不能被此工具解压。

后来类似的 xz 替代了 LZMA Unix Port,提供了更好的压缩功能,并最终以其优异的性能和压缩比成为了不少开源软件(例如 Linux 内核源码、Debian deb 和 Fedora rpm)的压缩方式之一,甚至是默认压缩方式。xz 命令行程序曾有过一个名为 pxz 的分支,提供多线程压缩功能,后来 xz 在 5.2 时本身就直接提供多线程了。


Lzip 是另一个 Unix-like 系统下的 LZMA 压缩格式,其主要目的之一就是和 xz 竞争。与 xz 相比,它的最大亮点在于提供更简单的文件格式和因此得来的更方便的数据恢复。Lzip 的格式如此简单以至于其文档中就存在一个解压器实现,于是未来的数据考古学家即使在量子计算机使得 LZMA 无用多时之后只靠文档也能成功解压文件。

使用或者支持LZMA的软件有:

LZMA的压缩输出流是一个比特流,采用自适应二进制行程编码器(adaptive binary range coder)。比特流划分为包(packet),每个包或者表示一个字节的被压缩数据,或者如同LZ77的压缩输出序列那样的长度与距离的对(pair)。每个包得每个部分作为独立的上下文(context),从而对每个比特的概率预测仅相关于前一个包的同类型比特值。

有7类包:

LONGREP 表示LONGREP四种包, *REP指称LONGREP 与SHORTREP, *MATCH指称MATCH或*REP.

LONGREP包删除了对距离的直接表示,而是使用包序列最近四个距离。


包的长度部分表示如下:

如同LZ77, 长度不一定要小于距离。

距离在逻辑上是32比特,距离0表示最近增加到词典的那个字节。

距离的编码以6比特"distance slot"开始,由此可知后面跟着多少比特来补全。这是可变长编码。距离解码后为比特流,从最显著位到最不显著位。distance slots 0−3直接编码了0−3.

依据嵌入到Linux kernel的 XZ解码算法源文件。

相关

  • 免疫力免疫(英语:immunity),指生物机体识别和排除抗原物质的一种保护性反应。其中包括特异性免疫(后天免疫系统)与非特异性免疫(先天免疫系统)。“免疫”一词,最早见于中国明代医书《免疫类
  • 代谢疾病代谢疾病(代谢病)是一种影响人类(或动物)细胞生产能量的障碍,又称为新陈代谢失调症。大部分代谢疾病都是遗传性疾病,而有部分是从饮食、毒素、感染等而有。遗传性的代谢疾病一般
  • 可萨人可萨人,也译作卡扎人、哈扎尔人,常指一西突厥的属部落,他们的汗国是中世纪初期最大的汗国。最早见于《隋书·北狄传》,《旧唐书·西戎传》和《新唐书·西域传下》称其为“突厥可
  • 冯守华冯守华,中国无机化学家。生于吉林磐石。1978年毕业于吉林大学化学系,1983年和1986年先后获得该校硕士、博士学位。现任吉林大学化学学院院长,无机合成与制备化学国家重点实验室
  • 奥什坐标:40°32′N 72°48′E / 40.53°N 72.8°E / 40.53; 72.8奥什(吉尔吉斯斯坦语:Ош、乌兹别克斯坦语:O‘sh)是吉尔吉斯斯坦第二大城市,亦是奥什州的首府,位于吉尔吉斯斯坦南部,
  • 朱敬一朱敬一(1955年10月29日-),台湾经济学家。台大商学系毕业,美国密歇根大学经济学博士,曾任中华民国(台湾)常驻世界贸易组织(WTO)代表团常任代表、美国国家科学院海外院士。朱敬一于1998
  • 天文生物学天体生物学(英语:astrobiology),旧称外空生物学(xenobiology),是一门研究在宇宙中生命起源、生物演化、分布和未来发展的交叉学科,并不只限于地外生物,或包括对地球生物的研究。在天
  • 保罗·麦卡特尼在1966年已死阴谋论“保罗已死”("Paul is dead")是一个都市传奇和阴谋论暗示英国摇滚乐队披头士的主唱之一保罗·麦卡特尼在1966年去世,偷偷用外貌类似的替身代替。在1969年9月,美国大学生发表文
  • 沈丘县沈丘县在中国河南省东部、颍河中游,是周口市下辖的一个县。秦置项县,东魏改秣陵县,隋朝改项城县,明朝移置沈丘县。全县辖2个街道,10个镇,10个乡:东城街道、北城街道、槐店回族镇、
  • ATC代码 (A09)A·B·C·D·G·H·QI·J·L·M·N·P·R·S·VATC代码A09(消化药,含酶)是解剖学治疗学及化学分类系统的一个药物分组,这是由世界卫生组织药物统计方法整合中心(The WHO Collabo