Welcome to Neilpang's Blog!
记录生活,分享知识,传播乐趣-
7z文件格式及其源码的分析
本文是一个系列. 主要是分享我最近一年做7z文件开发的经验. 主要包括7z官方源码的结构分析, 以及7z文件格式的分析. 其中涉及到7z源码结构的各个细节, 以及7z文件格式的具体细节. 本文适合对象: 想要了解学习7z源码的开发人员, 想要了解7z文件格式细节, 做7z文件压缩器和解压器的开发人员, 以及其他压缩文件爱好者等等.
目前7z的最新稳定版是9.20, 而9.30版本还在alpha版本. 所以本文是基于其9.20版本. 我将尽可能详细的描述所有细节, 但到目前为止我了解到的细节大概能到八成到九成的样子. 也不是百分百. 希望能和大家共同讨论学习. 这些信息足以开发一个工业级别的高兼容性的7z压缩器和解压器了.
本文首发在我的个人独立博客 http://byNeil.com 以及博客园. 欢迎大家浏览我的独立博客, 留言交流. 转载请注明出处链接. 本人保留一切权利. 但本人不对使用本文提供的代码造成的损失负责.
好了, 憋死我了, 前面的客套话终于说完了. 有人可能要问, 为什么要分析7z文件格式? 这个不是开放的吗? 为什么我前面说我只了解到八,九成, 而不是百分百呢?
我先来解释这几个问题, 这能说明本文的必要性, 以及看下去的必要性. 首先7z的确是开放的. 但他的格式说明非常简单, 简直是简陋. 简单的一个txt文件,寥寥几十行算不上说明的符号, 对复杂的7z格式来说, 简直就是天书.( 后面分析7z源码的时候会详细说道这一点. ) 所以如果你接到老板的一个通知:"我们要做7z兼容的压缩解压器" 的时候, 你就要崩溃了. 因为相对于zip这些经过标准化的文件格式来说, 7z几乎就是一个黑洞.(zip有标准化的 spec, 里面有详细到字节级别的说明). 所以我分析7z格式可以说有一半是通过阅读源码逆向推测出文件格式的, 再经过反复和源码对比测试证明其正确性的. 所以我只能说了解到了八九成, 而不是百分百.
先分享一些有用的链接:
7z的官方主页: http://www.7-zip.org/ (它托管在sourceforge的虚拟机上, 本来能打开的, 但是前一段时间开始被墙了, 我实在想不到墙它的理由, 可能是被sourceforge主机上其他的网站拖累的吧,你懂的).
这是sourceforge上7z的论坛: http://sourceforge.net/p/sevenzip/discussion/45797 . 论坛比较活跃, 每天都有新帖. 而且7z作者也在上面每天亲自回帖. 由于作者是俄罗斯人, 所以时区跟我们差的不多. 一般留言4个小时左右, 作者就能回复吧. 我问过几个问题, 都是这样的. 当然也有些帖子作者懒得回, 那就另当别论了. 呵呵.
7z的官方中文镜像: http://sparanoid.com/lab/7z/ 这个不需要翻墙. 是官方给出的中文版链接. 值得信赖. 上面的内容基本和官方主页保持一致.
我们先从几个概念开始吧 : 7z软件 和7z文件. 7z文件指的是一种后缀名为.7z的文件. 7z软件指的是作者开发的生成和操作7z文件的工具. 但是现在7z软件已经发展到不光支持7z格式的文件了, 还能额外的生成和编辑另外几十种文件格式了. 其中包括我们熟知的zip格式, rar格式, iso格式等等, 也包括一些不可思议的格式, 比如: CAB, CHM, CPIO, CramFS, DEB, DMG, FAT . 看眼花了吧. 好吧, 本文主要讨论 7z文件格式, 以及7z软件中主要和7z文件相关的功能. 当然也会粗略的涉及到其他的一些有用的功能, 比如如何给7z软件写插件, 让他支持我们自己定义的文件格式.
再来几个概念. 说到压缩文件, 一般会遇到两个概念, 一个是 "Compress"(压缩) 和"Archive" (存档). "存档" 这个词个人觉得不好理解. 我个人把 "Archive" 叫做 "打包".
举个例子, 比如有一堆毛巾, 每一条毛巾代表一个文件. "Compress"(压缩)的意思就是把毛巾里面的水拧干, 达到压缩的目的. 而"Archive"(打包) 的意思就是把这些毛巾包成一个大包, 便于运输. 所以你可能想到了, 要运输一堆这样的毛巾可能有两种方法: 第一种: 先把每条毛巾拧干并折成方块(压缩), 再把这些方块组合成一个大包(打包). 第二种, 先把这些毛巾包成一个大包(打包), 然后再把这个大包拧干. 凭经验你可能已经意识到, 前一种方法比较好处理, 而且压缩比比较大. 后一种方法就弱一点了.
对了, 前一种就是先压缩后打包的方式. 7z, zip 和rar等就是用的这种方法. 后一种就是先打包, 后压缩的方法. 常见的tar.gz的文件就是用这种方法的. 先用tar打包, 在用gz压缩.
对于7z 我们再具体解释一下 "压缩" 和 "打包" 的概念.
7z 文件格式严格的说是一种"打包"的格式, 它规定了打包的方法. 而"压缩"的任务是由不同的算法完成的. "压缩算法"负责把毛巾里的水拧干. 具体来讲就是把一个文件按照一定规则变小. 压缩算法一般只能处理单个文件, 对于多个文件, 只能单个文件压缩, 然后再打包.
(当然,前面也说到了, 第二种方法就是先把文件打包, 然后再压缩. tar.gz就是这样的. tar工具就是简单的把所有的文件首尾相接, 变成一个大文件, 然后再用压缩算法一次压缩的. 这个不是本文的讨论对象, 所以以后就不提了.)
7z默认使用的是lzma压缩算法. 单个文件会先用lzma压缩算法压缩, 然后7z负责把压缩过后的文件打包. (这个跟zip类似, zip文件也是打包格式, 它默认使用deflate算法压缩.) 7z还支持封装其他几种压缩算法, 比如: Lzma2, ppmd, bzip2和deflate.
这些压缩算法在7z里面都有源码, 也不是本文要讨论的重点. 我们将重点讨论7z的打包格式. 就是介绍7z具体是怎样把压缩过后的文件封装打包的. 期间也会夹杂介绍其中一些算法. 后面如果有时间, 我会再单独介绍这些算法的具体实现.
终于把前期准备介绍完了, 有点繁琐.
下一篇我们将开始具体分析介绍7z的源码. 完成之后, 我会把第二篇的链接更新到这里. 当然你也可以在我的博客中搜索到.
大家多多支持哦.
-
-
-
-
记一次艰苦卓绝的Discuz x3 论坛升级过程
首先吐槽一下discuz 的官方论坛. 你要想下载到正确版本的discuz实在不容易找到. 有兴趣自己去看吧. 就是因为这个原因, 我本来想要安装x2.5版本(那时x3 还是Beta版本), 结果不小心下载成了x2. 也就是不久前, x3才发布正式版. 我最近想要安装几个插件,和皮肤, 但是打开插件中心, 发现我所有的插件都安装不了, 说我的版本不支持.
我确信是x2.5 的插件, 语言版本也没问题(我一直以为自己的论坛是x2.5), 这就奇怪了. 我也觉得discuz不会有这么明显的bug啊.网上搜了很多,都说是版本不对, 请仔细核对版本. 这问题一直困然了我很久. 当时没有紧急的需求,也就放下了.
直到今天, 我想安装插件和皮肤, 我决定把这个安装不了插件的问题搞定. 最终还是要核对版本, 我突然想到好像在别人的论坛下面看到过 类似 "x2.5" 的版权申明(就是在论坛首页的下面声明的). 再看看我自己的是 "x2", 所以我猜测可能是我的版本安装错了. 所以本地搭建php环境(wamp server), 去discuz官方仔细找到2.5的下载地址. 本地安装. 证实我的猜测是对的. 我的论坛装错了. 现在查件中心绝大部分插件和皮肤都只支持2.5和3, 所以要想装查件, 只能升级了.
我的论坛已经有很多用户和数据了, 不能重装, 现在只能选择升级了. 好吧, 要升就直接升到最新x3吧. 好在官方的升级脚本还是比较详细的, 而且我也相信discuz的实力, 官方说支持从x2直接升到x3.
为了确保万无一失, 我先把服务器上的文件和数据库都备份到本地的php环境. 在本地"预升级"一次. 按照官方给的步骤,很简单就完成了. 打开页面看了一下,也没有发现问题. 放心了. 现在可以正式升级了.
第一步: 备份服务器的所有文件 和 数据库.
按照官方的说明把文件都拷贝上去: http://www.discuz.net/thread-3265731-1-1.html
因为我是用root身份登录到vps上去的, 所以拷贝上去的文件都是属于root的, nginx 运行所使用的"www"用户是没有权限访问的. 所以要把权限都改对了,进入网站的根目录:
chown www -R * chgrp www -R *
把网站的文件都改到 用户 "www" 用户的名下.
此时可以开始升级了. 运行: http://xxxxxxxx.com/install/update.php
问题出现了, 刚才预升级的时候, 这里就可以点下一步升级了. 但是此时提示 :
"请先升级 UCenter 到 1.6.0 以上版本。如果使用为Discuz! X自带UCenter，请先下载 UCenter 1.6.0, 在 utilities 目录下找到对应的升级程序，复制或上传到 Discuz! X 的 uc_server 目录下，运行该程序进行升级"
(当时没顾上截图)
什么? ucenter版本不对? 不可能啊, 我已经预升级一次了. 不会啊. 于是把服务器上的文件和数据库都恢复到升级前的状态, 进ucenter看, 发现版本号的确是1.6. 所以没问题.
然后又重复官方的教程.
最后运行: http://xxxxxxxx.com/install/update.php. 还是出现一样的提示.
反复按照官方的教程做了三次, 到这都是这个提示, 我确信我没有哪一步做错了. 这就奇怪了.
于是打开update.php文件, 找到这个提示的位置:
是这里在比版本号.
上面的code是我改过的, $oldversion 这个变量是我加的, 就是想把版本号显示出来, 看看到底是多少.
重新运行: http://xxxxxxxx.com/install/update.php.
发现显示出来的版本号是空白. 什么也没有.
继续追踪: "uc_check_version" 函数, 因为版本号是从这的出来的.
搜索到uc_client/client.php
function uc_check_version() { $return = uc_api_post('version', 'check', array()); $data = uc_unserialize($return); return is_array($data) ? $data : $return; }到了这里还是看不出来.
还是把服务器恢复原样, 和本地比看有什么却别.
恢复服务器文件和数据.
问题出在ucenter, 当然打开后台ucenter看看.
赫然发现: 通信失败
我很清楚的记得, 原来这里是绿色的通信成功的.
难道是因为和ucenter的通信失败了, 才导致update.php 文件获得ucenter的版本号失败, 所以导致我升级不成功的?
想到这里, 就要跟踪为啥通信会失败了. (百度搜ucenter 通信失败, 很多人都说是论坛和ucenter之间的设置不一致导致的. 我也反复确认了很多次,设置没有问题.)
我们打开chrome的调试面板, 找到检查通信失败的地址:
点击左侧的 "应用管理", 会发现下面这一条ajax的调用:
把这个地址在浏览器中打开:
发现他果然返回了通信失败的字样.
从上面的url 我们依次找到: uc_server/control/admin/app.php 文件, 并定位到 onping函数:
图中可以看到我注掉的调试代码, 都是我自己加的,为了跟踪代码的流程. 我发现流程是 进入了 "else" 块, 然后出来之后 $status就是空白. 下面在判断如果status是1表示成功. 否则就是失败.
我在本地成功的环境下, 重现类似的场景, 发现也是进入了else块, 但是出来的时候 status是1.
那就继续追踪 test_api() 这个函数.
搜索 "test_api", 发现有两处定义, 分别在uc_client\model\misc.php 和 \uc_server\model\app.php.
第一处是空实现, 所以只能看第二处了.
function test_api($url, $ip = '') { echo "in test pi".'
'; $this->base->load('misc'); if(!$ip) { $ip = $_ENV['misc']->get_host_by_url($url); } echo "line1:".$ip."
"; if($ip < 0) { return FALSE; } echo "line2:".$ip."
"; echo "line3:".$url."
"; $ret = $_ENV['misc']->dfopen($url, 0, '', '', 1, $ip); echo "line4 ret value is:".$ret."
"; return $ret; }上面, 我加了一些调试代码.
发现 $ret是空白.
那就是dfopen的问题了.
搜索dfopen. 他有多处实现, 但是有两处比较可疑:
\uc_client\model\misc.php 和 \uc_server\model\misc.php
我现在两个实现的入口处都设置echo语句. 发现时走的第二处.
于是进一步跟踪第二处实现:
function dfopen($url, $limit = 0, $post = '', $cookie = '', $bysocket = FALSE , $ip = '', $timeout = 15, $block = TRUE, $encodetype = 'URLENCODE') { echo "server model misc dfopen:"."
"; //error_log("[uc_server]\r\nurl: $url\r\npost: $post\r\n\r\n", 3, 'c:/log/php_fopen.txt'); $return = ''; $matches = parse_url($url); $host = $matches['host']; ............ if(function_exists('fsockopen')) { echo "server model misc dfopen:fsockopen"."
"; $fp = @fsockopen(($ip ? $ip : $host), $port, $errno, $errstr, $timeout); } elseif (function_exists('pfsockopen')) { echo "server model misc dfopen:pfsockopen"."
"; $fp = @pfsockopen(($ip ? $ip : $host), $port, $errno, $errstr, $timeout); } else { echo "server model misc dfopen:false"."
"; $fp = false; } ................我加了一些调试语句在里面.
当加到这里的时候, 想到,是不是 服务器的fsockopen函数被禁用了呢. 于是就没再继续加了. 赶快试. 上传文件, 刷新url.
果然输出了 "server model misc dfopen:false"
我擦, 原来是 fsockopen函数被禁用了啊. 赶快上传php的探针, 发现fsockopen果然被禁用了.
我这是才想起来, 前几天更换vps的时候, 没注意, 可能忘了打开fsockopen 函数了.
赶快去服务器:/usr/local/php/etc 中 打开php.ini 找到disable_functions这一行. 从中把fsockopen和pfsockopen都删掉.
然后重启php: service php-fpm restart
然后刷新上面的url, 返回通信成功了.
好了,现在再回到开头.
把文件还原成升级前的样子, 再按照官方说明, 升级文件.
运行: http://xxxxxxxx.com/install/update.php
这次终于正常了, 显示准备完成,可以升级.
后面就比较顺利了. 自动升级数据库, 然后手动去吧缓存更新一下. 就好了.
就到这.
其中还省略了无数的弯路啊.
再次证明一个真理, 看似复杂的问题, 一定是由一个比较愚蠢的原因造成的.
-
导入用户信息到discuz ucenter.
上一篇帖子: 直接导入帖子到Discuz 论坛数据库. 结束时说要写一篇导入用户的帖子, 一直没时间, 但是咱不能做太监,不是? 所以今天赶快补上. 在做discuz整合或者迁移是, 很多人可能遇到相同的问题, 就是用户数据怎么导入到discuz中.
discuz 的用户数据其实是存在 ucenter中的. ucenter是什么? 自己百度去. 简单的说, ucenter 就是discuz各个产品之间共享数据的媒介. 所以我们只需要导入到ucenter的表中就可以了.
同样通过上一篇文章中提到的比较方法, 我们发现用户数据时存在 pre_ucenter_members 这一张表中的. 欢迎大家交流心得, 访问我的独立博客 http://byNeil.com .下面解释一下这个表的列的含义:
1. username: 用户名, 就是用户登录输的用户名.
2. password: 密码, 这个当然不是明文的密码, 至于怎么生成的, 后面再说. password hash = Md5(Md5(password) + salt);
3. email: 就是用户的email, 明文
4. regdate: 是一个int值, linux的时间戳,表示用户的注册时间.
5. salt: 盐. 这个比较有意思, 是为了增加用户密码的安全性的. 这个salt是一个 6位长的字符串, 它本身是注册时随机产生的. 它的作用就是用来混在密码一起产生密码的hash值的. password hash = Md5(Md5(password) + salt);
有了这几列的意思, 导入就简单多了. 如果你知道原来用户的密码(不太可能, 除非是国内某著名网站明文存密码), 或者知道用户密码的 MD5值, 就可以用自己生成的salt来 为用户导入密码了. 这样用户就能用原来的密码登陆新网站了. 如果不知道, 那只有重置所有用户的密码.
具体code就不写了, 各个语言不一样, 自己琢磨.
