rar格式的加密文件在不知道密码的情况下如何打开。

可以试试这个：
Atomic RAR Password Recovery(密码恢复工具)V1.20 绿色汉化版
http://www.jz5u.com/Soft/security/Encryp/5993.html
RAR Password Recovery(RAR密码破解工具)绿色汉化版 V1.1 RC16
http://www.jz5u.com/Soft/security/recove/1782.html
注：rar是采用编码加密,这让rar的作者也没办法。现在的密码破解软件都是使用穷举法。如果密码简单尚可破解，密码长了就有点费时间。