克劳德·香农(Claude Shannon)在1948年发表的著名论文中引入了热力学的一个概念熵,根据平均概率定量报文所含信息的期望值。信息论中的熵又被称为香农熵。在通用通信系统中使用香农熵没有什么错误,因为数据流的特性会迅速收敛于统计平均。但如果将香农熵应用于密码学,则大错特错,因为密码学真正关心的不是平均情况,而是最坏情况。
密码破译者只需要文本加密和未加密版本的一个可靠的相关性就可以推断其它的相关性。MIT和爱尔兰国立大学的研究人员在信息论国际 研讨会上发表论文(PDF)指出了香农熵应用于密码学的缺陷。在另一篇研究报告中,研究人员称一些加密方案没有我们想象的安全。