熵

---

热力学和统计力学的概念，是对于封闭系统状态变化的度量。从统计学的观点来看，熵与系统微观状态的不确定性的关系为：S=k1HWK为玻尔兹曼常数，W是系统状态的几率。熵的单位为焦尔／开尔文(J／K)。在封闭系统中，任何不可逆过程(如自催化过程、热传导过程等)导致熵的增加，即系统内部发生的过程总是由几率小的状态向几率大的状态进行。熵只有对可逆过程才是不变的。这一结论叫做熵增加原理。在控制论中，对信息量的度量与热力学中对熵的度量采用了同样的数学描述，故信息量又叫做信息熵。在封闭系统中熵增加，但在开放系统中熵可能增加也可能减少。控制论描述的系统是开放系统。薛定谔在《生命是什么》一书中，第一次使用负熵的概念，他把负熵定义为信息，从而将信息与熵联系在一起。