信息量

---

信息一般泛指包含于消息、情报、指令、数据、图象、信号等中的新的知识内容。

信息量就是通过得到信息，确切知道事物处于某个特定状态后，排除原来不确定性大小的程度。消息的不确定程度大，则发出的信息量就大；消息的不肯定程度小，则发出的信息量就小。信息量的大小，用下式计算：

式中：1表示信息量，单位为比特(bit)；n表示事物具有的几个状态数；P_i表示事物处于第i个状态的概率。

信息量的单位叫比特。一比特的信息量，就是指含有两个独立均等概率状态的事件所具有的不确定性，能被全部消除所需要的信息。