信息论

---

是一门研究信息的本度，用数学理论研究描述和度量信息的方法，以及传送、处理信息的基本理论的科学。

随著信息论研究的不断深入，目前对于信息论通常有三种理解。一种是狭义信息论，主要研究消息的信息量、信息源的统计结构、信道容量以及消息的编码问题。

第二种理解认为，信息论研究通信问题，除了上述这些内容外，还应包括噪声理论和信号的滤波、预测、调制，以及信息处理等问题。另外，还有一种理解，即认为信息论应该包括所有与信息有关的领域，如心理学、语言学、神经生理学等。