信息论

---

应用数理统计方法研究通讯和控制系统中普遍存在的信息传递的共同规律的横断学科。

信息论的创始人是美国贝尔电话研究所的数学家申农。他以通讯系统模型为对象，以概率论和数理统计为工具，就信源、信宿、信道以及编码等问题，从量的方面描述信息的传输和提取。同时，美国的维纳也以著名的维纳滤波理论、信号预测和信息量的数学公式而作出独特贡献。近几年来，人们越来越认识到信息与材料、能源一样，是重要的资源，应加以充分利用和共享。

目前，由于电子计算机的广泛应用，在基本理论和实际应用方面，大量崭新的课题相继展开，如模糊信息论、算法信息论、相对信息、主观信息以及智能信息处理、自动化信息控制等，使信息理论的面貌为之一新。