贝叶斯(Bayes)定理

---

是极率论中的一个基本定理。

当我们把极率与语句的性质联系在一起时，就把概率定义为语句代数上的实值函数P。令s，e表示任何语句，T，F表示真和假。

这样若P(e)＞0即可定义给定eFS的条件概率P(S／e)=p(S∧e)／P(e) (1)

显然当e=T时，P(S／e)=P(S)，它表示在真条件下S的条件概率P(S／T)就是它的无条件概率P(S)。

同样当P(S)＞0时仿照(1)也可得到

P(e／s)=P(s∧e)／P(s) (2)

由(1)，(2)可以得到

P(s／e)=p(e／s)·p(s)／p(e) (3)

这是贝叶斯公式的初步形式。

设S是语句的有限集合，若令s∈S是不可兼折取的语句(不相容)，则

从而由(3)，(4)即可得到

(5)式即为贝叶斯定理的一般形式。

贝叶斯定理的方法学意义，常常与归纳推理的概率特性有关。

传统意义上的推理可以这样来表述：

根据已知的语句(前提)去考虑接受另一个语句(结论)。在给定真前提的条件下，结论为真是非常可能的。

但是，当归纳推理与概率特性联系在一起考虑时，前提对结论的支持程度(或证据对假设的支持程度)将被贝叶斯定理所支配。

由(3)式，我们将语句e理解为证据(实验结果，前提)，而将语句S理解为假设(结论)。此时称P(S)为先验概率；P(e／s)为e下的s的似点率(它是S的函数)；P(s／e)为后验概率(当S是e的逻辑后承时，此量为1)。由贝叶斯定理可知，上述的四个量的关系是明显的。

为了得到e对s的支持程度；只需要在P(S)已知的情况下，求出后验概率P(s／e)即可。基于已知先验概率P(S)下的归纳推理称为归纳的贝叶斯理论。

显然，贝叶斯公式对归纳过程的描述提供了重要的方法。