《10堂极简概率课》电子书

能力思维青年君上2019-10-01 7:18:292981A⁺A^-

电子书摘录：

贝叶斯–拉普拉斯

在第2堂课上我们了解到，雅各布·伯努利认为他用大数定律解决了从数据推断概率的问题：

即使你不能演绎出先验，至少可以演绎出后验，也就是说，你可以根据类似事件的观测结果进行演绎。因为如果在之前的观测中，某个事件在某些情况下会发生或不会发生，那么我们可以推定，这一事件在类似环境中也会发生或不会发生。（Bernoulli（1713/2005）：chapter4.）（DeMoivremadesimilarclaimsinthesecondandthirdeditionsofTheDoctrineofChances.）

伯努利已经证明，只要实验次数足够多，我们就“确有把握”认为频率近似等于真正的概率。如果x约等于y，那么y也约等于x。因此，在大量的实验之后，我们可以认为真正的概率约等于观测到的频率。

这种非正式的证明方法通过把困难掩藏在“确有把握”和“近似等于”的外衣之下，给人一种看似合理的感觉。这就是我们在第4堂课上讨论过的伯努利骗局。在这一点上，我们需要的是一种健康的怀疑论，它将为真正的归纳推理分析扫清道路。

托马斯·贝叶斯和理查德·普莱斯发现，伯努利的证明并没有解决问题。普莱斯在他为贝叶斯论文撰写的前言中给出了一个精准的判断：

继伯努利之后，棣莫弗……给出了找到概率的更精确的规则：如果围绕某个事件进行大量实验，那么该事件的发生次数和未发生次数的比值，与该事件在单次实验中的发生概率和未发生概率的比值之间的差距将会变小，并被赋予一个小的极限值。但据我所知，还没有人可以通过演绎解决该问题的逆问题，即“已知某未知事件的发生和未发生次数，求该事件的发生概率位于两个已知概率之间的可能性”。（R.Price，Prefaceto“AnessayTowardsSolvingaProblemintheDoctrineofChances，”ProceedingsoftheRoyalSocietyofLondon53（1763）：370–76.）

在《人类理解研究》的关于概率的一章中，大卫·休谟写道：

但是，如果我们发现不同的结果是由表面上非常相似的原因产生的，在我们把过去移植到将来，这些结果就会出现在我们的脑海里，当我们预测到某件事情发生的可能性时，也肯定会考虑到它们。虽然我们会倾向于最常见的结果，并相信这种结果肯定会发生，但是我们也不应当忽略别的结果。不过，我们必须按照它们发生频率的高低，赋予每个结果特有的权重和信度……

一个人无论用哪一种受到普遍认可的哲学体系来解释这种心理活动，他都会遇到困难。（Hume（1749/1777），SectionVI，47.）尽管伯努利和棣莫弗的想法跟休谟不同，但他们都没有解答出休谟问题。