概率论基础 · 第 1 / 3 节
概率空间
样本空间、事件与三条公理;生日问题为什么反直觉。
约 12 分钟
从一个问题开始
一个 人的班级里,至少有两个人同一天生日的概率有多大?
多数人的第一反应是:一年有 天, 个人才占了不到十分之一,概率大概只有 左右。
真实答案超过 。直觉错得这么远,说明我们还没有说清楚"概率"到底在算什么:所有可能的结果是什么?"至少两人同一天"对应其中哪一部分?"可能性"又按什么规则相加?这三个问题的答案,合起来就是概率空间。
先玩再读。拖动人数 ,黑色曲线是理论概率;再按"模拟",一次随机生成一整个班的生日,红点是到目前为止的频率。人数到多少时,概率第一次超过一半?
- 至少两人同一天
- 指数下界
- 有人和第一个人同一天
你观察到了什么?先动手,再回答。想清楚之后再看解释。
- 1.人数从 10 拖到 60,曲线在哪一段涨得最快?至少多少人时概率超过一半?
- 2.n = 23 时,“两人同一天”的概率约 50%,可“有人和第一个人同一天”只有约 6%。两者差在哪里?
- 3.只模拟 10 个班,频率和理论值差多少?模拟 1000 个班之后呢?
曲线涨得比人数快得多,因为可能撞上的不是"人",而是"对"。 个人有
要把这个猜想变成可以证明的结论,先得有一个精确的框架。
定义
随机试验所有可能结果组成的集合 称为样本空间,其中的元素 称为样本点。 的子集称为事件。试验结果 时,称事件 发生。
事件就是集合,所以集合运算就是事件的逻辑: 是" 或 发生", 是" 与 同时发生", 是" 不发生"。 时称 互斥。
把 个人依次编号,每个人的生日是 中的一天。一个样本点是一个有序的 元组 ,所以
"至少两人同一天"是事件
设 是有限或可数集。函数 把每个事件 对应到一个实数 ,若满足
- 非负:;
- 规范:;
- 可列可加:若 两两互斥,则
,
则称 为概率, 为概率空间。
公理只说概率满足什么,不说某个事件的概率等于多少。数值要由模型给出。最简单的模型是"每个结果一样可能":
若 有限,且每个样本点的概率相等,则对任意事件 ,
于是古典概型里的概率问题就变成了计数问题:数清 里有多少个样本点。
定理与证明
公理只有三条,但常用的性质都能从它们推出来。
对任意事件 :
- ;
- ;
- 若 ,则 ;
。
(1) 取 ,
有了 (1),可列可加性对有限个互斥事件也成立(后面补上空集即可)。
(2) 与 互斥,并起来是 ,所以 。
(3) ,两部分互斥,所以
(4)
性质 (2) 看似平凡,却是生日问题的钥匙:"至少两人同一天"情况繁多(两人撞、三人撞、两对各自撞……),而它的补事件"两两不同"只有一种情况,好数得多。
在古典概型下( 个人,生日独立且均匀地落在 天中),
数补事件 的样本点:第 个人的生日有 种选法,第 个人要避开前一个,有 种,……,第 个人有 种。所以
代入 得 , 得 。公式是精确的,但看不出"为什么是二十几"。把乘积换成指数,结构就出来了。
对所有实数 ,,等号当且仅当 。
令 ,则 ,。 时 , 时 ,所以 在 取到最小值 。这就是 的Taylor 展开只取前两项时的误差符号:曲线永远在切线上方。
特别地, 时概率超过 。
对每个因子用引理:
取补即得不等式。 时
指数里恰好是对数 除以 :猜想说的就是这件事。要让概率达到一半,需要 ,也就是
"有两个人同一天生日"和"有人和我同一天生日"是两个不同的事件。后者只涉及 对(我和其他每个人),概率是
古典概型假设生日在 天中均匀分布,而真实生日并不均匀(有季节差异)。可以证明:只要生日仍然相互独立、一年仍按 天算,在所有可能的分布中,均匀分布给出的撞上概率最小,对每个 都是如此。所以在这个模型里,上面的数值是下界,结论只会更强。(双胞胎会破坏独立性,2 月 29 日会让一年多一天,这些都不在模型里。)
应用
一个输出 位的哈希函数有 种可能的值。把"天数"换成 ,同样的推导说明:只要随机试大约
个输入,就有一半的机会找到两个哈希值相同的输入。对 位哈希,这只要五十亿次左右,而不是 次。所以 位哈希抵抗碰撞的强度只有 位:想要 位的安全性,输出就得有 位。
在绘图器里画 ,再把 换成 试试不同的"天数":曲线的形状几乎不变,只是横向近似按 伸缩。
这一节只用到了"数样本点"。可是很多问题里,我们会先得到一部分信息,再问概率:已知检测结果呈阳性,真正患病的概率是多少?信息改变了样本空间,这就是下一节条件概率与 Bayes 公式要回答的问题。
生日问题实验的思路参考:github.com/huzhuofan1020-svg/GDGX
练习
已完成 0 / 4
✓ 这一节的练习全部完成。
下一节:条件概率与 Bayes →
讨论
发现错误、有疑问或建议,也可以直接写信到 620026600@qq.com
还没有评论。写下你的理解、疑问,或者指出这一页的错误。
登录后参与讨论