随机试验

随机试验是指在一定条件下可以重复进行，并且每次试验之前不能确定会出现哪一个结果，但所有可能结果事先是明确的一类试验。

sigma 代数

设 $\Omega$ 为样本空间。若事件类 $\mathcal{F}$ 满足下列条件，则称 $\mathcal{F}$ 为 $\Omega$ 上的 $\sigma$ 代数。

• $\Omega \in \mathcal{F}$
• 若 $A \in \mathcal{F}$，则 $A^c \in \mathcal{F}$
• 若 $A_1,A_2,\dots \in \mathcal{F}$，则 $\bigcup_{n=1}^{\infty} A_n \in \mathcal{F}$

等价地，第三条也可改写为：若 $A_1,A_2,\dots \in \mathcal{F}$，则 $\bigcap_{n=1}^{\infty} A_n \in \mathcal{F}$。

由定义还可推出 $\varnothing \in \mathcal{F}$。若 $A,B \in \mathcal{F}$，则 $A \cup B \in \mathcal{F}$，$A \cap B \in \mathcal{F}$，$A \setminus B \in \mathcal{F}$。

最小 sigma 代数

设 $\mathcal{C}$ 为 $\Omega$ 的一个子集族。若 $\mathcal{F}$ 满足 $\mathcal{C} \subset \mathcal{F}$，且 $\mathcal{F}$ 是一个 $\sigma$ 代数，并且对任意满足 $\mathcal{C} \subset \mathcal{G}$ 的 $\sigma$ 代数 $\mathcal{G}$ 都有 $\mathcal{F} \subset \mathcal{G}$，则称 $\mathcal{F}$ 为包含 $\mathcal{C}$ 的最小 $\sigma$ 代数，记作 $\sigma(\mathcal{C})$。

它之所以存在，是因为至少有一个包含 $\mathcal{C}$ 的 $\sigma$ 代数存在，例如幂集 $2^\Omega$。因此可以把所有包含 $\mathcal{C}$ 的 $\sigma$ 代数取交，定义为

$$\sigma(\mathcal{C})=\bigcap_{\mathcal{G}\supset\mathcal{C},\,\mathcal{G}\text{ 为 }\sigma\text{ 代数}}\mathcal{G}$$

由于任意族 $\sigma$ 代数的交仍是 $\sigma$ 代数，所以这个交集仍是一个 $\sigma$ 代数，并且它包含 $\mathcal{C}$，且包含在任何一个含 $\mathcal{C}$ 的 $\sigma$ 代数中，因此它就是包含 $\mathcal{C}$ 的最小 $\sigma$ 代数。

Borel sigma 代数

$\mathbb{R}^n$ 上由所有开集生成的 $\sigma$ 代数称为 Borel $\sigma$ 代数，记作 $\mathcal{B}(\mathbb{R}^n)$。

常见可生成 $\mathcal{B}(\mathbb{R}^n)$ 的集类有开矩形 $(a,b)$、闭矩形 $[a,b]$、半开矩形 $(a,b]$、半开矩形 $[a,b)$、左无界矩形 $(-\infty,x]$、左无界矩形 $(-\infty,x)$、右无界矩形 $[x,+\infty)$、右无界矩形 $(x,+\infty)$。这些集类生成的 $\sigma$ 代数都相同，且都等于 $\mathcal{B}(\mathbb{R}^n)$。

概率测度

设 $(\Omega,\mathcal{F})$ 为可测空间。定义在 $\mathcal{F}$ 上的集合函数 $P$ 若满足下列条件，则称 $P$ 为 $\mathcal{F}$ 上的概率测度。

• 对任意 $A \in \mathcal{F}$，有 $P(A)\ge0$
• $P(\Omega)=1$
• 对任意两两不交的事件列 $\{A_n\}_{n\ge1}\subset\mathcal{F}$，有

$$P\left(\bigcup_{n=1}^{\infty} A_n\right)=\sum_{n=1}^{\infty} P(A_n)$$

概率测度的性质

设 $P$ 为概率测度，则有下列常用性质。

• $P(\varnothing)=0$
• 若 $A_1,\dots,A_n$ 两两不交，则 $P\left(\bigcup_{i=1}^n A_i\right)=\sum_{i=1}^n P(A_i)$
• 若 $A \subset B$，则 $P(A)\le P(B)$
• 若 $A \subset B$，则 $P(B\setminus A)=P(B)-P(A)$
• $P(A^c)=1-P(A)$
• 对任意事件列 $\{A_n\}_{n\ge1}$，有

$$P\left(\bigcup_{n=1}^{\infty} A_n\right)\le\sum_{n=1}^{\infty} P(A_n)$$

• 若 $A_n\uparrow A$，则 $P(A_n)\uparrow P(A)$
• 若 $A_n\downarrow A$，则 $P(A_n)\downarrow P(A)$

古典概型

若随机试验的样本空间只有有限个样本点，且每个样本点出现的可能性相同，则称这种概率模型为古典概型。此时对任意事件 $A$，其概率为

$$P(A)=\frac{|A|}{|\Omega|}$$

几何概型

若随机试验的样本空间是某一区域 $\Omega$，且样本点落在区域内各处是等可能的，则称这种概率模型为几何概型。此时对区域事件 $A\subset\Omega$，其概率为

$$P(A)=\frac{\mu(A)}{\mu(\Omega)}$$

其中 $\mu$ 表示长度、面积、体积等几何度量。

常用组合数公式

$$\begin{align} C_n^m&=\frac{n!}{m!(n-m)!} \\ C_n^m&=C_n^{n-m} \\ C_n^m&=C_{n-1}^m+C_{n-1}^{m-1} \\ \sum_{k=0}^n C_n^k&=2^n \\ \sum_{k=0}^n (-1)^k C_n^k&=0 \\ m C_n^m&=n C_{n-1}^{m-1} \\ (n-m) C_n^m&=n C_{n-1}^m \\ \sum_{i=1}^n C_a^i C_b^{n-i}&=C_{a+b}^n \end{align}$$