Haar Blog
Personal nest in the information age
Haar Blog
Math

概率论与数理统计知识点总结：随机事件与概率

by |Published

\(\require{AMSsymbols}\)

随机事件

相关名词的定义

  • 统计规律性：在大量重复试验或观察中所呈现出的固有规律性，称为统计规律性.
  • 随机现象：在个别试验中其结果呈现不确定性，在大量重复试验中其结果又具有统计规律性的现象，称为随机现象.
  • 随机试验：在概率论中将具备下列三个条件的试验称为随机试验（random experiment），简称试验，一般用符号E表示：
    1. 在相同条件下可重复进行；
    2. 每次试验的结果具有多种可能性；
    3. 在每次试验之前不能准确预言该次试验将出现何种结果，但是所有结果明确可知。
  • 样本点与样本空间：随机试验E的每一个可能结果称为样本点，E的全体样本点的集合称为E的样本空间（sample space），常用符号\(\varOmega\)或S表示。
  • 随机事件：一般，我们称试验E的样本空间S的子集为E的随机事件，简称事件，常用符号A，B，C，D表示。在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生。
    • “严格地说，事件是指S中的满足某些条件的子集。当S是由有限个元素或由可列无限个元素组成时，每个子集都可作为一个事件。若S是由不可列无限个元素组成时，某些子集必须排除在外。”
  • 事件域：一个样本空间中某些子集组成的集合类，常用F表示。
  • 基本事件：不能分解为其他事件组合的最简单的随机事件。
  • 必然事件：每次试验中一定发生的事件，常用符号\(\varOmega\)或S表示。
  • 不可能事件：每次试验中一定不发生的事件，常用\(\varnothing\)表示。

事件的关系和运算

事件的关系和运算本质上集合的关系和运算。

事件的关系

  1. 包含（inclusion）：A发生必然导致B发生，则称B包含A（或A包含于B），记为\(B\supset A\)（或\(A\subset B\)）。显然对任何事件A，\(\varnothing \subset A\subset\varOmega\)。
  2. 相等（equal）：若\(A\supset B\)且\(B\supset A\)，则称A与B相等，记为A=B。
  3. 互不相容（互斥）（mutually exclusive）：若\(A\cap B=\varnothing\)，则称事件A与B是互不相容的，或互斥的。
  4. 对立（逆）（complementary）：若\(A\cup B=S\)且\(A\cap B=\varnothing\)，则称事件A与事件B互为逆事件。又称事件A与事件B互为对立事件。A的对立事件记为\(\overline{A}\)，\(\overline{A}=S-A\)。

事件的运算

  1. 事件的和（并）（union）：事件\(A\cup B=\{x|x\in A或x\in B\}\)称为事件A与事件B的和事件。\(A\cup B\)也可记为\(A+B\)。
  2. 事件的积（intersection）：事件\(A\cap B=\{x|x\in A且x\in B\}\)称为事件A与事件B的积事件。\(A\cap B\)也记作AB.
  3. 事件的差（difference）：事件\(A-B=\{x|x\in A且x\notin B\}\)称为事件A与事件B的差事件。A–B也可记作A\B. \(A-B=A\overline{B}\).

事件的运算律

  1. 交换律：\(A\cup B=B\cup A\)，AB=BA.
  2. 结合律：\((A\cup B)\cup C=A\cup (B\cup C)\)，(AB)C=A(BC).
  3. 分配律：\((A\cup B)\cap C=AC\cup BC\)，\((AB)\cup C=(A\cup C)\cap (B\cup C)\).
  4. 德摩根律：\(\overline{A\cup B}=\overline{A}\overline{B}\)，\(\overline{AB}=\overline{A}\cup\overline{B}\).

其他常用运算公式

  • \(AB\cup A\overline{B}=A\)
  • \(A\cup\overline{A}B=A\cup B\)

概率

相关定义及其性质

频率的定义及其基本性质

定义：

在相同的条件下，进行了n次试验，在这n次试验中，事件A发生的次数\(n_A\)称为事件A发生的频数。比值\(\displaystyle \frac{n_A}{n}\)称为事件A发生的频率，并记成\(f_n(A)\).

基本性质：
  1. \(0\leqslant f_n(A)\leqslant 1\)；
  2. \(f_n(S)=1\)；
  3. 若\(A_1, A_2, \dots, A_k\)是两两互不相容的事件，则$$f_n(\bigcup\limits_{i=1}^{k} A_i)=\sum_{i=1}^{k}f_n(A_i).$$

概率的定义及其基本性质

概率的统计定义：

在相同的条件下，重复进行n次试验，事件A发生的频率稳定地在某一常数p附近摆动。且一般说来，n越大，摆动幅度越小，则称常数p为事件A的概率，记作P(A).

概率的公理化定义：

设试验的样本空间为\(\varOmega\)，A为\(\varOmega\)的一个子集，对A赋值P(A)，使之满足：

  1. 非负性：\(P(A)\geqslant 0\)，
  2. 规范性（正则性）：\(P(\varOmega)=1\)，
  3. 可列可加性：若\(A_1, A_2, \dots, A_n, \dots\)两两互不相容，则有$$P(\bigcup\limits_{i=1}^{\infty}A_i)=\sum_{i=1}^{\infty}P(A_i)$$则称数值P(A)为事件A的概率。
概率的性质
  1. \(P(\varnothing)=0\)
  2. 有限可加性：若\(A_1, A_2, \dots, A_n\)两两互不相容，则有$$P(\bigcup\limits_{i=1}^{n}A_i)=\sum_{i=1}^{n}P(A_i)$$
    • 与可列可加性等价。
  3. 逆事件的概率：\(P(A)=1-P(\overline{A})\)
  4. 概率的单调性：若\(A\subset B\)，则有\(P(A)\leqslant P(B)\)
  5. 减法公式：P(A–B)=P(A)-P(AB)
    • 特殊的，当\(B\subset A\)时，P(A–B)=P(A)-P(B)
  6. 加法公式：\(P(A\cup B)=P(A)+P(B)-P(AB)\)
    • 特殊的，当\(A\cap B=\varnothing\)，即A，B互不相容时，\(P(A\cup B)=P(A)+P(B)\).
    • 三个事件的加法公式：$$\begin{align}P(A\cup B\cup C)=&P(A)+P(B)+P(C)-P(AB) \\ &-P(AC)-P(BC)+P(ABC)\end{align}$$
    • 推广（广义加法公式）：一般，对于任意n个事件\(A_1, A_2, \dots, A_n\)，可以用归纳法证得$$\begin{align}P(\bigcup\limits_{i=1}^{n}A_i)=&\sum_{i=1}^{n}P(A_i)-\sum_{1\leqslant i<j\leqslant n}P(A_{i}A_j) \\ &+\sum_{1\leqslant i<j<k\leqslant n}P(A_i A_j A_k)+\dots+(-1)^{n-1}P(A_1 A_2 \dots A_n)\end{align}$$

等可能概型（古典概型）

具有下列两个特点的试验称为古典概型，也称等可能概型：

  1. 每次试验只有有限种可能的试验结果；
  2. 每次试验中，各基本事件出现的可能性完全相同。

在古典概型中，若事件A包含k个基本事件，即\(A={e_{i_1}}\cup {e_{i_2}}\cup \dots\cup {e_{i_k}}\)，这里\(i_1, i_2,\dots, i_k\)是1，2，…，n中某k个不同的数，则有$$P(A)=\sum_{j=1}^{k}P({e_{i_j}})=\frac{k}{n}=\frac{\text{A中包含的基本事件数}}{\text{S中包含的基本事件数}}$$

古典概型中常用的计数理论中的三个基本公式：

  1. 排列模式：从n个不同元素中任取\(r(r\leqslant n)\)个元素排成一列（考虑元素之间的先后次序），称此为一个排列，此种排列的总数记为\(P_{n}^{r}\)或\(A_{n}^{r}\)：$$A_{n}^{r}=\frac{n!}{(n-r)!}$$
  2. 组合模式：从n个不同元素中任取\(r(r\leqslant n)\)个元素并成一组（不考虑元素之间的先后次序），称此为一个组合，此种组合的总数记为\(C_{n}^{r}\)：$$C_{n}^{r}=\frac{n!}{r!(n-r!)}=\frac{A_{n}^{r}}{A_{r}^{r}}$$
  3. 多组组合模式：有n个不同元素，把它们分成k个不同的组，使得各组依次有\(n_1, \dots, n_k\)个元素，其中\(n_1+\dots +n_k=n\)，则一共有\(\displaystyle \frac{n!}{n_1 !\dots n_k !}\)种不同的分发。

几何概型

如果随机试验的样本空间是一个区域（例如直线上的区间、平面或空间中的区间），而且样本空间中每个试验结果的出现具有等可能性，那么规定事件A的概率为：$$P(A)=\frac{\text{A的测度（长度、面积、体积）}}{\text{样本空间的测度（长度、面积、体积）}}$$

超几何分布的概率公式

这是浙大第四版《概率论与数理统计》里提到的东西。先占个位置。

条件概率

条件概率的定义

设P(A)>0，则称$$P(B|A)=\frac{P(AB)}{P(A)}$$为事件A发生的条件下事件B发生的条件概率（conditional probability）.

条件概率作为一种特殊的概率，也具有与一般概率相应的性质。具体略。

乘法公式

设A，B是任意两个随机事件，P(A)>0，P(B)>0，则$$P(AB)=P(A)P(B|A)$$

推广到多个事件的乘法公式：一般地，设\(A_1, \dots,A_n\)是n个随机事件，且\(P(A_1, \dots,A_{n-1})>0\)，则$$P(A_1\dots A_n)=P(A_n |A_1\dots A_{n-1})\dots P(A_3 |A_1 A_2)P(A_2|A_1)P(A_1)$$

完备事件组

设\(\varOmega\)为试验的样本空间，\(B_1, B_2,\dots, B_n\)为试验的一组事件，若有

  1. \(B_i B_j=\varnothing (i\neq j, i, j=1,2,\dots,n)\)；
  2. \(\bigcup\limits_{i=1}^{n}B_i=\varOmega\)

则称\(B_1, B_2,\dots B_n\)为\(\varOmega\)的一个划分或完备事件组。

由定义可知，若\(B_1, B_2, \dots, B_n\)为\(\varOmega\)的一个划分，则在一次试验中，\(B_1, B_2, \dots, B_n\)必有且仅有一个发生.

全概率公式

设\(B_1, \dots B_n\)是样本空间\(\varOmega\)的一个划分，\(A\subset \varOmega\)，则有$$P(A)=\sum_{i=1}^{n}P(B_i)P(A|B_i)$$

贝叶斯公式

设事件\(B_1, B_2,\dots B_n\)是样本空间\(\varOmega\)的一个划分，\(P(B_i)>0(i=1,2,\dots,n)\)，A为试验的任一事件，且P(A)>0，则有$$P(B_i |A)=\frac{P(B_i)P(A|B_i)}{\sum\limits_{j=1}^{n}P(B_j)P(A|B_j)}(i=1,2,\dots,n)$$

杂项

  • 全概率公式求出的就是在多个原因之下结果A发生的概率；贝叶斯公式求出的是当结果A发生时，这一结果是由原因\(B_i\)引起的概率。
  • 概率是由以往的数据分析得到的，叫做先验概率，而在得到信息之后再重新加以修正的概率叫做后验概率。

事件的独立性

两个事件的独立性

定义

若事件A与事件B满足$$P(AB)=P(A)P(B)$$则称事件A与事件B相互独立（mutually independent），简称A与B独立。若A与B不相互独立，则称A与B是相依的。

基本性质
  1. 若A与B独立，且P(A)>0，则P(B|A)=P(B). 反之亦然.
  2. 若A与B独立，则有A与\(\overline{B}\)独立，\(\overline{A}\)与B独立，\(\overline{A}\)与\(\overline{B}\)独立.
  3. 必然事件\(\varOmega\)和不可能事件\(\varnothing\)与任一事件独立.

n个事件相互独立

定义

如果事件\(A_1,\dots,A_n\)对与任意\(k(1<k\leqslant n)\)和任意\(1\leqslant i_1<i_2 <\dots <i_k \leqslant n\)，\(P(A_{i_1}A_{i_2}\dots A_{i_k})=P(A_{i_1})P(A_{i_2})\dots P(A_{i_k})\)成立，则称\(A_1,\dots, A_n\)相互独立.

基本性质
  1. 若事件\(A_1,A_2,\dots, A_n(n\geqslant 2)\)相互独立，则将\(A_1, A_2,\dots, A_n\)个事件也是相互独立的.
  2. 若n个事件\(A_1, A_2,\dots, A_n(n\geqslant 2)\)相互独立，则将\(A_1, A_2,\dots, A_n\)中任意多个事件换成它们各自的对立事件，所得的n个事件仍然相互独立.
  3. 如果事件\(A_1,\dots, A_n\)相互独立，则$$P(\bigcup\limits_{i=1}^{n}A_i)=1-\prod_{i=1}^{n}P(\overline{A_i})=1-\prod_{i=1}^{n}[1-P(A_i)]$$

重复独立试验

  • 在n次试验中，若任意一次试验的诸结果是相互独立的，则称这n次试验为重复独立试验或独立试验序列.
  • 伯努利概型：假设一次试验中只有事件A发生或\(\overline{A}\)发生，每次试验的结果与其他各次试验结果无关，这样的n次重复试验，称为n重伯努利试验或伯努利概型.

Bibliography

Leave a comment

Your email address will not be published. Required fields are marked *