Personal nest in the information age

概率论与数理统计知识点总结:随机事件与概率

\(\require{AMSsymbols}\)

随机事件

相关名词的定义

  • 统计规律性:在大量重复试验或观察中所呈现出的固有规律性,称为统计规律性.
  • 随机现象:在个别试验中其结果呈现不确定性,在大量重复试验中其结果又具有统计规律性的现象,称为随机现象.
  • 随机试验:在概率论中将具备下列三个条件的试验称为随机试验(random experiment),简称试验,一般用符号E表示:
    1. 在相同条件下可重复进行;
    2. 每次试验的结果具有多种可能性;
    3. 在每次试验之前不能准确预言该次试验将出现何种结果,但是所有结果明确可知。
  • 样本点样本空间:随机试验E的每一个可能结果称为样本点E的全体样本点的集合称为E样本空间(sample space),常用符号\(\varOmega\)或S表示。
  • 随机事件:一般,我们称试验E的样本空间S的子集为E随机事件,简称事件,常用符号ABCD表示。在每次试验中,当且仅当这一子集中的一个样本点出现时,称这一事件发生
    • “严格地说,事件是指S中的满足某些条件的子集。当S是由有限个元素或由可列无限个元素组成时,每个子集都可作为一个事件。若S是由不可列无限个元素组成时,某些子集必须排除在外。”
  • 事件域:一个样本空间中某些子集组成的集合类,常用F表示。
  • 基本事件:不能分解为其他事件组合的最简单的随机事件。
  • 必然事件:每次试验中一定发生的事件,常用符号\(\varOmega\)或S表示。
  • 不可能事件:每次试验中一定不发生的事件,常用\(\varnothing\)表示。

事件的关系和运算

事件的关系和运算本质上集合的关系和运算。

事件的关系

  1. 包含(inclusion)A发生必然导致B发生,则称B包含A(或A包含于B),记为\(B\supset A\)(或\(A\subset B\))。显然对任何事件A,\(\varnothing \subset A\subset\varOmega\)。
  2. 相等(equal):若\(A\supset B\)且\(B\supset A\),则称AB相等,记为A=B
  3. 互不相容(互斥)(mutually exclusive):若\(A\cap B=\varnothing\),则称事件AB互不相容的,或互斥的
  4. 对立(逆)(complementary):若\(A\cup B=S\)且\(A\cap B=\varnothing\),则称事件A与事件B互为逆事件。又称事件A与事件B互为对立事件A的对立事件记为\(\overline{A}\),\(\overline{A}=S-A\)。

事件的运算

  1. 事件的和(并)(union):事件\(A\cup B=\{x|x\in A或x\in B\}\)称为事件A与事件B和事件。\(A\cup B\)也可记为\(A+B\)。
  2. 事件的积(intersection):事件\(A\cap B=\{x|x\in A且x\in B\}\)称为事件A与事件B积事件。\(A\cap B\)也记作AB.
  3. 事件的差(difference):事件\(A-B=\{x|x\in A且x\notin B\}\)称为事件A与事件B差事件AB也可记作A\B. \(A-B=A\overline{B}\).

事件的运算律

  1. 交换律:\(A\cup B=B\cup A\),AB=BA.
  2. 结合律:\((A\cup B)\cup C=A\cup (B\cup C)\),(AB)C=A(BC).
  3. 分配律:\((A\cup B)\cap C=AC\cup BC\),\((AB)\cup C=(A\cup C)\cap (B\cup C)\).
  4. 德摩根律:\(\overline{A\cup B}=\overline{A}\overline{B}\),\(\overline{AB}=\overline{A}\cup\overline{B}\).

其他常用运算公式

  • \(AB\cup A\overline{B}=A\)
  • \(A\cup\overline{A}B=A\cup B\)

概率

相关定义及其性质

频率的定义及其基本性质

定义:

在相同的条件下,进行了n次试验,在这n次试验中,事件A发生的次数\(n_A\)称为事件A发生的频数。比值\(\displaystyle \frac{n_A}{n}\)称为事件A发生的频率,并记成\(f_n(A)\).

基本性质:
  1. \(0\leqslant f_n(A)\leqslant 1\);
  2. \(f_n(S)=1\);
  3. 若\(A_1, A_2, \dots, A_k\)是两两互不相容的事件,则$$f_n(\bigcup\limits_{i=1}^{k} A_i)=\sum_{i=1}^{k}f_n(A_i).$$

概率的定义及其基本性质

概率的统计定义:

在相同的条件下,重复进行n次试验,事件A发生的频率稳定地在某一常数p附近摆动。且一般说来,n越大,摆动幅度越小,则称常数p为事件A的概率,记作P(A).

概率的公理化定义:

设试验的样本空间为\(\varOmega\),A为\(\varOmega\)的一个子集,对A赋值P(A),使之满足:

  1. 非负性:\(P(A)\geqslant 0\),
  2. 规范性正则性):\(P(\varOmega)=1\),
  3. 可列可加性:若\(A_1, A_2, \dots, A_n, \dots\)两两互不相容,则有$$P(\bigcup\limits_{i=1}^{\infty}A_i)=\sum_{i=1}^{\infty}P(A_i)$$则称数值P(A)为事件A的概率。
概率的性质
  1. \(P(\varnothing)=0\)
  2. 有限可加性:若\(A_1, A_2, \dots, A_n\)两两互不相容,则有$$P(\bigcup\limits_{i=1}^{n}A_i)=\sum_{i=1}^{n}P(A_i)$$
    • 与可列可加性等价。
  3. 逆事件的概率:\(P(A)=1-P(\overline{A})\)
  4. 概率的单调性:若\(A\subset B\),则有\(P(A)\leqslant P(B)\)
  5. 减法公式P(AB)=P(A)-P(AB)
    • 特殊的,当\(B\subset A\)时,P(AB)=P(A)-P(B)
  6. 加法公式:\(P(A\cup B)=P(A)+P(B)-P(AB)\)
    • 特殊的,当\(A\cap B=\varnothing\),即AB互不相容时,\(P(A\cup B)=P(A)+P(B)\).
    • 三个事件的加法公式:$$\begin{align}P(A\cup B\cup C)=&P(A)+P(B)+P(C)-P(AB) \\ &-P(AC)-P(BC)+P(ABC)\end{align}$$
    • 推广(广义加法公式):一般,对于任意n个事件\(A_1, A_2, \dots, A_n\),可以用归纳法证得$$\begin{align}P(\bigcup\limits_{i=1}^{n}A_i)=&\sum_{i=1}^{n}P(A_i)-\sum_{1\leqslant i<j\leqslant n}P(A_{i}A_j) \\ &+\sum_{1\leqslant i<j<k\leqslant n}P(A_i A_j A_k)+\dots+(-1)^{n-1}P(A_1 A_2 \dots A_n)\end{align}$$

等可能概型(古典概型)

具有下列两个特点的试验称为古典概型,也称等可能概型

  1. 每次试验只有有限种可能的试验结果;
  2. 每次试验中,各基本事件出现的可能性完全相同。

在古典概型中,若事件A包含k个基本事件,即\(A={e_{i_1}}\cup {e_{i_2}}\cup \dots\cup {e_{i_k}}\),这里\(i_1, i_2,\dots, i_k\)是1,2,…,n中某k个不同的数,则有$$P(A)=\sum_{j=1}^{k}P({e_{i_j}})=\frac{k}{n}=\frac{\text{A中包含的基本事件数}}{\text{S中包含的基本事件数}}$$

古典概型中常用的计数理论中的三个基本公式:

  1. 排列模式:从n个不同元素中任取\(r(r\leqslant n)\)个元素排成一列(考虑元素之间的先后次序),称此为一个排列,此种排列的总数记为\(P_{n}^{r}\)或\(A_{n}^{r}\):$$A_{n}^{r}=\frac{n!}{(n-r)!}$$
  2. 组合模式:从n个不同元素中任取\(r(r\leqslant n)\)个元素并成一组(不考虑元素之间的先后次序),称此为一个组合,此种组合的总数记为\(C_{n}^{r}\):$$C_{n}^{r}=\frac{n!}{r!(n-r!)}=\frac{A_{n}^{r}}{A_{r}^{r}}$$
  3. 多组组合模式:有n个不同元素,把它们分成k个不同的组,使得各组依次有\(n_1, \dots, n_k\)个元素,其中\(n_1+\dots +n_k=n\),则一共有\(\displaystyle \frac{n!}{n_1 !\dots n_k !}\)种不同的分发。

几何概型

如果随机试验的样本空间是一个区域(例如直线上的区间、平面或空间中的区间),而且样本空间中每个试验结果的出现具有等可能性,那么规定事件A的概率为:$$P(A)=\frac{\text{A的测度(长度、面积、体积)}}{\text{样本空间的测度(长度、面积、体积)}}$$

超几何分布的概率公式

这是浙大第四版《概率论与数理统计》里提到的东西。先占个位置。

条件概率

条件概率的定义

P(A)>0,则称$$P(B|A)=\frac{P(AB)}{P(A)}$$为事件A发生的条件下事件B发生的条件概率(conditional probability).

条件概率作为一种特殊的概率,也具有与一般概率相应的性质。具体略。

乘法公式

AB是任意两个随机事件,P(A)>0,P(B)>0,则$$P(AB)=P(A)P(B|A)$$

推广到多个事件的乘法公式:一般地,设\(A_1, \dots,A_n\)是n个随机事件,且\(P(A_1, \dots,A_{n-1})>0\),则$$P(A_1\dots A_n)=P(A_n |A_1\dots A_{n-1})\dots P(A_3 |A_1 A_2)P(A_2|A_1)P(A_1)$$

完备事件组

设\(\varOmega\)为试验的样本空间,\(B_1, B_2,\dots, B_n\)为试验的一组事件,若有

  1. \(B_i B_j=\varnothing (i\neq j, i, j=1,2,\dots,n)\);
  2. \(\bigcup\limits_{i=1}^{n}B_i=\varOmega\)

则称\(B_1, B_2,\dots B_n\)为\(\varOmega\)的一个划分或完备事件组

由定义可知,若\(B_1, B_2, \dots, B_n\)为\(\varOmega\)的一个划分,则在一次试验中,\(B_1, B_2, \dots, B_n\)必有且仅有一个发生.

全概率公式

设\(B_1, \dots B_n\)是样本空间\(\varOmega\)的一个划分,\(A\subset \varOmega\),则有$$P(A)=\sum_{i=1}^{n}P(B_i)P(A|B_i)$$

贝叶斯公式

设事件\(B_1, B_2,\dots B_n\)是样本空间\(\varOmega\)的一个划分,\(P(B_i)>0(i=1,2,\dots,n)\),A为试验的任一事件,且P(A)>0,则有$$P(B_i |A)=\frac{P(B_i)P(A|B_i)}{\sum\limits_{j=1}^{n}P(B_j)P(A|B_j)}(i=1,2,\dots,n)$$

杂项

  • 全概率公式求出的就是在多个原因之下结果A发生的概率;贝叶斯公式求出的是当结果A发生时,这一结果是由原因\(B_i\)引起的概率。
  • 概率是由以往的数据分析得到的,叫做先验概率,而在得到信息之后再重新加以修正的概率叫做后验概率

事件的独立性

两个事件的独立性

定义

若事件A与事件B满足$$P(AB)=P(A)P(B)$$则称事件A与事件B相互独立(mutually independent),简称AB独立。若AB不相互独立,则称AB相依的

基本性质
  1. AB独立,且P(A)>0,则P(B|A)=P(B). 反之亦然.
  2. AB独立,则有A与\(\overline{B}\)独立,\(\overline{A}\)与B独立,\(\overline{A}\)与\(\overline{B}\)独立.
  3. 必然事件\(\varOmega\)和不可能事件\(\varnothing\)与任一事件独立.

n个事件相互独立

定义

如果事件\(A_1,\dots,A_n\)对与任意\(k(1<k\leqslant n)\)和任意\(1\leqslant i_1<i_2 <\dots <i_k \leqslant n\),\(P(A_{i_1}A_{i_2}\dots A_{i_k})=P(A_{i_1})P(A_{i_2})\dots P(A_{i_k})\)成立,则称\(A_1,\dots, A_n\)相互独立.

基本性质
  1. 若事件\(A_1,A_2,\dots, A_n(n\geqslant 2)\)相互独立,则将\(A_1, A_2,\dots, A_n\)个事件也是相互独立的.
  2. n个事件\(A_1, A_2,\dots, A_n(n\geqslant 2)\)相互独立,则将\(A_1, A_2,\dots, A_n\)中任意多个事件换成它们各自的对立事件,所得的n个事件仍然相互独立.
  3. 如果事件\(A_1,\dots, A_n\)相互独立,则$$P(\bigcup\limits_{i=1}^{n}A_i)=1-\prod_{i=1}^{n}P(\overline{A_i})=1-\prod_{i=1}^{n}[1-P(A_i)]$$

重复独立试验

  • n次试验中,若任意一次试验的诸结果是相互独立的,则称这n次试验为重复独立试验独立试验序列.
  • 伯努利概型:假设一次试验中只有事件A发生或\(\overline{A}\)发生,每次试验的结果与其他各次试验结果无关,这样的n次重复试验,称为n重伯努利试验或伯努利概型.

Bibliography

Leave a comment

Your email address will not be published. Required fields are marked *