北屿

北屿小智障

0%

概率统计笔记bp

Posted on Edited on In

可算是发书了
Update: 20190909

第一章 概率论的基本概念

第一节 样本空间、随机事件

随机试验
人们是通过试验去研究随机现象的，把对随机现象加以研究所进行的观察或实验，称为试验. 若一个试验具有下列3个特点：

  1. 可以在相同的条件下重复地进行
  2. 每次试验的可能结果不止一个，并且事先可以明确试验所有可能出现的结果
  3. 进行一次试验之前不能确定哪一个结果会出现
    则称这一试验为随机试验，记为$E$

在一个试验中，不论可能出现的结果有多少，总可以从中找出一组基本结果，满足：

  1. 每进行一次试验，必然出现且只能出现其中的一个基本结果
  2. 任何结果，都是由其中的一些基本结果所组成
    随机试验$E$的所有基本结果组成的集合称为样本空间，记为$\Omega $. 样本空间的元素，即$E$的每个基本结果，称为样本点

随机试验$E$的样本空间$\Omega $的子集称为$E$的随机事件，简称事件，通常用大写字母$A,B,C,\cdots$来表示，在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生
特别地，由一个样本点组成的单点集，称为基本事件.
每次试验中都必然发生的事件，称为必然事件. 样本空间$\Omega $包含所有的样本点，它是$\Omega $自身的子集，每次试验中都必然发生，故它就是一个必然事件。 因而必然事件也用$\Omega $表示.
在每次试验中不可能发生的事件称为不可能事件，用$\varnothing $表示

事件之间的关系及其运算

  1. 如果事件$A$发生必然导致事件$B$发生，则称事件$A$包含于事件$B$(或称事件$B$包含事件$A$),记为$A\subset B$(或$B\supset A$).
  2. “事件$A$与事件$B$中至少有一个发生”的事件称为$A$与$B$的并(和),记为$A\cup B$.
  3. “事件$A$与事件$B$同时发生”的事件称为$A$与$B$的交(积),记为$A\cap B$(或$AB$).
  4. “事件$A$发生而事件$B$不发生”的事件称为$A$与$B$的差,记为$A-B$.
  5. 如果两个事件$A$与$B$不可能同时发生,则称事件$A$与$B$为互不相容(互斥). 记为$A\cap B=\varnothing$.
  6. 若$A\cup B=\Omega $且$A\cap B=\varnothing $,则称事件$A$与事件$B$互为逆事件(对立事件). $A$的对立事件记为$\bar {A}$,$\bar{A}$是由所有不属于$A$的样本点组成的事件,它表示”$A$不发生”这样一个事件,显然$\bar{A}=\Omega -A$

一般事件运算满足下列关系

  1. 交换律 $A\cup B=B\cup A, A\cap B=B\cap A$.
  2. 结合律 $A\cup (B\cup C)=(A\cup B)\cup C, A\cap (B\cap C)=(A\cap B)\cap C$.
  3. 分配律 $A\cup (B\cap C)=(A\cup B)\cap (A\cup C),A\cap (B\cup C)=(A\cap B)\cup (A\cap C)$.
  4. $A-B=A\bar {B}=A-AB$.
  5. 对有穷个或可数无穷个事件$A_i$,恒有$\overline{\bigcup_{i=1}^{n}A_i}=\bigcap_{i=1}^n\overline{A_i},\overline{\bigcap_{i=1}^{n}A_i}=\bigcup_{i=1}^{n}\overline{A_i}$

第二节 概率、古典概型

定义1.1 在相同的条件下，进行了$n$次试验. 若随机事件$A$在$n$次试验中发生了$k$次，则此比值$\frac{k}{n}$称为事件$A$在这$n$次试验中发生的频率，记为$f_n(A)=\frac{k}{n}$

频率具有以下性质：

  1. 对于任一事件$A$，有$0\leqslant f_n(A)\leqslant 1$
  2. 对于必然事件$\Omega$，有$f_n(\Omega)=1$
  3. 若事件$A,B$互不相容，则$f_n(A\cup B)=f_n(A)+f_n(B)$.

定义1.2 设事件$A$在$n$次重复试验中，发生的次数为$k$，当$n$很大时，频率$\frac{k}{n}$在某一数值$p$附近摆动，而随着试验次数$n$的增加，发生较大摆动的可能性越来越小，则称数$p$为事件$A$发生的概率，记为$P(A)=p$

概率公理化定义

定义1.3 设$\Omega$为样本空间，$A$为事件，对于每一个事件$A$赋予一个实数，记为$P(A)$，如果$P(A)$满足以下条件:

  1. 非负性：$P(A)\geqslant 0$
  2. 规范性：$P(\Omega)=1$
  3. 可数可加性：对于两两互不相容的可数无穷多个事件$A_1,A_2,\cdots,A_n,\cdots$，有$P(\bigcup_{n=1}^{\infty}A_n)=\sum_{n=1}^{\infty}P(A_n)$
    则称实数$P(A)$为事件$A$的概率.
  • 性质1 $P(\varnothing)=0$
  • 性质2(有限可加性) 若$A_1,A_2,\cdots, A_n$为两两互不相容事件，则有$P(\bigcup_{k=1}^{n}A_k)=\sum_{k=1}^{n}P(A_k)$.
  • 性质3 设$A,B$是两个事件，则有$P(B-A)=P(B)-P(AB)$.
  • 性质3’ 设$A,B$是两个事件，若$A\subset B$，则有$P(B-A)=P(B)-P(A); P(A)\leqslant P(B)$
  • 性质4 对于任一事件$A$，有$P(A)\leqslant 1$
  • 性质5 对于任一事件$A$，有$P(\bar{A})=1-P(A)$
  • 性质6(加法公式) 对于任意两个事件$A,B$，有$P(A\cup B)=P(A)+P(B)-P(AB)$.

古典概型

定义1.4 若随机试验$E$满足以下条件：

  1. 试验的样本空间$\Omega$只有有限个样本点，即$\Omega=\{\omega_1,\omega_2,\cdots,\omega_n\}$.
  2. 试验中每个基本事件的发生都是等可能的，即$P(\{\omega_n\})=P(\{\omega_2\})=\cdots=P(\{\omega_n\})$
    则称此试验为古典概型，或称为等可能概型

第三节 条件概率、全概率公式

定义1.5 设$A,B$为两个事件，且$P(B)>0$，则称$\frac{P(AB)}{P(B)}$为事件$B$已发生的条件下事件$A$发生的条件概率，记为$P(A|B)$，即$P(A|B)=\frac{P(AB)}{P(B)}$.

乘法定理

定理1.1 设$P(A)>0$，则有$P(AB)=P(A)P(B|A)$.

全概率公式和贝叶斯公式

定义1.6 设$\Omega$为样本空间$A_1,A_2,\cdots,A_n$为$\Omega$的一组事件，若满足

  1. $A_iA_j=\varnothing, i\neq j; i,j=1,2,\cdots,n$
  2. $\bigcup_{i=1}^{n}A_i=\Omega$.

定理1.2(全概率公式) 设$B$为样本空间$\Omega$中的任一事件，$A_1,A_2,\cdots,A_n$为$\Omega$的一个划分，且$P(A_i)>0,i=1,2,\cdots,n$，则有$P(B)=\sum_{i=1}^{n}P(A_i)P(B|A_i)$称上述公式为全概率公式

定理1.3(贝叶斯公式) 设样本空间为$\Omega$，$B$为$\Omega$中的事件,$A_1,A_2,\cdots,A_n$为$\Omega$的一个划分，且$P(B)>0,P(A_i)>0$，$i=1,2,\cdots,n$，则有$P(A_i|B)=\frac{P(B|A_i)P(A_i)}{\sum_{j=1}^{n}P(B|A_j)P(A_j)},i=1,2,\cdots,n$.称上式为贝叶斯公式，也称为逆概率公式

第四节 独立性

事件的独立性

定义1.7 若事件$A_1,A_2$满足：$P(A_1A_2)=P(A_1)P(A_2)$，则称事件$A_1,A_2$是相互独立的

定理1.4 若事件$A$与$B$相互独立，则下列各对事件也相互独立：$A$与$\bar{B}$,$\bar{A}$与$B$,$\bar{A}$与$\bar{B}$.

定理1.5 若事件$A,B$相互独立，且$0<P(A)<1$，则$P(B|A)=P(B|\bar{A})=P(B)$

定义1.8 如果$A_1,A_2,A_3$两两独立，且$P(A_1A_2A_3)=P(A_1)P(A_2)P(A_3)$则$A_1,A_2,A_3$相互独立

定义1.9 对$n$个事件$A_1,A_2,\cdots,A_n$，若以下$2^n-n-1$个等式成立(公式就是每$i$个公式的组合全满足，同时发生的概率等于各自发生概率的乘积）

由定义可知，1. $n$个事件相互独立，则其中任意$k(2\leqslant k\leqslant n)$个事件也相互独立

  1. 若$n$个事件相互独立，则将他们中任意多个事件换成它们的对立事件，所得的$n$个事件仍相互独立

伯努利试验
若试验$E$只有两个可能结果：$A$及$\bar{A}$，则称$E$为伯努利试验，将$E$独立地重复进行$n$次，则称这一串重复的独立试验为$n$重伯努利试验

第二章 随机变量

第一节 随机变量及其分布函数

定义2.1 设随机试验的样本空间为$\Omega$，如果对$\Omega$中每一个元素$e$，有一个实数$X(e)$与之对应，这样就得到一个定义在$\Omega$上的实值单值函数$X=X(e)$，称之为随机变量

定义2.2 设$X$是随机变量，$x$为任意实数，函数$F(x)=P\{X\leqslant x\}$，称为$X$的分布函数

分布函数具有以下基本性质：

  1. $F(x)$为单调不减函数
  2. $0\leqslant F(x)\leqslant 1$，且$\lim_{x\to +\infty}F(x)=1$,常记为$F(+\infty)=1$，$\lim_{x\to -\infty}F(x)=0$,常记为$F(-\infty)=0$
  3. $F(x+0)=F(x)$，即$F(x)$为右连续

第二节 离散型随机变量及其分布

任一离散型随机变量的分布律$\{p_k\}$都具有下述两个基本性质

  1. 非负性 $p_k\geqslant 0, k=1,2,\cdots$
  2. 归一性 $\sum_{k=1}^{\infty}p_k=1$

常见的离散型随机变量的概率分布

  1. 两点分布
    若随机变量$X$只有两个取值$x_1,x_2$，分布律为$P\{X=x_1\}=1-p,0 < p < 1; P\{X=x_2\}=p$，则称$X$服从参数为$p$的两点分布
  2. 二项分布
    若随机变量$X$的分布律为$P\{X=k\}=C_{n}^{k}p^k(1-p)^{n-k},k=0,1,\cdots,n$，则称$X$服从参数为$n,p$的二项分布，记作$X\sim b(n,p)$

定理2.1 泊松定理 设$np_n=\lambda (\lambda>0, \lambda\text{ is a const number.})$，则对任意一固定的非负整数$k$，有$\lim_{n\to \infty}C_{p}^{k}p_{n}^{k}(1-p_n)^{n-k}=\frac {\lambda ^ke^{-\lambda}}{k!}$

  1. 泊松分布
    若随机变量$X$的分布律为$P\{X=k\}=\frac {\lambda ^ke^{-\lambda}}{k!},k=0,1,\cdots$，其中$\lambda >0$是常数，则称$X$服从参数为$\lambda$的泊松分布，记为$X\sim P(\lambda)$

连续型随机变量及其分布

定义2.3 若对随机变量$X$的分布函数$F(x)$，存在非负函数$f(x)$，使对任意实数$x$，有$F(x)=\int_{-\infty}^{x}=f(t)\text{d}t$，则称$X$为连续型随机变量，其中$f(x)$称为$X$的概率密度函数，简称概率密度或密度函数
$f(x)$具有以下性质

  1. $f(x)\geqslant 0$.
  2. $\int_{-\infty}^{\infty}f(x)\text{d}x=1$.
  3. $P\{x_1< X\leqslant x_2\}=F(x_2)-F(x_1)=\int_{x_1}^{x_2}f(x)\text{d}x(x_1\leqslant x_2)$
  4. 若$f(x)$在$x$点处连续，则有$F’(x)=f(x)$

常见连续型随机变量

  1. 均匀分布

  2. 指数分布

  3. 正态分布

参考

  • 《概率论与数理统计》，韩旭里、谢永钦，北京大学出版社
Related Posts
Have fun.