课程大致介绍
- 不确定性信号
- 噪声处理:
信源->发送设备->信道传输->接收设备->信宿 - 用到概率论、随机过程分析芝士
随机变量基本概念
随机试验E (Experiment)
- 可重复
- 独立
- 结果不确定
- 结果范围有限
随机事件
一次随机试验
互斥事件
逆事件
基本事件
所有事件情况
样本点s (Sample)
某种可能结果
样本空间S (Samples)
所有可能结果的集合
频数
打n局游戏,赢了nA局
频率
nA/n
概率
打了n->∞游戏
\lim_{n \to \infty}{nA\over n}
概率类型
- 古典
有限个基本事件,离散 - 几何
无限个基本事件,连续
概率的公理化定义
- (非负性)P(A) >= 0
- (归一性)P(S) = 1
- (可列可加性)A1~An互斥,
P(U^{n}_{i=1}{A_i})={{\sum}\_{i=1}^{n}{P(A_i)}}
概率空间
(S,F,P):
- Samples: 样本空间
- F: 时间域
- P: 概率
条件概率
P(A|B) = {P(AB)\over P(B)}
P(B)!=0
全概率公式
条件:
- U(Bn) = S
- B1~Bn互斥
P(A) = \sum^{n}_{i=1}{P(A|B_i)P(B_i)}
贝叶斯公式
P(A|B) 与 P(B|A) 的关系
用 P(A|B) 与 P(B|A) 的定义式,通过其共有的P(AB)衔接出一个等式:
P(B|A)={{P(A|B)P(B)}\over{P(A)}}
再将分母P(A)代入全概率公式,得到贝叶斯公式
P(B|A)={P(A|B)P(B)\over\sum^{n}_{i=1}{P(A|B_i)P(B_i)}}
统计独立
P(AB) = P(A)P(B)
注:三事件两两独立
不可得到
三事件相互独立