学科概览

• 不确定性信号
• 噪声处理：
  信源->发送设备->信道传输->接收设备->信宿
• 用到概率论、随机过程分析芝士
  

  随机变量基本概念

  
  

  随机试验E (Experiment)

• 可重复
• 独立
• 结果不确定
• 结果范围有限
  

  随机事件

  
  

  一次随机试验

  互斥事件

  逆事件

基本事件

所有事件情况

样本点s (Sample)

某种可能结果

样本空间S (Samples)

所有可能结果的集合

频数

打n局游戏，赢了nA局

频率

nA/n

概率

打了n->∞游戏
$$\lim_{n \to \infty}{nA\over n}$$

概率类型

• 古典
  有限个基本事件，离散
• 几何
  无限个基本事件，连续
  

  概率的公理化定义

• (非负性)P(A) >= 0
• (归一性)P(S) = 1
• (可列可加性)A1~An互斥，
  $$P(U^{n}_{i=1}{Ai})={{\sum}\{i=1}^{n}{P(A_i)}}$$
  

概率空间

(S,F,P):

• Samples: 样本空间
• F: 时间域
• P: 概率

条件概率

$$P(A|B) = {P(AB)\over P(B)}$$
$$P(B)!=0$$

全概率公式

条件：

• U(Bn) = S
• B1~Bn互斥

$$P(A) = \sum^{n}_{i=1}{P(A|B_i)P(B_i)}$$

贝叶斯公式

P(A|B) 与 P(B|A) 的关系

用 P(A|B) 与 P(B|A) 的定义式，通过其共有的P(AB)衔接出一个等式：
$$P(B|A)={{P(A|B)P(B)}\over{P(A)}}$$
再将分母P(A)代入全概率公式，得到贝叶斯公式
$$P(B|A)={P(A|B)P(B)\over\sum^{n}_{i=1}{P(A|B_i)P(B_i)}}$$

统计独立

$$P(AB) = P(A)P(B)$$
注：三事件两两独立 不可得到 三事件相互独立

概率分布函数

$$F(x) = P[X \le x]$$

注：其中小写的x表示样本点，大写的X表示样本空间

$$F(x,y)=P[X \le x, Y \le y]$$

注：二维分布是积事件

概率密度函数

物理上的密度：$这部分体积的质量 \over \Delta 体积$

概率密度：
$$X落在这个范围的概率\over \Delta 随机变量$$
$$ f(x) ={ \partial{F(x)} \over \partial{x} } $$

$$ f(x,y) ={ \partial^2{F(x,y)} \over \partial{x} \partial{y} }$$
$$F(x) = \int _{-\infty} ^x f(x,y) dx$$

$$F(x,y) = \int {-\infty} ^x \int {-\infty} ^y f(x,y) dxdy$$

边沿分布

二维联合分布函数，分离出来X和Y单独的分布函数，就是边沿分布
同理于概率密度

$$F_X(x) = P[X \le x, Y \le \infty]$$

$$fX(x) = \int {-\infty} ^{+\infty} f(x,y) dy $$

独立

$$F(x,y) = F _X(x)F_Y(y)$$

$$f(x,y) = f _X(x)f_Y(y)$$