张学工 模式识别（第二章） 统计决策方法

基本概念

• 概率密度函数：用于形象地描述连续型随机变量的特性，其作用是反映某一瞬时幅值出现在特定范围内的概率。该函数揭示了各个点处的概率分布情况以及各点对应的概率相对大小。
  在坐标系中，概率密度函数的y值代表了在x点处出现的概率密度，即单位区间内概率的分布强度。

  • 分布函数：用于表征随机变量出现在任意区间内的概率
    在坐标系中，分布函数的取值y表示随机变量x落在区间（负无穷，正无穷）内的概率。

分布函数实质上是概率密度函数在整个实数域范围内进行积分的结果。

• 先验概率P(w_i): 在未对样本进行任何观察或测量之前所具有的概率，即在获取观测数据前各类别之间的分布状态

• 类条件概率P(x|w_i)：表示在给定类别w_i的情况下，样本x所对应的概率密度函数。
  换句话说，该分布形式受到所属类别状态的影响而发生变化

• 后验概率P(w_i|x)：在已知样本x的前提下，该样本属于类别w_i的概率
  例如：当硬币重量为x时，判断其属于类别w_i的可能性

• 贝叶斯公式：$P(w_i|x)=\frac{p(x,w_i)}{p(x)}=\frac{p(x|w_i)p(w_i)}{p(x)}=\frac{p(x|w_i)p(w_i)}{\sum_{j=1}^{n}p(x|w_j)p(w_j