机器学习系列手记：第6篇 概率图模型之马尔可夫模型

概率图模型概述

马尔可夫模型

马尔可夫过程是一种具备无后效性特征的随机过程。若在某一随机过程中，t_n 时刻所处的状态 x_n 的条件概率分布，仅取决于其前一时刻的状态 x_{n-1}，即满足 P(x_n|x_1,x_2,...,x_{n-1})=P(x_n|x_{n-1})，则该过程被定义为马尔可夫过程。当时间与状态的取值均为离散形式时，此类过程亦被称为马尔可夫链，具体示例如图6.4所示。

隐马尔可夫模型是一种用于描述包含未被观测参数（即隐状态）的马尔可夫链的生成模型，其对应的概率图结构如图6.5所示。在基础的马尔可夫模型中，所有状态对观察者而言都是可以直接获取的，因此该模型仅涉及状态之间的转移概率。然而，在隐马尔可夫模型中，隐状态 x_i 并不能被直接观测到，观察者所能获得的信息仅为与每个隐状态 x_i 相关联的输出 y_i。此时，观测状态 y_i 的概率分布仅由对应的隐状态 x_i 所决定。该模型所包含的参数涵盖多个方面：包括不同隐状态之间发生的转移概率、从隐状态到观测状态的输出概率、隐状态 x 的