隐马尔科夫模型总结

隐马尔科夫模型总结

1.概念

状态序列：

隐藏的马尔科夫链随机⽣成的状态序列，称为状态序列（state quence）

观测序列

每个状态⽣成⼀个观测，⽽由此产⽣的观测的随机序列，称为观测序列（obervation quence）

马尔科夫模型：

马尔科夫模型是关于时序的概率模型，描述由⼀个隐藏的马尔科夫链随机⽣成不可观测的状态随机序列，再由各个状态⽣成⼀个观测⽽

产⽣观测随机序列的过程。

2 形式定义：

设Q是所有可能的状态的集合，V是所有可能的观测的集合。

其中，N是可能的状态数，M是可能的观测数。

I是长度为T的状态序列，O是对应的观测序列。

A是状态转移矩阵(⼀个时刻⼀个状态转移矩阵)：

i=1,2,…,N; j=1,2,…,N

其中，在时刻t，处于 状态的条件下在时刻t+1转移到状态 的概率：

B是观测概率矩阵(⼀个时刻⼀个观测概率矩阵)：

k=1,2,…,M; j=1,2,…,N

其中，在时刻t处于状态 的条件下⽣成观测 的概率：

是初始状态概率向量：

其中，

隐马尔科夫模型由初始状态概率向量、状态转移概率矩阵A和观测概率矩阵B决定。和A《狼王梦》读后感 决定状态序列，B决定观测序列。因此，隐马尔

科夫模型可以由三元符号表⽰，即：

A,B,称为隐马尔科夫模型的三要素。

从定义可知，隐马尔科夫模型的两个基本假设：

（1）：设隐马尔科夫链在任意时刻t的状态只依赖于其前⼀时刻的状态，与其他时刻的状态及观测⽆关，也与时刻t⽆关。（齐次马尔

科夫性假设）

（2）：假设任意时刻的观测只依赖于该时刻的马尔科夫链的状态，与其他观测和状态⽆关。（观测独⽴性假设）

3.概率计算问题

问题描述：给定模型 和观测序列，计算在模型下观测序列O出现的概率P(O|)。

3.1 直接计算法

直接计算法是按照概率公式直接计算。通过列举所有可能的长度为T的状态序列I，求各个状态序列I与观测序列O的联合概率P(O,I|)，然后

对所有可能的状态序列求和，得到P(O|)，即

计算量太⼤，时间复杂度：

3.2前向算法

前向概率

给定模型，定义到时刻t部分观测序列为 且状态为 的概率为前向概率。记作：

观测序列概率的前向算法

输⼊：隐马模型，观测序列O;

输出：观测序列概率P(O|).

1. 初值(t=1)

i=1,2,…,N

2. 递推

对t=1,2,…,N

3. 终结

3.3后向算法

后向概率

给定，定义在时刻t状态为 的条件下，从t+1到T的部分观测序列为 的概率为后向概率，记作

观测序列概率的后向算法

输⼊：马尔科夫模型，观测序列O；

输出：观测序列概率P(O|)。

1. 初值

2. 递推

对t=T-1,T-2,…,1

3. 终结

4.学习问题

问题描述：已知观测序列，估计模型，使P(O|)最八一建军节的来历 ⼤。即⽤极⼤似然估计的⽅法估计参数。

4.1 监督学习⽅法

已给训练数据包含S个长度相同的观测序列和对应的状态序列，利⽤极⼤使然估计法来估计隐马尔科夫模型的参数。

1. 转移概率 的估计

2. 观测概率 的估计

3. 初始状态概率 的估计 为S个样本中初始状态为 的频率。

4. 评价：由于监督学习需要使⽤训练数据，⽽⼈⼯标注训练新人工作总结 数据的代价太⾼，更多使⽤⾮监督学习的⽅法。

4.2 ⾮监督学习——Baum-Welch算法（EM）

思路描述：将状态序列数据看做是不可观测的隐数据I，那么因马尔科夫模型事实上是⼀个含有隐变量的概率模型：

可由EM算法实现：

(1). 确定完全数据的对数似然函数

完全数据是

完全数据的对数似然函数是：logP(O,I|)。

(2). EM算法的E步：

注意，这⾥忽略了对于⽽⾔是常数因⼦的

其中， 是隐马尔科夫模型参数的当前估计值，是要极⼤化的因马尔科夫模型参数。

⼜有：

于是 可以写成：

(3). EM算法的M步：极⼤化Q函数 求模型参数A，B，。

应⽤拉格朗⽇乘⼦法对各参数求偏导，解得：

其中：

5.预测问题

问题描述：也称为解码（decoding）奔跑吧兄弟成员 问题。已知观测序列 和模型，求给定观测序列条件概率P(I|O)最⼤的状态序列，即给定观测序

列，求最有可能的对应的状态序列。

维特⽐算法（动态规划）

输⼊：模型=(A,B,)和观测

输出：最优路径

(1).初始化：

(2).递推。对t=2,3,…,T

(3).终⽌：

(4).最优路径回溯，对t=T-1,T-2,…,1

求得最优路径

其中:

即时刻t状态为i的所有单个路 中概率最⼤值。

即时刻t状态奖学金申请书范文 为i的所有单个路 中概率最⼤的路径的第t-1古老的故事 个节点。（有点像迪杰斯特拉中最短路的路径的上⼀个节点）