语音识别笔记(三)

隐马尔科夫模型-HMM

Posted by Pelhans on January 11, 2018

HMM作为一种典型的生成模型,在各个领域被广泛应用。我之前一直以为在NLP的序列标注任务中已经完全被CRF取代了,但最近的学习才发现它惊人的生命力。

第三讲

个人由于多多少学过一些马尔科夫相关内容,因此关于过于基础的知识和公式推导此处将被略去,如有疑问,还请在评论区留言。

概述

概率图模型是在概率模型的基础上,使用了基于图的方法来表示概率分布,是一种通用化的不确定性知识和处理方法。下图给出常见的图模型:

有关图模型的知识读者可以查看机器学习与模式识别(PRML)一书的第八章。

马尔科夫模型

若系统在时间t的状态q只与其在时间t-1的状态相关,即:

那么系统构建成一个离散的一阶马尔科夫链(Markov Chain)。

若只考虑上式独立于时间t的随机过程:

则该过程为马尔科夫模型,其转移概率需满足半正定和归一的条件。

隐马尔科夫模型

在在马尔科夫模型中,每个状态代表了一个可观察的事件,所以马尔科夫模型有时叫做可视马尔科夫模型。但在实际应用中我们有时不知道模型所经过的状态序列,只知道状态的概率函数,因此该模型是一个双重的随机过程。其中模型的转换状态是隐蔽的,可观察事件的随机过程是隐蔽的状态转换过程的随机函数。

下图给出HMM的图解:

举个例子

上面的定义看以来很晦涩,我们来举个例子来理解它:

假设在暗室中由N个口袋,每个口袋中由M种不同颜色的求。一个实验员根据某一概率分布随机的选取一个初始口袋,从中根据不同颜色的求的分布概率随机的取出一个球并记录下该球的颜色。而后再根据口袋的概率分布选取一个口袋,再根据不用管色球的概率分布随机选取一个球,记录下颜色。重复这个过程我们就得到了一串标记球颜色的序列,如“红黄红蓝…”。当你把这串序列给暗室外的人看的时候,他们只是看到最终球的颜色序列,但不知道口袋的序列。

在上面的例子中,口袋对应于HMM中的隐藏状态,而颜色序列则代表可观察的输出序列。从一个口袋转向另一个口袋代表状态间的转换,从口袋中取球代表该状态的观察状态输出。

HMM的组成部分

从上面的例子可以看出,HMM由如下几个部分组成。

1) 模型中状态的数目N(上例中口袋的数目)。

2) 从每个状态可能输出的不同符号的数目M(上例中口袋的数目球的不同颜色的数目);

3) 状态转移概率矩阵 ,为实验员从一个口袋转向另一个口袋取球的概率,其中:

4)从状态观察到符号的概率分布矩阵, 为实验员从第j个口袋中抽取出第k种颜色的球的概率,其中:

观察符号的概率又称为符号发射概率。

5) 初始状态概率分布,其中:

一般地,一个HMM记为一个五元组,其中S为状态的集合,K为输出符号的集合,分别为初始状态的概率分布、状态转移概率和符号发射概率。当考虑潜在时间随机地生成表面事件时,HMM是非常有用的。

HMM的三个基本问题

1) 计算likelihod:给定HMM的模型参数和一个观察序列,计算出观察序列O的概率分布矩阵 ,可采用前向算法进行解决。

2) 解码问题:给定一个HMM的模型参数和观察序列,找到最优的状态序列。可以用Viterbi算法解决。

3) HMM的训练: 给定一个观察序列和HMM一系列可能的状态,如何调节HMM的参数使得 最大。

以下将对应于三个问题分别进行解决。

计算likelihood: 前向算法

对于该问题,我们采用前向算法来进行解决。

首先我们定义一个前向变量

它的含义为在时间t,HMM输出了序列O_{1}O_{2}\ldots O_{t},并且位于状态的概率。

前向算法的主要思想是如何快速地计算前向变量,这样我们就可以根据计算出 ,即:

经过观察可知,在时间t+1的前向变量可以根据在时间t时的前向变量的值采用动态规划算法来归纳计算:

公式的结构可以分解来进行解释,首先根据前向变量的定义, 在时间t时到达状态并输出观察序列时的前向变量为。从状态转移到状态并在状态输出的概率为。因此从初始时间到t+1整个过程的概率为:。由于HMM可以从不同的转移到,一共有N个不同的状态,因此就得到了上式。

前向算法总结为:

步骤1: 初始化:

步骤2: 归纳计算:

步骤3:求和终结

相对应的还有后向算法,后向变量的定义为:

这样我们就可以类比于前向算法对后向变量进行更新了。

解码问题:Viterbi算法

维特比算法用来求解HMM的第二个问题,即给定一个HMM的模型参数和观察序列,找到最优的状态序列.因此我们的目标是在给定模型参数和观察序列O的条件下,使得条件概率 最大的状态序列,即:

此时优化的是整个状态序列。为了应用维特比算法,我们首先定义一个维特比变量:

与前向变量类似,有如下递归关系:

这种递归关系能够使我们使用动态规划搜索技术。同时为了记录在时间t时,HMM通过哪一条概率最大的路径到达状态,维特比算法设置了另外一个变量用于路径记忆,让记录该路径上状态的前一个状态。综合上面所述,我们得到完整的维特比算法:

1): 初始化:

2): 归纳计算:

记忆回退路径:

3) 终结:

4)路径(状态序列)回溯:

维特比算法的时间复杂度和前向算法,后向算法一样,都是.在实际应用中,往往会所搜n个最佳路径.

HMM的训练:前向后向算法

前向后向算法用来求解HMM中的第三个问题,即给定一个观察序列,如何调节模型参数, 使得最大化.

期望最大化(Exoectation maximization, EM)算法可以用于含有隐变量的统计模型的参数最大似然估计.它的核心思想是初始时随机地给模型的参数赋值,该赋值遵循模型对参数的限制.而后我们将得到模型的参数.根据求得模型中隐变量的期望值.由该期望值又可以重新得到模型参数的新估计值,由此得到模型的新参数.循环进行该过程,知道参数收敛于最大似然估计值.

这里我们介绍EM算法的一种具体实现方法,称之为Baum-Welch算法或前向后向算法.

从上面的描述中,我们看到隐状态的期望和参数的更新公式是我们关心的,因此我们先求期望.

给定HMM的参数和观察序列,在时间t位于状态,时间t+1位于状态的概率 可以由下面的公式计算获得:

给定HMM的参数和观察序列,在时间t位于状态的概率为:

它表示对下一所有可能状态j的求和.得到期望后,我们就可以对参数进行更新了.

有了上述算法,我们就可以按照E-M的步骤进行计算.E步骤计算期望值.M步骤用E步骤得到的期望值重新估计参数,得到新的模型参数.重复这些步骤直至模型参数收敛.

絮叨

关于马尔科夫真的有太多需要写的,也有太多需要记忆的,毕竟在深度学习席卷ML之前,HMM是霸主一样的存在,被应用于各行各业,这里只是给出很基础的一些概念.其他很多都是这个的衍生.我自己之前虽然多次学习,但一直都是模模糊糊,每次看完后都会忘掉.直到这次完整写出来理出思路.愿随着笔记的增长,我能对ML和NLP理解的更深刻,走的更远.GOod Luck~