【机器学习】隐含马尔科夫模型从初识到应用

一、前述

    马尔可夫&＃xff08;1856~1922&＃xff09;&＃xff0c;苏联数学家。切比雪夫的学生。在概率论、数论、函数逼近论和微分方程等方面卓有成就。
    马尔可夫模型&＃xff08;Markov Model&＃xff09;是一种统计模型&＃xff0c;广泛应用在语音识别&＃xff0c;词性自动标注&＃xff0c;音字转换&＃xff0c;概率文法等各个自然语言处理等应用领域。经过长期发展&＃xff0c;尤其是在语音识别中的成功应用&＃xff0c;使它成为一种通用的统计工具。

二、具体

1、案例

问题一&＃xff1a;
         如果今天的天气状况是晴天&＃xff0c;那么明天是多云而且后天有雾的概率是多大&＃xff1f;

         1*0.2*0.1(1*0.2是从晴天转多云的概率&＃xff0c;*0.1是从多云转向有雾的概率)
问题二&＃xff1a;
         如果今天有雾&＃xff0c;那么两天后有雨的概率是多大&＃xff1f;&＃xff08;第二天的天气可以是晴天、多云、有雨或有雾&＃xff09;

 概率累加即可

         
 问题三&＃xff1a;    
         在天气问题中&＃xff0c;如果今天是晴天&＃xff0c;我们求第三天最可能的天气状况&＃xff0c;应该怎么做&＃xff1f;
   &＃xff08;假定今天的天气只能通过过去几天已知的天气情况进行预测——而对于其他因素&＃xff0c;譬如风力、气压等则没有考虑。在这个例子以及其他相似的例子中&＃xff0c;这样的假设显然是不现实的&＃xff09;

问题四&＃xff1a;

直接算法
如果今天的天气状况是晴天&＃xff0c;那么明天是多云而且后天有雾的概率是多大&＃xff1f;
        p(S2&＃61;cloudy,S3&＃61;foggy|S1&＃61;sunny)
      &＃61;P(S3&＃61;foggy|S2&＃61;cloudy,S1&＃61;sunny)*P(S2&＃61;cloudy|S1&＃61;sunny)
      &＃61;P(S3&＃61;foggy|S2&＃61;cloudy)*P(S2&＃61;cloudy|S1&＃61;sunndy)
      &＃61;0.1*0.2
      &＃61;0.02
总结&＃xff1a;

在问题一中&＃xff0c;我们注意到注意每一个状态都是唯一的依赖于前一个状态&＃xff0c;就像交通灯一样&＃xff0c;如果交通灯为绿色&＃xff0c;那么下一个颜色状态将始终是黄色——也就是说&＃xff0c;该系统是确定性的。确定性系统相对比较容易理解和分析&＃xff0c;因为状态间的转移是完全已知的&＃xff0c;对于给定的天气状况&＃xff0c;我们可以直接通过状态间的装换概率来计算&＃xff0c;但问题二中&＃xff0c;我们只已知了今天和后天的天气状况&＃xff0c;而明天的天气状况是隐藏的&＃xff0c;未知的&＃xff0c;它可能是晴天、雨天、多雾、多云这些状态&＃xff0c;所以&＃xff0c;这个时候我们前面的状态马尔可夫模型就要做一些变化。

2、   隐马尔可夫模型(Hidden Markov Model&＃xff0c;HMM)概述

      在正常的马尔可夫模型中&＃xff0c;状态对于观察者来说是直接可见的。这样状态的转换概率便是全部的参数。
而在隐马尔可夫模型中,状态并不是直接可见的&＃xff0c;但受状态影响的某些变量则是可见的。每一个状态在可能输出的符号上都有一概率分布。因此输出符号的序列能够透露出状态序列的一些信息。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析&＃xff0c;例如模式识别。
       HMM(隐马尔科夫模型)是自然语言处理中的一个基本模型&＃xff0c;用途比较广泛&＃xff0c;如汉语分词、词性标注及语音识别等&＃xff0c;在NLP中占有很重要的地位。
        一个更实际的问题是语音识别&＃xff0c;我们听到的声音是来自于声带、喉咙大小、舌头位置以及其他一些东西的组合结果。所有这些因素相互作用产生一个单词的声音&＃xff0c;一套语音识别系统检测的声音就是来自于个人发音时身体内部物理变化所引起的不断改变的声音。
　　一些语音识别装置工作的原理是将内部的语音产出看作是隐藏的状态&＃xff0c;而将声音结果作为一系列观察的状态&＃xff0c;这些由语音过程生成并且最好的近似了实际&＃xff08;隐藏&＃xff09;的状态。在这两个例子中&＃xff0c;需要着重指出的是&＃xff0c;隐藏状态的数目与观察状态的数目可以是不同的。一个包含四个状态的天气系统&＃xff08;晴天、多云、雨天&＃xff09;中&＃xff0c;一个观察现象&＃xff1b;纯粹的语音可以由80个音素描述&＃xff0c;而身体的发音系统会产生出不同数目的声音&＃xff0c;或者比80多&＃xff0c;或者比80少。
　　在这种情况下&＃xff0c;观察到的状态序列与隐藏过程有一定的概率关系。我们使用隐马尔科夫模型对这样的过程建模&＃xff0c;这个模型包含了一个底层隐藏的随时间改变的马尔科夫过程&＃xff0c;以及一个与隐藏状态某种程度相关的可观察到的状态集合。


3、   隐马尔可夫模型(Hidden Markov Model&＃xff0c;HMM)原理

     HMM由初始概率分布Π&＃xff0c;状态转移分布概率A以及观测概率分布B确定。

   Q是所有可能的状态的集合&＃xff0c;N是可能的状态数&＃xff1a;

  V是所有可能观测的集合&＃xff0c;M是所有可能的观测数&＃xff1a;

HMM由初始概率分布Π、状态转移概率分布A以及观测概率分布B确定。
 Π和A决定状态序列&＃xff0c;B决定观测序列&＃xff0c;因此HMM可以用三元符号表示&＃xff0c;称为HMM三要素&＃xff1a;
 

4、应用&＃xff08;对天气案例问题二&＃xff09;

        1、直接算法&＃xff08;暴力算法&＃xff09;

如果今天有雾&＃xff0c;那么两天后有雨的概率是多大&＃xff1f;&＃xff08;第二天的天气可以是晴天、多云、有雨或有雾&＃xff09;
       P(S3&＃61;foggy|S1&＃61;foggy)
&＃61;P(S3&＃61;foggy,S2&＃61;sunny|S1&＃61;foggy)&＃43;P(S3&＃61;foggy,S2&＃61;cloudy|S1&＃61;foggy)
  &＃43;P(S3&＃61;foggy,S2&＃61;rainy|S1&＃61;foggy)&＃43;P(S3&＃61;foggy,S2&＃61;foggy|S1&＃61;foggy)
&＃61;P(S3&＃61;foggy|S2&＃61;sunny)*P(S2&＃61;sunny|S1&＃61;foggy)&＃43;
   P(S3&＃61;foggy|S2&＃61;cloudy)*P(S2&＃61;cloudy|S1&＃61;foggy)&＃43;
   P(S3&＃61;foggy|S2&＃61;rainy)*P(S2&＃61;rainy|S1&＃61;foggy)&＃43;
    P(S3&＃61;foggy|S2&＃61;foggy)*P(S2&＃61;foggy|S1&＃61;foggy)
&＃61;0.1*0.0&＃43;0.1*0.4&＃43;0.1*0.3&＃43;0.3*0.3&＃61;0.16

    2、前向算法