EM算法的基本思想就是将复杂的问题转化为简单的便于解决的问题。EM算法就是在原有的观测到数据的基础上,加入了不能观测的或者缺失掉的未知数据,从而将原本复杂的不完全数据情况下的总体参数估计问题转化为数据完整情况下的简单的对总体参数估计问题,并通过一系列简单的计算,最终完成对总体的参数估计。EM算法可以理解为是最大似然法在不完整数据情况下的应用。EM算法顾名思义由E步和M步组成。其主要步骤是:首先设定一个待估参数的初值,并根据给出的初值,利用贝叶斯理论求出缺失变量的值;此时的系统就变为了一个完整数据情况下的参数估计问题,可以通过极大似然法求解出总体的参数估计值,接下去再根据这一参数估计值再对缺失变量的值进行计算,并更新原有的值,如此反复迭代,直到最终收敛为止,得到待估参数值。
EM算法能将极大似然法解决不了的复杂问题简单化,比如在对混合模型、数据缺失模型等模型进行总体参数估计时,由于最大似然法不能求出最大似然函数,所以不能解决此类问题,而EM算法能使此类问题得到很好的解决。EM算法较最大似然法有一个很大的优点,EM算法能够解决的问题很广,几乎现实生活中能遇到的所有的统计问题都能用其进行解决,不仅能够解决数据不完整,数据缺失情况下的参数估计问题,甚至对一些最大似然法能够解决的数据完整的统计问题,也可以比最大似然法更好地解决,比如对方差分量的估计和因子的估计。EM算法不仅仅可以应用于混合模型的参数求解问题的解决,还可以对一些已经求解出参数的模型进行检验。
EM算法的提出成功地解决了不完整数据情况下的参数估计,在现代社会的生产生活中有着广泛的应用。EM算法作为一种迭代算法,并不像其他的算法那么复杂难理解,它很容
易被理解,所采用的基本理论也都是一些比较容易理解和被接受,所以在现实的生产生活中得到了广泛的应用。因此在本文中,就基本的EM算法在混合高斯模型模型中的应用作出讨论和研究,并利用MATLAB工具对其进行仿真研究,验证该算法的可行性。
1.2 国内外研究的发展及现状
1.3 开发工具
在本次课题中,运用MATLAB工具对混合高斯模型进行参数估计,MATLAB是matrix laboratory (矩阵实验室)的简称。MATLAB已经是一个非常成熟的软件,但与此同时MATLAB也在不断地更新。MATLAB拥有重多的优点,首先,其拥有交互式的程序开发环境,用户可以直接在编辑窗口进行修改和编写程序,便于程序的调试和执行;其次,MATLAB有非常好的用户体验,MATLAB中包含了很多基本的函数程序,用户可直接调用这些函数;MATLAB还包含很多的工具箱,这些工具箱在现实的生产生活中,有着非常广泛的应用。当然MATLAB软件也有一些弱点,比如,与其他的程序相比较,MATLAB因为不进行编译预处理,不生成可执行文件,所以执行速度相对较慢。因此在我们应用MATLAB进行混合模型参数估计的过程中,当出现样本值过大时,MATLAB可能需要很长时间完成参数估计,有时甚至无法实现参数估计。
1.4 本文研究内容及框架
EM算法发展至今,经过了各种各种的改进,但其迭代的基本思想没有改变。在本文中,就最基本的EM算法做出研究,了解其基本的步骤,以及运算过程。混合模型在生产生活中会常常出现,而混合高斯模型作为混合模型的一种,由于其函数分布的特殊性往往能够得到广泛的应用。因此在本文中,主要是将EM算法运用到混合高斯模型中,并做出相应的仿真。
- 上一篇:PSAT电力系统仿真+文献综述
- 下一篇:确定系统下由响应趋势判定输入变化的方法研究
-
-
-
-
-
-
-
C++最短路径算法研究和程序设计
g-C3N4光催化剂的制备和光催化性能研究
浅析中国古代宗法制度
上市公司股权结构对经营绩效的影响研究
NFC协议物理层的软件实现+文献综述
江苏省某高中学生体质现状的调查研究
高警觉工作人群的元情绪...
巴金《激流三部曲》高觉新的悲剧命运
中国传统元素在游戏角色...
现代简约美式风格在室内家装中的运用