目次
第一章引言1
1.1研究背景1
1.3马尔可夫链应用介绍2
第二章马尔可夫链的概念及性质5
2.1连续时间参数的马尔可夫链的概念5
2.2转移速率矩阵——Q矩阵9
2.3柯尔莫哥洛夫微分方程11
2.4数值算例12
第三章马尔可夫链的应用16
3.1时齐马尔可夫链的计算机模拟16
3.2马尔可夫链在随机切换系统稳定性分析中的应用17
致谢19
参考文献26
1.1 马尔可夫过程的发展1906 年,被誉为“概率论现代进化进程中伟大的设计师和先行者”的伟大数学家A.A.Markov(马尔可夫,俄,1856-1922)在他的《大数定律关于相依变量的扩展》中,首次提到一种如同锁链一般环环相扣的随机的变量序列, 其中某个变量各自已多大的概率取什么值,完全由它前面的一个变量来决定,而与它更前面的那些变量无关。这就是所谓的马尔可夫过程。后来,马尔可夫利用文学方面的材料来说明链的性质。在他的《概率演算》第四版中,作出了统计,在长诗《叶甫盖尼·奥涅金》中,有元音字母和辅音字母交替变换的规律,证明了语言文字中的随机字母序列也是符合他所建立的这种数学模型。长诗开头两句:我不想取悦骄狂的人生,只希望博得朋友的欣赏。诗人烈火般的语言在马尔可夫哪里高度抽象并凝练为冷冰冰的锁链。 随后柯尔莫哥洛夫,费勒和杜布等诸多数学家进一步发展了这一领域,解开了概率论中一个重要分支----马尔可夫过程理论蓬勃发展的序幕。经过一百多年时间的积淀,马尔可夫过程不但具有了极为深厚的理论基础(如拓扑学、函数论、泛函分析、群论和几何学等),而且也有了极其广泛的应用空间(如近代物理、随机分型、排队论及其通信理论等)。直到今天,有关马尔可夫过程的研究讨论,依旧是概率论中的热点问题。1.2 国内外研究现状在对实际问题的研究中,人们发现随着时间的持续发展变化会产生很多有趣的现象。还有一些现象或过程可以表述如下:在“现在”是已知的情况下,这种变化过程中的“将来”与“过去”是没有联系的[1]。也就是说这种过程的将来所出现的情况是不依赖于过去的发展变化的,上述性质的过程我们就把它称之为马尔可夫过程。马尔可夫过程可以用来表述现实生活中大量的现象。 例如,我们熟知的数字通信中的语音信号、视频信号、在商业活动中每天的销售情况、液体中的颗粒所做的布朗运动等等[2,3]。在 20世纪初,马尔可夫本人也注意到了在生活、研究中的实际问题,并对一列特殊的、相依的随机变量进行了研究,