主要内容

马尔可夫链模型

离散时间马尔可夫链对象框架概述

这个dtmc对象框架为离散时间马尔可夫链的建模和分析提供了基本工具。对象支持具有有限个状态的链,这些状态在离散时间内演化,具有时间齐次转移结构。万博1manbetx

dtmc用一个NumStates——- - - - - -NumStates转移矩阵P,与初始状态无关x0或国家的初始分布π0.您可以指定P无论是右随机矩阵还是经验计数矩阵。

  • 作为右随机矩阵:

    • Pij是状态转换的非负概率J

    • 每一行的P总数为1。

    • π T + 1. = π T P 描述状态分布随时间的演变T时间T+ 1.

    当时的状态分布T,πT行向量的长度是多少NumStates

  • 作为经验计数矩阵,Pij是观察的次数状态吗转换到状态J.这个dtmc对象规范化P所以它是一个右随机矩阵。

这个mcmix函数是一个备用马尔可夫链对象创建者;它生成具有指定零模式和随机转移概率的链。mcmix非常适合创建具有不同混合时间的链进行测试。

要可视化与链关联的有向图或有向图,请使用graphplot目标函数。graphplot类似于情节MATLAB的目标函数®有向图对象,但它包含用于分析马尔可夫链结构的附加功能。参数设置突出显示通信类(即,强连通有向图的分量)和影响收敛的特定特性,如递归性、瞬变性和周期性。你可以在P通过使用热图强度对图形边着色。

要可视化链中的大型结构,graphplot可以将通信类压缩到具有代表性的节点。这个选项是基于冷凝a的目标函数有向图对象。

这个分类对象函数是图形中类高亮显示的数值模拟。分类返回决定限制行为的通信类的特征。状态分类结合了图论算法,如bfsearchMATLAB的(广度优先搜索)目标函数图表对象,但更直接的矩阵计算具体到马尔可夫链理论。这个亚链方法允许您从链中提取特定的通信类以供进一步分析。

这个isreducibleisergodic对象函数给出了链结构的简明概括。它们共同提供了存在唯一极限分布的充分必要条件 π ,在那里 π = π P π 0 π 对于每个初始分布π0.这个渐近线目标函数计算 π ,并利用特征值分析估计混合时间。这个埃格普洛特目标函数绘制了目标函数的特征值P.这个图显示了一个特征值图的例子埃格普洛特

收敛的一个障碍是周期性懒惰的对象函数通过调整状态惯性来消除周期性(即通过对的对角元素进行加权P)在链中产生特定数量的“懒惰”。极限分布不受这些转换的影响。

这个模拟重新分配当流程从指定的初始状态或分布演化时,对象函数提供流程的实现simplot距离图目标函数提供了各种可视化效果。此图是一个分布图示例,显示了从均匀初始状态分布开始的状态分布的演变。

马尔可夫链分析工作流

你可以用两种方式开始构建马尔可夫链模型对象:

  • 识别过程中相关的离散状态,然后估计它们之间的转移概率。在最简单的情况下,理论建议链结构和转移矩阵P.在这种情况下,你主要感兴趣的是理论在实践中是如何发挥作用的——理论上并不总是显而易见的。一旦你知道P,通过传递来创建马尔可夫链对象Pdtmc,它实现了一个理论链。

  • 如果你对一个过程没有那么具体的信息,那么你必须尝试不同数量的状态和可行的过渡模式来重现经验结果mcmix功能提供了对链的骨架结构的洞察,可以捕获数据中的基本特征。通过迭代过程,可以对随机生成的转移矩阵进行调整P以适应建模目标。

对于一个计量经济学模型的建立者来说,最重要的结果是选择P为链的渐近性质。要理解这种行为,需要识别并分离瞬时状态(那些返回时间概率渐近为零的状态)和循环状态(那些返回时间概率渐近为1的状态)。瞬变和递归是通信类中所有状态共享的属性。要直观地确定状态是暂时的还是循环的,将马尔可夫链对象传递给graphplot对象函数并指定“ColorNodes”,真的.的输出分类对象函数为计算提供了数值工具。下图是一个带有分类节点的有向图示例。

有向图的压缩视图通过将每个通信类合并为一个“超节点”简化了此评估。在压缩图中,您可以通过超节点的向外度(向外度大于0表示瞬时)轻松识别瞬时性和重复性。不可约链由一个单独的、必须反复出现的通信类组成。单链由单个循环类和任意数量的卫星瞬态类组成。单链保持了不可约链的理想极限行为。对凝聚图的考虑通常是对无关暂态链进行修剪的前兆。这个亚链函数修剪瞬态类链。这个图是前一个图中有向图的压缩视图。

统一限制行为的两个主要障碍是:

  • 还原性,存在多个通信类

  • 周期性,在单个类中的子类之间循环的趋势

组合graphplot分类对象函数可以识别这些问题。如果一条链是可约的,而不是单链,通常会将分析分解到独立的递归类中,或者将链全部重新表述出来。如果链是周期性的(也就是说,它包含周期性循环类),但是整个结构捕获了应用程序的基本细节,则懒惰的对象函数提供了一种补救方法。惰性链会干扰P消除周期性,不影响渐近性。

这个isreducibleisergodic对象函数总结了状态分类。每个链都有一个平稳分布 π ,在那里 π = π P ,由于P随机的,特征值为1的。如果链是不可约的,则平稳分布是唯一的。然而,不可约性虽然是充分的,却不是唯一性的必要条件。Unichains还导致了一个独特的平稳分布,在瞬态的概率质量为零。在这方面,状态分类分析是必要的,因为isreducible返回真正的仅当链作为一个整体由单个通信类组成时。isreducible返回对于任意单链,在这种情况下,您必须确定瞬态类是否是模型的相关部分。

遍历性原始性,是不可约性和非周期性的结合。遍历链有唯一的极限分布,即,π0收敛于 π 对于每个初始分布π0.你可以通过使用,来确定整个链是否是遍历的isergodic.这个函数通过计算唯一的递归类来识别遍历的单链。一个链是周期性的,如果它是不可约的且不是遍历的,也就是说,如果~ tfirreduc+~t因为=,在那里不可还原特弗戈返回的是isreducibleisergodic分别地

一旦确认链是遍历的,就可以使用渐近线目标函数。渐近线返回限制分布 π 以及混合时间的估计,这是瞬态行为衰减的时间常数。不可约非负矩阵的Perron-Frobenius定理(参见[1])对解释这些结果是有用的。任何随机矩阵的谱半径都为1。周期矩阵K,有K特征值均匀分布在单位圆上K根的团结。单位圆内最大本征值的大小决定了瞬态的衰减率。这个埃格普洛特目标函数提供此信息的快速可视化。此图是一个周期为三的马尔可夫链的特征值图。

不管链的渐近性质如何,你都可以通过应用有限步分析来研究它的混合速率。这个hitprobhittime函数返回目标状态子集的命中概率和预期首次命中时间,从链中的每个状态开始。这两个函数都可以选择使用指定命中概率或时间的节点颜色绘制有向图。此图显示了使用指定预期首次命中时间的节点颜色绘制有向图的示例s、 有向图还指示目标的起始状态是否为远程状态。

模拟和再分配允许您生成链上的统计信息,这些信息很难直接从理论中得到。这个模拟simplot对象函数,以及重新分配距离图对象函数,为此类分析提供计算和图形工具。模拟,会在链中产生独立的随机遍历。与模拟和Econometrics Toolbox™中其他地方的对象函数,依赖统计数据的集合平均在预测中发挥了重要作用。相应的simplot对象函数提供了几种可视化方法。这张图显示了在前一张图中通过周期马尔可夫链的100次长度为10步的随机漫步后访问的状态的比例。

参考文献

[1]霍恩和c.r.约翰逊。矩阵分析。英国剑桥:剑桥大学出版社,1985年。

另见

物体

功能

相关的话题