主要内容

渐近

确定马尔可夫链渐近

描述

例子

xFix=渐近(mc返回平稳分布xFix离散马尔可夫链mc

例子

xFixtMix) =渐近(mc另外返回混合时间的估计tMix

例子

全部折叠

考虑这个理论的,一个随机过程的右随机转移矩阵。

P 0 0 1 / 2 1 / 4 1 / 4 0 0 0 0 1 / 3. 0 2 / 3. 0 0 0 0 0 0 0 1 / 3. 2 / 3. 0 0 0 0 0 1 / 2 1 / 2 0 0 0 0 0 3. / 4 1 / 4 1 / 2 1 / 2 0 0 0 0 0 1 / 4 3. / 4 0 0 0 0 0

建立以转移矩阵为特征的马尔可夫链P

P = [0 0 1/4 1/4 0 0;0 0 1/3 0 2/3 0 0;0 0 0 0 1/3 2/3;0 0 0 0 1/2 /2;0 0 0 3/4 1/4;1/2 0 0 0 0 0 0;1/4 3/4 0 0 0 0];mc = dtmc (P);

画一个马尔可夫链的有向图。用边缘颜色表示过渡的概率。

图;graphplot (mc,“ColorEdges”,真正的);

图中包含一个轴对象。axis对象包含一个graphplot类型的对象。

确定马尔可夫链的平稳分布。

xFix =渐近(mc)
xFix =1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

因为xFix是行向量,它是唯一的平稳分布mc

通过生成由离散均匀绘图组成的块对角矩阵,创建经验计数的五状态过渡矩阵。

m = 100;%最大计数rng (1);%的再现性P = blkdiag(randi(100,2) + 1,randi(100,3) + 1)
P =5×543 20 0 0 74 32 0 0 0 16 36 43 0 0 11 41 70 0 0 20 55 22

创建并绘制由转移矩阵表征的马尔可夫链的有向图P

mc = dtmc (P);图;graphplot (mc)

图中包含一个轴对象。axis对象包含一个graphplot类型的对象。

确定马尔可夫链的平稳分布和混合时间。

[xFix, tMix] =渐近(mc)
xFix =2×50.9401 0.0599 0 0 0 0 0 0.1497 0.4378 0.4125
tMix = 0.8558

xFix对应于两个独立递归类的平稳分布mc

创建独立的马尔可夫链,表示的循环子链mc

mc1 =子链(mc, 1);mc2 =子链(mc, 3);

mc2dtmc对象。递归类包含状态吗1,mc2递归类包含状态吗3.

比较子链的混合时间。

(x1, t1) =渐近(哪)
x1 =1×20.9401 - 0.0599
t1 = 0.7369
(x2, t2) =渐近(mc2)
x2 =1×30.1497 0.4378 0.4125
t2 = 0.8558

接近平稳分布的速度比mc2

创建一个“哑铃”马尔可夫链,每个“权重”包含10个状态,“条”包含3个状态。

  • 在每个权重内指定状态之间的随机转移概率。

  • 如果马尔可夫链达到最接近杆的权值状态,则指定一个高概率的过渡到杆的状态。

  • 在条形图中指定状态之间的统一转换。

rng (1);%的再现性w = 10;%哑铃DBar = [0 1 0;1 0 1;0 1 0];%哑铃杆DB = blkdiag(兰德(w), DBar,兰德(w));%转移矩阵连接哑铃和杠铃DB (w w + 1) = 1;DB (w + 1, w) = 1;DB (w w + 3, + 4) = 1;DB (w + 4, w + 3) = 1;mc = dtmc (DB);

使用热图可视化转换矩阵。

图;显示亮度图像(mc.P);colormap(飞机);轴广场;colorbar;

图中包含一个轴对象。axis对象包含一个image类型的对象。

画一个马尔可夫链的有向图。抑制节点标签。

图;h = graphplot (mc);h.NodeLabel = {};

图中包含一个轴对象。axis对象包含一个graphplot类型的对象。

画哑铃链的特征值。

图;eigplot (mc);

图中包含一个轴对象。axis对象包含5个类型为line, patch的对象。这些对象代表特征值,谱隙。

图中薄的红色圆盘表示光谱间隙(两个最大特征值模之间的差异)。谱间隙决定了马尔可夫链的混合时间。大的间隙表示混合更快,而小的间隙表示混合较慢。在这种情况下,光谱间隙很薄,说明混合时间很长。

估计哑铃链的混合时间,判断哑铃链是否遍历。

[~, tMix] =渐近(mc)
tMix = 85.3258
tf = isergodic (mc)
tf =逻辑1

平均而言,任何初始分布和平稳分布之间的总变化距离衰减的时间为 e 1 大约85步。

输入参数

全部折叠

离散时间马尔可夫链NumStates状态与转移矩阵P,指定为dtmc对象。P必须详细说明(否条目)。

输出参数

全部折叠

平稳分布,xFix * PxFix,作为非负数值矩阵返回NumStates列。的行数xFix独立复归类的数量在吗mc

  • 对于单链公司来说,它的分布是独一无二的xFix是一个1——- - - - - -NumStates向量。

  • 否则,每一行xFix表示一个明显的平稳分布mc

混合时间,作为正数值标量返回。

如果μ的第二大特征值模(SLEM)P,且不为零,则估计混合时间为 1 / 日志 μ

请注意

  • 如果P是一个非负随机矩阵,那么马尔可夫链呢mc它的特征是有一个左特征向量xFix与特征值1.Perron-Frobenius定理[2]意味着,如果mc是单链(具有一个循环通信类的链)吗xFix是独一无二的。对于具有多个递归类的可约链,特征值1有更高的多重性,并且xFixnonunique。如果链是周期性的,xFix是平稳的但不是极限的,因为任意的初始分布不收敛于它。xFix仅对遍历链是唯一的和有限的。看到分类

  • 遍历链,tMix任何初始分布的特征时间是否收敛xFix.具体来说,它是初始分布与的总变化距离的时间xFix衰变以…的倍数衰变e实验(1).混合时间是不同链中过渡结构相对连通性的量度。

参考文献

[1]Gallager, R.G.随机过程:应用理论。英国剑桥:剑桥大学出版社,2013。

[2]霍恩和c.r.约翰逊。矩阵分析。英国剑桥:剑桥大学出版社,1985。

[3]Seneta E。非负矩阵与马尔可夫链。纽约:施普林格-弗拉格,1981年。

介绍了R2017b