empiricalblm

贝叶斯线性回归模型与样本前或后验分布

描述

的贝叶斯线性回归模型对象empiricalblm包含样本的先验分布β和σ²,MATLAB^®使用前或后验分布的特点。

数据可能是 $\prod_{t = 1}^{T} ϕ (y_{t}; x_{t} β, σ^{2}),$ 在哪里ϕ(y_t;x_tβ,σ²)是高斯概率密度评估y_t与的意思x_tβ和方差σ²。因为形式的先验分布函数未知,由此产生的后验分布不易于分析。因此,估计或从后验分布,模拟MATLAB实现采样重要性重采样。

您可以创建一个贝叶斯线性回归模型与实证之前直接使用bayeslm或empiricalblm。然而,对于实证先知先觉,估计后验分布相似后之前要求。因此,实证模型更适合更新后验分布估计使用蒙特卡罗抽样之前(例如,semiconjugate和自定义模型)得到新的数据。

创建

要么估计函数返回一个empiricalblm对象或您直接创建一个通过使用empiricalblm。

返回empiricalblm对象使用估计:对于semiconjugate,经验、自定义和变量选择模型之前,估计使用蒙特卡罗抽样估计后验分布。具体地说,估计描述后验分布的大量从分布。估计商店的吸引BetaDraws和Sigma2Draws返回的贝叶斯线性回归模型对象的属性。因此,当你估计semiconjugateblm,empiricalblm,customblm,lassoblm,mixconjugateblm,mixconjugateblm模型对象,估计返回一个empiricalblm对象。
创建empiricalblm对象直接:如果你想使用新数据更新估计后验分布,绘制的后验分布β和σ²,您可以创建一个使用经验模型empiricalblm。

语法

PriorMdl = empiricalblm (NumPredictors BetaDraws, BetaDraws, Sigma2Draws, Sigma2Draws)

PriorMdl = empiricalblm (NumPredictors BetaDraws, BetaDraws, Sigma2Draws, Sigma2Draws,名称,值)

描述

例子

PriorMdl= empiricalblm (NumPredictors”,BetaDraws“BetaDraws,”Sigma2Draws”,Sigma2Draws)创建一个贝叶斯线性回归模型对象(PriorMdl)组成的NumPredictors预测和拦截,并设置NumPredictors财产。随机样本的先验分布β和σ²,BetaDraws和Sigma2Draws分别是先验分布的特征。PriorMdl是一个模板,它定义了维度的先验分布和β。

例子

PriorMdl= empiricalblm (NumPredictors”,BetaDraws“BetaDraws,”Sigma2Draws“Sigma2Draws,名称,值)集属性(除了NumPredictors使用参数名称-值对)。在报价附上每个属性的名字。例如,empiricalblm (2, 'BetaDraws“BetaDraws,”Sigma2Draws”,Sigma2Draws“拦截”,假)指定了先验分布的随机抽样β和σ²并指定两个回归系数的回归模型,但没有拦截。

属性

全部展开

你可以设置可写属性值创建模型对象时通过使用名称-值对参数语法,或在您创建模型对象通过使用点符号。例如,指定拦截,没有模型PriorMdl、贝叶斯线性回归模型包含三个模型系数,输入

PriorMdl。拦截=假;

`NumPredictors`- - - - - -数量的预测变量
非负整数

数量的预测变量的贝叶斯多元线性回归模型,指定为一个非负整数。

NumPredictors必须一样的列数你的预测数据,在模型估计或您指定模拟。

当指定NumPredictors,排除任何截距项的值。

在创建一个模型,如果你改变的价值NumPredictors使用点符号VarNames恢复为默认值。

数据类型:双

`拦截`- - - - - -为包括回归模型拦截
`真正的`(默认)|`假`

为包括回归模型拦截,这表中指定为一个值。

价值	描述
`假`	排除回归模型的截距。因此,β是一个`p`维向量,`p`的值是`NumPredictors`。
`真正的`	包括一个拦截的回归模型。因此,β是(`p`+ 1)维向量。这个规范引起T1向量的前缀在估计和仿真预测数据。

如果包含一个列的预测数据的截取,然后设置拦截来假。

例子:“拦截”,假的

数据类型:逻辑

`VarNames`- - - - - -预测变量的名字
字符串向量|细胞特征向量的向量

预测变量名称显示,指定为字符串向量或细胞特征向量的向量。VarNames必须包含NumPredictors元素。VarNames (j)变量的列的名称吗j您指定的预测数据集,在估计,模拟或预测。

默认值是β{β(1),(2),…,β(p)},在那里p的值是NumPredictors。

例子:“VarNames”,(“失业率会”;“CPI”)

数据类型:字符串|细胞|字符

`BetaDraws`- - - - - -随机样本的先验分布β
数字矩阵

随机样本的先验分布β指定为一个(拦截+NumPredictors)———NumDraws数字矩阵。行对应回归系数;第一行对应于拦截,随后行对应列的预测数据。从先验分布列对应的吸引。

BetaDraws和SigmaDraws必须有相同数量的列。

NumDraws应该相当大。

数据类型:双

`Sigma2Draws`- - - - - -随机样本的先验分布σ²
数字矩阵

随机样本的先验分布σ²,指定为1×-NumDraws数字矩阵。从先验分布列对应的吸引。

BetaDraws和Sigma2Draws必须有相同数量的列。

NumDraws应该相当大。

数据类型:双

对象的功能

`估计`	估计贝叶斯线性回归模型参数的后验分布
`模拟`	模拟回归系数和扰动贝叶斯线性回归模型的方差
`预测`	贝叶斯线性回归模型的预测的反应
`情节`	可视化之前和贝叶斯线性回归模型参数的后验密度
`总结`	分布汇总统计标准的贝叶斯线性回归模型

例子

全部折叠

创建之前经验模型

打开生活的脚本

考虑的多元线性回归模型预测美国实际国民生产总值(GNPR)使用工业生产指数的线性组合新闻学会)、就业总人数(E),实际工资(或者说是)。

${GNPR}_{t} = β_{0} + β_{1} {新闻学会}_{t} + β_{2} E_{t} + β_{3} {或者说是}_{t} + ε_{t} 。$

对所有 $t$ 时间点, $ε_{t}$ 是一系列的独立和0的均值和方差高斯干扰吗 $σ^{2}$ 。

假设先验分布:

$β | σ^{2} \sim N_{4} (米, V)$ 。 $米$ 意味着是一个4-by-1向量, $V$ 是一个按比例缩小的4×4正定协方差矩阵。
$σ^{2} \sim 我 G (一个, B)$ 。 $一个$ 和 $B$ 分别是形状和规模的逆伽马分布。

这些假设和数据可能意味着normal-inverse-gamma semiconjugate模型。即共轭条件后验来之前对数据的可能性,但边际后分析棘手。

创建一个normal-inverse-gamma semiconjugate之前线性回归模型参数。指定数量的预测p。

p = 3;PriorMdl = bayeslm (p,“ModelType”,“semiconjugate”)

PriorMdl = semiconjugateblm属性:NumPredictors: 3拦截:1 VarNames: {4 x1细胞}μ:x1双[4]V: [4 x4双]A: 3 B: 1 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| 0 100 [-195.996,195.996]0.500 N(0.00、100.00 ^ 2)β(1)| 0 100 [-195.996,195.996]0.500 N(0.00、100.00 ^ 2)β(2)| 0 100 [-195.996,195.996]0.500 N(0.00、100.00 ^ 2)β(3)| 0 100 [-195.996,195.996]0.500 N (0.00、100.00 ^ 2) Sigma2 | 0.5000 - 0.5000[0.138, 1.616] 1.000搞笑(3.00,1)

Mdl是一个semiconjugateblm贝叶斯线性回归模型对象代表回归系数的先验分布和扰动方差。在命令窗口中,bayeslm显示一个先验分布的摘要。

加载Nelson-Plosser数据集。为响应和预测系列创建变量。

负载Data_NelsonPlosserVarNames = {“他们”;“E”;“福”};X = DataTable {: VarNames};y = DataTable {:,“GNPR”};

估计边际的后验分布 $β$ 和 $σ^{2}$ 。

rng (1);%的再现性PosteriorMdl =估计(PriorMdl, X, y);

方法:吉布斯抽样数量与10000年吸引的观察:62年的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -23.9922 - 9.0520[-41.734,-6.198]0.005经验β(1)| 4.3929 - 0.1458[4.101,4.678]1.000经验β(2)| 0.0011 - 0.0003[0.000,0.002]0.999经验β(3)| 2.4711 - 0.3576[1.762,3.178]1.000经验Sigma2 | 46.7474 - 8.4550[33.099, 66.126] 1.000经验

PosteriorMdl是一个empiricalblm模型对象存储的后验分布 $β$ 和 $σ^{2}$ 考虑到数据。估计显示一个总结边缘后验分布的命令窗口。行总结对应回归系数和扰动变化,和列后验分布的特点。特点包括:

CI95,其中包含参数的贝叶斯equitailed 95%可信区间。例如,后验概率的回归系数或者说是0.95在[1.762,3.178]。
积极的,其中包含参数的后验概率大于0。例如,截距大于0的概率是0.005。

在这种情况下,边际分析后是棘手的。因此,估计用吉布斯抽样从后和估计后特征。

为新数据更新边缘后验分布

打开生活的脚本

考虑线性回归模型创建之前经验模型。

创建一个normal-inverse-gamma semiconjugate之前线性回归模型参数。指定数量的预测p和回归系数的名称。

p = 3;PriorMdl = bayeslm (p,“ModelType”,“semiconjugate”,“VarNames”,(“他们”“E”“福”]);

加载Nelson-Plosser数据集。分区数据保留过去的五期的系列。

负载Data_NelsonPlosserX0 = DataTable{1:结束(- 5),PriorMdl.VarNames(2:结束)};y0 = DataTable{1:结束(- 5),“GNPR”};X1 = DataTable{(结束- 4):最终,PriorMdl.VarNames(2:结束)};日元= DataTable {(end - 4):结束,“GNPR”};

估计边际的后验分布 $β$ 和 $σ^{2}$ 。

rng (1);%的再现性PosteriorMdl0 =估计(PriorMdl, X0, y0);

方法:吉布斯抽样数量与10000年吸引的观察:57的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -34.3887 - 10.5218[-55.350,-13.615]0.001经验IPI | 3.9076 - 0.2786[3.356, 4.459] 1.000经验E | 0.0011 - 0.0003[0.000, 0.002] 0.999经验或者说是| 3.2146 - 0.4967[2.228,4.196]1.000经验Sigma2 | 45.3098 - 8.5597[31.620, 64.972] 1.000经验

PosteriorMdl0是一个empiricalblm模型对象存储Gibbs-sampling吸引的后验分布。

基于过去的5期更新后验分布的数据通过这些观察和后验分布估计。

PosteriorMdl1 =估计(PosteriorMdl0 (X1, y1);

方法:重要性抽样/重采样与10000年吸引了数量的观察:5预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -24.3152 - 9.3408[-41.163,-5.301]0.008经验IPI | 4.3893 - 0.1440[4.107, 4.658] 1.000经验E | 0.0011 - 0.0004[0.000, 0.002] 0.998经验或者说是| 2.4763 - 0.3694[1.630,3.170]1.000经验Sigma2 | 46.5211 - 8.2913[33.646, 65.402] 1.000经验

更新后验分布基于吸引,估计使用采样重要性重采样。

使用蒙特卡罗模拟法估计后验概率

打开生活的脚本

考虑线性回归模型估计边缘后验分布。

创建一个模型的回归系数和扰动变化之前,然后估计边缘后验分布。

p = 3;PriorMdl = bayeslm (p,“ModelType”,“semiconjugate”,“VarNames”,(“他们”“E”“福”]);负载Data_NelsonPlosserX = DataTable {: PriorMdl.VarNames(2:结束)};y = DataTable {:,“GNPR”};rng (1);%的再现性PosteriorMdl =估计(PriorMdl, X, y);

方法:吉布斯抽样数量与10000年吸引的观察:62年的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -23.9922 - 9.0520[-41.734,-6.198]0.005经验IPI | 4.3929 - 0.1458[4.101, 4.678] 1.000经验E | 0.0011 - 0.0003[0.000, 0.002] 0.999经验或者说是| 2.4711 - 0.3576[1.762,3.178]1.000经验Sigma2 | 46.7474 - 8.4550[33.099, 66.126] 1.000经验

估计后验分布汇总统计数据 $β$ 通过使用了从后验分布存储模型。

estBeta =意味着(PosteriorMdl.BetaDraws, 2);EstBetaCov = x (PosteriorMdl.BetaDraws ');

假设如果实际工资系数低于2.5,则颁布了一项政策。尽管的后验分布或者说是是已知的,所以你可以直接计算概率,您可以使用蒙特卡罗模拟估计的概率。

画1 e6样本的边缘后验分布 $β$ 。

NumDraws = 1 e6;rng (1);BetaSim =模拟(PosteriorMdl,“NumDraws”,NumDraws);

BetaSim是一个4×-1 e6矩阵包含了。行对应的回归系数和列连续的吸引。

隔离了相应的实际工资系数,然后确定哪些吸引小于2.5。

isWR = PosteriorMdl。VarNames = =“福”;wrSim = BetaSim (isWR:);isWRLT2p5 = wrSim < 2.5;

找到的回归系数的边缘后验概率或者说是低于2.5通过计算的比例小于2.5的吸引。

probWRLT2p5 =意味着(isWRLT2p5)

probWRLT2p5 = 0.5283

实际工资的后验概率系数小于2.50.53。

版权2018年MathWorks公司。

使用后预测分布预测的反应

打开生活的脚本

考虑线性回归模型估计边缘后验分布。

创建一个模型的回归系数和扰动变化之前,然后估计边缘后验分布。坚持过去10期的数据估计,这样你可以使用它们来预测实际国民生产总值。关掉估计显示。

p = 3;PriorMdl = bayeslm (p,“ModelType”,“semiconjugate”,“VarNames”,(“他们”“E”“福”]);负载Data_NelsonPlosserfhs = 10;%预测地平线大小X = DataTable{1:(结束- fhs), PriorMdl.VarNames(2:结束)};y = DataTable{1:(结束- fhs),“GNPR”};XF = DataTable{(结束- fhs + 1):最终,PriorMdl.VarNames(2:结束)};%未来的预测数据yFT = DataTable{(结束- fhs + 1):结束,“GNPR”};%未来真实的反应rng (1);%的再现性PosteriorMdl =估计(PriorMdl, X, y,“显示”、假);

使用后预测分布和预测反应使用未来的预测数据XF。情节的真实值响应和预测的值。

yF =预测(PosteriorMdl XF);图;情节(日期、DataTable.GNPR);持有在情节(日期((结束- fhs + 1):结束),yF h = gca;惠普=补丁([日期(结束- fhs + 1)日期(结束)日期(结束)日期(结束- fhs + 1)),…h.YLim ([1, 1、2、2]), [0.8 0.8 0.8]);uistack(惠普、“底”);传奇(“预测地平线”,“真正的GNPR”,“预测GNPR”,“位置”,“西北”)标题(“真正的国民生产总值:1909 - 1970”);ylabel (“rGNP”);包含(“年”);持有从

图包含一个坐标轴对象。坐标轴对象与标题真正的国民生产总值:1909 - 1970包含3补丁类型的对象,线。这些对象代表预测地平线,真实GNPR,预测GNPR。

yF是一个10-by-1向量的值相对应的实际国民生产总值未来预测数据。

估计预测均方误差(RMSE)。

frmse =√意味着(yF - yFT) ^ 2))

frmse = 25.1938

预测均方根误差是一个相对程度的预测精度。具体地说,您估计几个使用不同的假设模型。最低的模型预测的RMSE是表现最好的模型相比较。

算法

实施后采样重要性重采样从后验分布的样本,估计,模拟,预测计算有效的样本大小(ESS),这是所需的样本数量产生合理的后验统计和推论。它的公式是

$E 年代年代 = \frac{1}{\sum_{j} w_{j}^{2}} 。$

如果ESS<0.01 * NumDraws,然后用MATLAB抛出一个警告。警告意味着,考虑到样本的先验分布,建议分布的样本太小,产量质量好后统计和推论。
如果有效样本量太小,那么:
- 增加样本容量吸引的先验分布。
- 调整先验分布hyperparameters,然后重新取样。
指定BetaDraws和Sigma2Draws作为样本信息丰富的先验分布。如果这个提议吸引来自近平面分布,然后算法可以被效率低下。

选择

的bayeslm函数可以创建任何支持先前对贝叶斯线性回归的模型对万博1manbetx象。

empiricalblm

描述

创建

语法

描述

属性

`NumPredictors`- - - - - -数量的预测变量
非负整数

`拦截`- - - - - -为包括回归模型拦截
`真正的`(默认)|`假`

`VarNames`- - - - - -预测变量的名字
字符串向量|细胞特征向量的向量

`BetaDraws`- - - - - -随机样本的先验分布β
数字矩阵

`Sigma2Draws`- - - - - -随机样本的先验分布σ²
数字矩阵

对象的功能

例子

创建之前经验模型

为新数据更新边缘后验分布

使用蒙特卡罗模拟法估计后验概率

使用后预测分布预测的反应

更多关于

贝叶斯线性回归模型

采样重要性重采样

算法

选择

版本历史

另请参阅

对象

功能

主题

empiricalblm

描述

创建

语法

描述

属性

NumPredictors- - - - - -数量的预测变量非负整数

拦截- - - - - -为包括回归模型拦截真正的(默认)|假

VarNames- - - - - -预测变量的名字字符串向量|细胞特征向量的向量

BetaDraws- - - - - -随机样本的先验分布β数字矩阵

Sigma2Draws- - - - - -随机样本的先验分布σ2数字矩阵

对象的功能

例子

创建之前经验模型

为新数据更新边缘后验分布

使用蒙特卡罗模拟法估计后验概率

使用后预测分布预测的反应

更多关于

贝叶斯线性回归模型

采样重要性重采样

算法

选择

版本历史

另请参阅

对象

功能

主题

`NumPredictors`- - - - - -数量的预测变量
非负整数

`拦截`- - - - - -为包括回归模型拦截
`真正的`(默认)|`假`

`VarNames`- - - - - -预测变量的名字
字符串向量|细胞特征向量的向量

`BetaDraws`- - - - - -随机样本的先验分布β
数字矩阵

`Sigma2Draws`- - - - - -随机样本的先验分布σ²
数字矩阵