要开始拟合回归,请将数据转换为拟合函数所期望的形式。所有回归技术都是从数组中的输入数据开始的X
和响应数据在一个单独的向量中y
,或表或数据集数组中的输入数据资源描述
和响应数据作为列资源描述
. 每行the input data represents one observation. Each column represents one predictor (variable).
用于表或数据集数组资源描述
,表示响应变量“ResponseVar”
名称-值对:
mdl = fitlm(资源描述,“ResponseVar”,“血压”);
默认情况下,响应变量是最后一列。
你可以用数字分类预测因子。绝对预测器是从一组固定的可能性中取值。
对于数字数组X
,使用“绝对的”
名称-值对。例如,指示预测因子2
和3.
其中6个是绝对的:
mdl = fitlm (X, y,“绝对的”[2、3]);%或等价mdl = fitlm (X, y,“绝对的”,逻辑([0 1 1 0 0]));
用于表或数据集数组资源描述
,拟合函数假设这些数据类型是分类的:
逻辑向量
分类向量
字符数组
字符串数组
如果要指示数值预测器是分类的,请使用“绝对的”
名称-值对。
将缺少的数字数据表示为楠
.若要表示其他数据类型的缺失数据,请参见失踪组值.
从Excel中创建数据集数组®电子表格:
ds =数据集(“XLSFile”,“hospital.xls”,...“ReadObsNames”,真正的);
要从工作区变量创建数据集数组,请执行以下操作:
负载carsmallds =数据集(MPG、重量);ds。年=分类(Model_Year);
要从Excel电子表格创建表格,请执行以下操作:
tbl=可读(“hospital.xls”,...“ReadRowNames”,真正的);
要从工作区变量创建一个表:
负载carsmalltbl=表(MPG,重量);tbl.年=分类(车型年);
例如,要从工作区变量创建数字数组:
负载carsmallX=[重量马力气缸(型号:年];y=每加仑;
要从Excel电子表格创建数字数组,请执行以下操作:
[X, Xnames] = xlsread(“hospital.xls”);y = X (:, 4);反应y为收缩压X (:, 4) = [];从X矩阵中去掉y
请注意非数字项,例如性
,不出现在X
.
有三种方法可以使模型适合数据:
使用fitlm
构建模型与数据的最小二乘拟合。当您合理确定模型的形式,并且主要需要找到它的参数时,这种方法是最好的。当您想要探索一些模型时,此方法也很有用。该方法要求您手动检查数据以丢弃离群值,不过有一些技术可以帮助您(参见检查质量并调整模型).
使用fitlm
与健壮选择
名称-值对创建不受离群值影响的模型。稳健的拟合省去了手动丢弃离群值的麻烦。然而,一步
不适用于健壮的装配。这意味着当您使用稳健拟合时,您不能逐步搜索一个好的模型。
使用stepwiselm
找到模型,并将参数拟合到模型中。stepwiselm
从一个模型(比如一个常数)开始,每次增加或减少一个项,每次以一种贪婪的方式选择最优项,直到无法进一步改进为止。使用逐步拟合来找到一个好的模型,它是一个只有相关项的模型。
结果取决于起始模型。通常,从一个常量模型开始,可以得到一个小模型。从更多的项开始会导致一个更复杂的模型,但它具有更低的均方误差。看到比较大的和小的逐步模型.
您不能同时使用健壮的选项和逐步拟合。因此,在逐步拟合之后,检查你的模型的异常值(见检查质量并调整模型).
有几种方法可以指定线性回归的模型。使用你认为最方便的方法。
为fitlm
,您给出的模型规格说明就是合适的模型。如果您没有提供模型规范,则默认为“线性”
.
为stepwiselm
,您给出的模型规范是初始模型,逐步过程试图对其进行改进。如果您没有给出模型规范,则默认的启动模型是“不变”
,默认上边界模型为“互动”
.属性更改上边界模型上
名称-值对。
请注意
还有其他选择模型的方法,比如使用套索
,lassoglm
,sequentialfs
,或plsregress
.
的名字 | 模型类型 |
---|---|
“不变” |
模型只包含一个常数(截距)项。 |
“线性” |
模型包含每个预测值的截距和线性项。 |
“互动” |
模型包含截距、线性项和不同预测因子对的所有乘积(没有平方项)。s manbetx 845 |
“purequadratic” |
模型包含截距、线性项和平方项。 |
“二次” |
模型包含截距、线性项、交互和平方项。 |
“聚 |
模型是一个多项式,所有项都达到次我 第一个预测因子是程度j 在第二个预测器等中,使用数字0 通过9 . 例如‘poly2111’ 有一个常数加上所有线性项和乘积项,还包含带有预测器1平方的项。 |
例如,指定一个交互模型使用fitlm
矩阵预测:
mdl = fitlm (X, y,“互动”);
指定使用的模型stepwiselm
和表或数据集数组资源描述
关于预测器,假设你想从一个常数开始并有一个线性模型上界。假设响应变量在资源描述
在第三列。
mdl2=逐步LM(待定,“不变”,...“上”,“线性”,“ResponseVar”3);
术语矩阵T
是一个t————(p+ 1)指定模型中的项的矩阵,其中t是项的个数,p是预测变量的数量,+1表示响应变量。价值T(i,j)
是变量的指数吗j
在术语我
.
例如,假设一个输入包含三个预测变量x1
,x2
,x3
以及响应变量y
的顺序x1
,x2
,x3
,y
. 每行T
表示一个术语:
[0 0 0]
-常数项或截距
[0 1 0 0]
- - - - - -x2
; 相当地,X1 ^0 * x2^1 * x3^0
[1 0 1 0]
- - - - - -x1 * x3
[2 0 0]
- - - - - -x1 ^ 2
[0 1 2 0]
- - - - - -x2 * (x3 ^ 2)
的0
在每一项的末尾表示响应变量。通常,项矩阵中的零列向量表示响应变量的位置。如果在矩阵和列向量中有预测器和响应变量,则必须包括0
获取每行最后一列中的响应变量。
模型规范的公式是这种形式的字符向量或字符串标量
'
,y
~条款
'
y
是响应名称。
条款
包含
变量名
+
包含下一个变量
-
排除下一个变量的步骤
:
定义一种互动,一种术语的产物
*
定义交互和所有低阶项的步骤
^
将预测器提升到一个指数,就像*
重复,所以^
也包括低阶项
()
对术语进行分组
提示
默认情况下,公式包含常数(截距)项。要从模型中排除一个常数项,请包含-1
的公式。
例子:
'y ~ x1 + x2 + x3'
是一个具有截距的三变量线性模型。'y ~ x1 + x2 + x3 - 1'
是一个无截距的三变量线性模型。'y ~ x1 + x2 + x3 + x2^2'
是带有截距和a的三变量模型吗x2 ^ 2
术语。‘y~x1+x2^2+x3’
和前面的例子一样,因为x2 ^ 2
包括一个x2
术语。'y ~ x1 + x2 + x3 + x1:x2'
包括一个x1 * x2
术语。'y ~ x1*x2 + x3'
和前面的例子一样,因为X1 *x2 = X1 + x2 + X1:x2
.‘y~x1*x2*x3-x1:x2:x3’
所有的相互作用x1
,x2
,x3
,除了三方互动。y ~ x1*(x2 + x3 + x4)'
所有的线性项,加上乘积s manbetx 845x1
和其他变量。
例如,指定一个交互模型使用fitlm
矩阵预测:
mdl = fitlm (X, y,‘y~x1*x2*x3-x1:x2:x3’);
指定使用的模型stepwiselm
和表或数据集数组资源描述
关于预测器,假设你想从一个常数开始并有一个线性模型上界。假设响应变量在资源描述
被命名为“是的”
,并对预测变量进行命名x1的
,“x2”
,“x3”
.
mdl2=逐步LM(待定,“y ~ 1”,“上”,'y ~ x1 + x2 + x3');
最常见的可选参数:
的稳健回归fitlm
,设置“RobustOpts”
名称-值对“上”
.
中指定一个适当的上限模型stepwiselm
,如集“上”
来“线性”
.
使用“CategoricalVars”
名称-值对。提供带有列号的向量,例如[1 6]
指定预测值1
和6
是绝对的。或者,给出与数据列相同长度的逻辑向量,并使用1
表示该变量是绝对的条目。如果有七个预测因素1
和6
是分类的,具体说明逻辑([1,0,0,0,0,1,0])
.
对于表或数据集数组,使用“ResponseVar”
名称-值对。默认值是数组的最后一列。
例如,
mdl = fitlm (X, y,“线性”,...“RobustOpts”,“上”,“CategoricalVars”3);mdl2=逐步LM(待定,“不变”,...“ResponseVar”,“英里”,“上”,“二次”);
拟合模型后,检查结果并作出调整。
模型显示
当您输入线性回归模型的名称或输入时,线性回归模型将显示多个诊断disp (mdl)
.这个显示器提供了一些基本信息,以检查拟合的模型是否充分地代表了数据。
例如,将5个预测因子中2个不存在且没有截距项的数据拟合为线性模型:
X = randn (100 5);y = X*[1;0; 0;-1] + randn(100,1); / /mdl = fitlm (X, y)
mdl =线性回归模型:y ~ 1 + x1 + x2 + x3 + x4 + x5Estimate SE tStat pValue _________ ________ ________ __________ (Intercept) 0.038164 0.099458 0.38372 0.70205 x1 0.92794 0.087307 10.628 8.5494e-18 x2 -0.075593 0.10044 -0.75264 0.45355 x3 2.8965 0.099879 29 1.1117e-48 x4 0.045311 0.10832 0.41831 0.67667 x5 -0.99708 0.11799 -8.4504 3.593e-13观测数量:100,误差自由度:94均方根误差:0.972 R-squared: 0.93,调整R-squared: 0.926 F-statistic vs. constant model: 248, p-value = 1.5e-52
请注意:
显示屏包含中每个系数的估计值估计
列。这些值与真实值相当接近[0;1;0;3;0;-1]
.
系数估计有一个标准误差列。
的报道pValue
派生自t统计数据(tStat
)对于预测因子1、3和5来说是非常小的。这是用于创建响应数据的三个预测器y
.
的pValue
为(拦截)
,x2
和x4
比0.01大得多。这三个预测因子没有用于创建响应数据y
.
显示包含 调整后 ,F统计数据。
方差分析
为了检验拟合模型的质量,请参考方差分析表。例如,使用方差分析
在一个有五个预测因子的线性模型上:
台=方差分析(mdl)
台=6×5表SumSq DF MeanSq F pValue _________ _______ _______ __________ x1 106.62 1 106.62 112.96 8.5494e-18 x2 0.53464 1 0.53464 0.56646 0.45355 x3 793.74 1 793.74 840.98 1.1117e-48 x4 0.16515 1 0.16515 0.17498 0.67667 x5 67.398 1 67.398 71.41 3.593e-13错误88.719 94 0.94382
这个表给出的结果与模型显示的结果有些不同。这个表格清楚地显示了……的影响x2
和x4
并不重要。根据你的目标,考虑移除x2
和x4
从模型中。
诊断的情节
诊断图帮助您识别异常值,并查看模型或拟合模型中的其他问题。例如,加载carsmall
数据,并做一个模型英里/加仑
作为气缸
(分类),重量
:
负载carsmall台=表(重量,英里/加仑,缸);资源描述。气缸=分类(tbl.Cylinders);mdl = fitlm(资源描述,'MPG~气缸*重量+重量^2');
制作数据和模型的杠杆图。
plotDiagnostics (mdl)
这里有几个高杠杆点。但这幅图并没有揭示高杠杆点是否属于异常值。
寻找库克距离大的点。
plotDiagnostics (mdl“cookd”)
有一点库克距离很远。识别它并将其从模型中删除。您可以使用数据游标来单击离群点并识别它,或者通过编程方式识别它:
[~, larg] = max (mdl.Diagnostics.CooksDistance);mdl2 = fitlm(资源描述,'MPG~气缸*重量+重量^2',“排除”(大),;
残差-训练数据的模型质量
有几个残差图可以帮助您发现模型或数据中的错误、异常值或相关性。最简单的残差图是默认的直方图,它显示残差的范围及其频率,以及概率图,它显示残差的分布如何与具有匹配方差的正态分布相比较。
检查残差:
绘图残差(mdl)
以上12项是潜在的异常值。
绘图仪残差(mdl,“概率”)
这两个潜在的异常值也出现在这张图上。否则,概率图看起来相当直,这意味着与正态分布残差的合理拟合。
你可以识别出这两个异常值并将其从数据中移除:
outl =找到(mdl.Residuals。生> 12)
outl =2×190 97
要去除离群值,请使用排除
名称-值对:
mdl3=fitlm(待定,'MPG~气缸*重量+重量^2',“排除”, outl);
检查mdl2的残差图:
plotResiduals (mdl3)
新的残差图看起来相当对称,没有明显的问题。但残差之间可能存在一定的序列相关性。创建一个新的情节,看看是否存在这样的效果。
plotResiduals (mdl3“落后”)
散点图显示右上象限和左下象限中的交叉比其他两个象限中的交叉多得多,表明残差之间存在正的序列相关性。
另一个潜在的问题是,对于大规模观测,残差是否很大。看看当前的模型是否有这个问题。
plotResiduals (mdl3“安装”)
拟合值越大,残差越大。模型误差可能与测量值成正比。
了解预测效果的图
这个例子展示了如何使用各种可用的图来理解每个预测因子对回归模型的影响。
检查响应的切片图。这将分别显示每个预测器的效果。
plotSlice (mdl)
可以拖动单个预测值,这些值由蓝色虚线垂直线表示。您还可以在同时和非同时置信边界之间进行选择,这些置信边界由红色虚线曲线表示。
使用效果图来显示预测因子对反应的影响的另一个视图。
plotEffects (mdl)
这张图显示了变化重量
从2500降低到4732英里/加仑
大约30(上面蓝色圆圈的位置)。它还表明,将气缸数从8个改变为4个会提高英里/加仑
大约10倍(下方蓝色圆圈)。水平蓝线表示这些预测的置信区间。这些预测来自于当另一个预测器发生变化时对其中一个进行平均。在这种情况下,两个预测因素是相关的,在解释结果时要小心。
当另一个预测因子发生变化时,我们不再观察其平均的效果,而是在相互作用图中检查关节相互作用。
图形交互(mdl,“重量”,“气缸”)
相互作用图显示了改变一个预测器而另一个保持不变的影响。在这种情况下,情节更有启发性。例如,在一辆相对轻的汽车中减少汽缸的数量(重量
= 1795)会增加汽车的行驶里程,但会降低较重汽车的汽缸数(重量
= 4732)导致里程数减少。
要更详细地了解相互作用,请查看带有预测的相互作用图。这幅图保持了一个预测因子不变,同时改变了另一个,并将效果绘制成曲线。看看不同数量的圆柱体的相互作用。
图形交互(mdl,“气缸”,“重量”,“预测”)
现在来看看与不同的固定重量水平的相互作用。
图形交互(mdl,“重量”,“气缸”,“预测”)
理解术语效果的情节
这个例子展示了如何使用各种可用的图来理解回归模型中每个术语的影响。
使用创建添加的变量绘图重量^2
作为添加的变量。
plotAdded (mdl“体重^ 2”)
此图显示了两个参数的拟合结果重量^2
和英里/加仑
而不是重量^2
.使用的原因plotAdded
是为了了解你通过添加模型得到了什么额外的改进重量^2
.拟合这些点的直线的系数等于重量^2
在完整的模型中重量^2
预测器刚刚超过显著性的边缘(pValue
< 0.05),如系数表所示。你也可以在图中看到。置信界限看起来不可能包含一条水平线(常量)y
),因此零斜率模型与数据不一致。
为整个模型创建一个添加的变量图。
添加的绘图(mdl)
模型作为一个整体是非常重要的,所以边界不接近包含一条水平线。直线的斜率是预测器在最佳拟合方向上的拟合斜率,换句话说,就是系数向量的范数。
变化模型
有两种方法可以改变模型:
一步
-每次加一项或减一项一步
选择最重要的术语添加或删除。
附加条款
和removeTerms
-添加或删除指定的术语。用中所描述的任何形式给出术语选择一个型号或型号的范围.
如果您使用stepwiselm
,然后一步
只有给不同的上下款式才会有效果。一步
不工作时你适合一个模型使用健壮选择
.
举个例子,从线性模型的里程数开始carbig
数据:
负载carbig台=表(加速度、位移、马力、体重、MPG);mdl = fitlm(资源描述,“线性”,“ResponseVar”,“英里”)
mdl =线性回归模型:MPG ~ 1 +加速度+位移+马力+重量Estimate SE tStat pValue __________ __________ ________ __________ (Intercept) 45.251 2.456 18.424 7.0721e-55加速度-0.023148 0.1256 -0.1843 0.5388位移-0.0060009 0.0067093 -0.89441 0.37166马力-0.043608 0.016573 -2.6312 0.008849重量-0.0052805 0.00081085 -6.5123 2.3025e-10观测次数:392,误差自由度:387均方根误差:4.25 r平方:0.707,调整r平方:0.704 F-statistic vs. constant model: 233, p-value = 9.63 -102
尝试改进模型使用步骤多达10步:
mdl1 =步骤(mdl,“NSteps”, 10)
1.添加排量:马力,FStat = 87.4802, pValue = 7.05273e-19
mdl1 =线性回归模型:MPG ~ 1 +加速度+重量+位移*马力估计系数:Estimate SE tStat pValue __________ __________ _______ __________ (Intercept) 61.285 2.8052 21.847 1.8593e-69加速度-0.34401 0.11862 -2.9 0.0039445位移-0.081198 0.010071 -8.0623 9.5014e-15马力-0.24313 0.026068 -9.3265 8.6556e-19重量-0.0014367 0.00084041 -1.7095 0.088166位移:马力0.00054236 5.7987e-059.3531 7.0527e-19观测数:392,误差自由度:386均方根误差:3.84 R-squared: 0.761,校正R-squared: 0.758 F-statistic vs. constant model: 246, p-value = 1.32e-117
一步
只换了一次就停了。
为了简化模型,删除加快
和重量
从mdl1
:
mdl2=最小值(mdl1,“加速度+重量”)
mdl2=线性回归模型:MPG~1+位移*马力估算系数:估算SE tStat pValue uuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuuu(截距)53.051.526 34.765 3.0201e-121位移-0.098046 0.0066817-14.674 4.3203e-39马力-0.23434 0.019593-11.96 2.8024e-28位移:马力0.00058278 5.193e-05 11.222 1.6816e-25观测次数:392,误差自由度:388均方根误差:3.94 R平方:0.747,调整后的R平方:0.745 F-vs.常数蚂蚁模型:381,p值=3e-115
mdl2
只使用位移
和马力
,几乎和数据吻合得一样好mdl1
在调整后的平方
指标。
一个LinearModel
Object提供了三个函数来预测或模拟对新数据的响应:预测
,函数宏指令
,随机的
.
预测
使用预测
函数预测并获得预测的置信区间。
加载carbig
数据并创建响应的默认线性模型英里/加仑
到加快
,位移
,马力
,重量
预测因子。
负载carbigX =(加速度、位移、马力、重量);mdl = fitlm (X, MPG);
创建一个由最小值、平均值和最大值组成的三行预测器数组。X
包含了一些楠
值,因此指定“omitnan”
选择的意思是
函数。的最小值
和最大值
函数省略楠
默认值。
Xnew = [min (X);意味着(X,“omitnan”)、马克斯(X)];
找出预测的模型响应和预测的置信区间。
[NewMPG, NewMPGCI] =预测(mdl,Xnew)
NewMPG =3×134.1345 23.4078 4.7751
NewMPGCI =3×231.6115 36.6575 22.9859 23.8298 0.6134 8.9367
平均响应的置信界限比最小或最大响应的置信界限更窄。
函数宏指令
使用函数宏指令
函数来预测响应。从表或数据集数组创建模型时,函数宏指令
往往比预测
预测反应。当您有新的预测数据时,您可以将它传递给函数宏指令
不创建表或矩阵。然而函数宏指令
不提供置信范围。
加载carbig
数据集并创建响应的默认线性模型英里/加仑
预测者加快
,位移
,马力
,重量
.
负载carbig台=表(加速度、位移、马力、体重、MPG);mdl = fitlm(资源描述,“线性”,“ResponseVar”,“英里”);
根据预测器的平均值预测模型响应。
NewMPG =函数宏指令(mdl,意味着(加速度,“omitnan”),意味着(位移,“omitnan”),平均(马力,“omitnan”),意思是(重量,“omitnan”))
NewMPG = 23.4078
随机的
使用随机的
函数模拟响应。的随机的
函数模拟新的随机响应值,等于平均预测加上与训练数据具有相同方差的随机扰动。
加载carbig
数据并创建响应的默认线性模型英里/加仑
到加快
,位移
,马力
,重量
预测因子。
负载carbigX =(加速度、位移、马力、重量);mdl = fitlm (X, MPG);
创建一个由最小值、平均值和最大值组成的三行预测器数组。
Xnew = [min (X);意味着(X,“omitnan”)、马克斯(X)];
生成新的预测模型响应,包括一些随机性。
rng (“默认”)%的再现性Xnew NewMPG =随机(mdl)
NewMPG =3×136.4178 31.1958 -4.8176
因为英里/加仑
似乎不明智,再预测两次。
Xnew NewMPG =随机(mdl)
NewMPG =3×137.7959 24.7615 -0.7783
Xnew NewMPG =随机(mdl)
NewMPG =3×132.2931 24.8628 19.9715
显然,第三行(最大)的预测Xnew
是不可靠的。
假设您有一个线性回归模型,例如mdl
从以下命令。
负载carbig台=表(加速度、位移、马力、体重、MPG);mdl = fitlm(资源描述,“线性”,“ResponseVar”,“英里”);
要与其他人共享模型,您可以:
提供模型显示。
mdl
mdl =线性回归模型:MPG ~ 1 +加速度+位移+马力+重量Estimate SE tStat pValue __________ __________ ________ __________ (Intercept) 45.251 2.456 18.424 7.0721e-55加速度-0.023148 0.1256 -0.1843 0.5388位移-0.0060009 0.0067093 -0.89441 0.37166马力-0.043608 0.016573 -2.6312 0.008849重量-0.0052805 0.00081085 -6.5123 2.3025e-10观测次数:392,误差自由度:387均方根误差:4.25 r平方:0.707,调整r平方:0.704 F-statistic vs. constant model: 233, p-value = 9.63 -102
提供模型定义和系数。
mdl。为mula
ans = MPG ~ 1 +加速度+位移+马力+重量
mdl。CoefficientNames
ans=1 x5单元格列1到4 {'(Intercept)'} {'Acceleration'} {'Displacement'}{'马力'}第5列{'Weight'}
mdl.Coefficients.Estimate
ans=5×145.2511 -0.0231 -0.0060 -0.0436 -0.0053
fitlm
|方差分析
|stepwiselm
|预测
|LinearModel
|plotResiduals
|套索
|sequentialfs