的回归集成的交叉验证损失卡斯莫尔数据

加载卡斯莫尔数据集和选择位移，马力，和车辆重量作为预测。

负载卡斯莫尔X=[排量马力重量]；

训练一组回归树。

任正非= fitrensemble (X, MPG);

创建一个交叉验证的集成伦斯并求出k倍交叉验证损失。

rng（10，“龙卷风”)%的再现性cvrens=交叉值（rens）；L=kfoldLoss（cvrens）

L=28.7114

均方误差(MSE)是模型质量的一种度量。检验交叉验证回归模型的每个折叠的MSE。

加载卡斯莫尔数据集。指定预测值X和响应数据Y．

负载卡斯莫尔X=气缸排量马力重量；Y=每加仑；

训练一个交叉验证的回归树模型。默认情况下，该软件实现10倍交叉验证。

rng (“默认”)%的再现性CVMdl = fitrtree (X, Y,“克罗斯瓦尔”,“开”);

计算每个折叠的MSE。使用方框图可视化损失值的分布。请注意，没有一个值是异常值。

损失=kfoldLoss（CVMdl，“模式”,“个人”)

损失=10×142.5072 20.3995 22.3737 34.4255 40.8005 60.2755 19.5562 9.2060 29.0788 16.3386

boxchart(损失)

训练10倍交叉验证的广义加性模型（GAM）kfoldLoss计算累积交叉验证回归损失(均方误差)。利用误差来确定每个预测器的最佳树数(预测器的线性项)和每个交互项的最佳树数。

或者，您可以找到菲特格姆通过使用优化超参数名称值参数。有关示例，请参阅使用OptimizeHyperparameters优化GAM．

加载病人数据集。

负载病人

创建一个包含预测变量的表(年龄,舒张压,吸烟者,重量,性别和SelfAssessedHealthStatus)和响应变量(收缩的)．

台=表(年龄、舒张压、吸烟、体重、性别、SelfAssessedHealthStatus,收缩期);

使用默认的交叉验证选项创建一个交叉验证的GAM。指定“克罗斯瓦尔”将值参数命名为“开”。此外，指定包含5个交互术语。

rng (“默认”)%的再现性CVMdl=FITGAM（待定，“收缩性”,“克罗斯瓦尔”,“开”,“互动”,5);

如果您指定“模式”像“累积的”对于kfoldLoss，然后该函数返回累积误差，即使用每个折叠相同数量的树获得的所有折叠的平均误差。显示每个折叠的树数。

CVMdl。NumTrainedPerFold

ans=带字段的结构：InteractionTrees: [76 100 100 100 100 100 42 100 100 100 59 100]

kfoldLoss可以使用多达300个预测树和42个交互树计算累积误差。

绘制累积的，10倍交叉验证，均方误差。指定“包容性互动”像错误的将相互作用项从计算中排除。

L_noInteractions = kfoldLoss (CVMdl,“模式”,“累积的”,“包容性互动”，假）；图形绘图（0:min（CVMdl.NumTrainedPerFold.Predictor树），无交互）

第一要素无交互作用是仅使用截距（常数）项获得的所有折叠的平均误差。(J + 1) th元素的无交互作用是使用截距项和第一个截距项获得的平均误差J每个线性项的预测树。通过绘制累积损失图，您可以监控随着GAM中预测树数量的增加，错误如何变化。

找到最小误差和用于实现最小误差的预测树的数量。

[M，I]=min（无相互作用）

M=28.0506

I=6

当GAM包含5个预测树时，其误差最小。

使用线性项和交互项计算累积均方误差。

L = kfoldLoss (CVMdl,“模式”,“累积的”); 图形绘图（0:min（CVMdl.NumTrainedPerFold.InteractionTrees），L）

第一要素L是使用截距（常数）项和每个线性项的所有预测树获得的所有折叠的平均误差(J + 1) th元素的L是使用截距项、每个线性项的所有预测树和第一个预测树获得的平均误差J每个交互项的交互树。图中显示，当添加交互项时，误差增大。

如果当预测树的数目为5时，您对错误感到满意，则可以通过再次训练单变量GAM并指定“NumTreesPerPredictor”，5没有交叉验证。