主要内容

FeatureSelectionNCARegression类

基于邻域成分分析(NCA)的回归特征选择

全部展开页面

描述

FeatureSelectionNCARegression包含邻域分量分析(NCA)模型的数据、拟合信息、特征权重和其他模型参数。fsrnca使用NCA的对角自适应学习特征权值，并返回的实例FeatureSelectionNCARegression对象。该函数通过正则化特征权重来实现特征选择。

建设

创建一个FeatureSelectionNCAClassification对象使用fsrnca．

属性

全部展开

训练数据中的观测次数(X和Y后删除南或正值，存储为标量。

数据类型:双

用于训练模型的模型参数，存储为一个结构。

可以访问的字段ModelParameters使用点符号。

例如，一个名为FeatureSelectionNCARegression的对象mdl，你可以访问LossFunction使用价值mdl.ModelParameters.LossFunction．

数据类型:结构体

用于训练此模型的正则化参数，存储为标量。为n观察,最好的λ将NCA模型的概化误差最小化的值预期为1/的倍数n．

数据类型:双

用于拟合该模型的拟合方法名称，存储为:

  • “准确”-使用所有数据进行拟合。

  • “没有”——不合适。使用此选项，可以使用调用中提供的初始特征权重来评估NCA模型的泛化误差fsrnca．

  • “平均”—软件将数据划分为多个分区(子集)，使用确切的方法，并返回特征权重的平均值。属性指定分区的数目NumPartitions名称-值对的论点。

用于适应此模型的求解器名称，存储为以下格式之一:

  • “lbfgs”-有限内存Broyden-Fletcher-Goldfarb-Shanno (LBFGS)算法

  • “sgd”-随机梯度下降(SGD)算法

  • “minibatch-lbfgs”-随机梯度下降与LBFGS算法应用于小批量

梯度范数的相对收敛容限“lbfgs”和“minibatch-lbfgs”解算器，存储为正标量值。

数据类型:双

用于优化的最大迭代次数，存储为正整数值。

数据类型:双

最大通行证数量“sgd”和“minibatch-lbfgs”解决者。每次经过都要处理数据中的所有观测值。

数据类型:双

初始学习率“sgd”和“minibatch-lbfgs”解决者。从指定的值开始，学习率在迭代中衰减InitialLearningRate．

使用NumTuningIterations和TuningSubsetSize在调用中控制初始学习速率的自动调优fsrnca．

数据类型:双

详细程度级别指示符，存储为非负整数。可能的值是:

  • 0 -没有收敛总结

  • 1 -收敛总结，包括梯度范数和目标函数值

  • >1 -更多的收敛信息，取决于拟合算法。当你使用“minibatch-lbfgs”求解器和详细级> 1，收敛信息包括中间小批LBFGS拟合的迭代日志。

数据类型:双

初始特征权重，存储为p正实标量的-乘1向量p预测器的数量在吗X．

数据类型:双

特征权重，存储为p实标量值的-乘1向量，其中p预测器的数量在吗X．

为“FitMethod”等于“平均”，FeatureWeights是一个p——- - - - - -米矩阵,米分区的数量是否通过“NumPartitions”的调用中的名称-值对参数fsrnca．

的绝对值FeatureWeights (k)是对预测者重要性的衡量吗k．如果FeatureWeights (k)接近于0，那么这表示预测因子k不影响反应在Y．

数据类型:双

Fit信息，存储为具有以下字段的结构。

字段名 意义
迭代 迭代索引
客观的 正则化的最小化目标函数
UnregularizedObjective 非正则化最小化目标函数
梯度 正则化目标函数最小化的梯度

  • 的分类,UnregularizedObjective表示NCA分类器对训练数据的漏一准确率的负数。

  • 对于回归,UnregularizedObjective表示使用NCA回归模型时真实响应与预测响应之间的漏一损失。

  • 为“lbfgs”解算器,梯度是最后的梯度。为“sgd”和“minibatch-lbfgs”解决,梯度为最终的小批量梯度。

  • 如果FitMethod是“平均”,然后FitInfo是一个米-by-1结构数组米分区的数量是否通过“NumPartitions”名称-值对的论点。

可以访问的字段FitInfo使用点符号。例如，一个名为FeatureSelectionNCARegressionobjectmdl，你可以访问客观的现场使用mdl.FitInfo.Objective．

数据类型:结构体

预测器的意思，存储为p-by-1向量用于标准化训练数据。在这种情况下预测方法中心预测矩阵X减去对应的元素μ从每一列。

如果在培训期间数据没有标准化，那么μ是空的。

数据类型:双

预测标准偏差，存储为p-by-1向量用于标准化训练数据。在这种情况下预测方法尺度预测矩阵X每一列除以对应的元素σ对中后数据使用μ．

如果在培训期间数据没有标准化，那么σ是空的。

数据类型:双

用于训练该模型的预测值，存储为n——- - - - - -p矩阵。n观察的次数是多少p为训练数据中预测变量的个数。

数据类型:双

用于训练该模型的响应值，存储为大小的数字向量n，其中n为观测次数。

数据类型:双

观测权值用于训练这个模型，存储为一个大小的数值向量n．观测权之和为n．

数据类型:双

方法

损失 评估测试数据中学习特征权重的准确性
预测 使用邻域成分分析(NCA)回归模型预测响应
改装 修正邻域分量分析(NCA)模型进行回归

例子

全部折叠

打开生活的脚本

加载示例数据。

负载进口- 85

前15列包含连续预测变量，而第16列包含响应变量，即汽车价格。定义邻域成分分析模型的变量。

预测= X (: 1:15);Y = X (: 16);

拟合邻域成分分析(NCA)模型进行回归，以检测相关特征。

mdl = fsrnca(预测,Y);

返回的NCA模型，mdl,是一个FeatureSelectionNCARegression对象。该对象存储关于训练数据、模型和优化的信息。您可以使用点表示法访问对象属性，例如特性权重。

绘制特征权重。

图()图(mdl。FeatureWeights,“罗”)包含(“功能指数”) ylabel (“功能重量”网格)在

图中包含一个轴对象。axis对象包含一个类型为line的对象。

无关特征的权值为零。的“详细”,1在呼叫中选择fsrnca在命令行中显示优化信息。您还可以通过绘制目标函数与迭代数的关系来可视化优化过程。

图()图(mdl.FitInfo.Iteration mdl.FitInfo.Objective,“ro - - - - - -”网格)在包含(的迭代次数) ylabel (“目标”）

图中包含一个轴对象。axis对象包含一个类型为line的对象。

的ModelParameters属性是一个结构体包含关于模型的更多信息。您可以使用点表示法访问此属性的字段。例如，查看数据是否标准化。

mdl.ModelParameters.Standardize
ans =逻辑0

0说明在拟合NCA模型前数据未标准化。你可以标准化预测当它们在非常不同的尺度上使用“标准化”,1的调用中的名称-值对参数fsrnca．

复制语义

价值。要了解值类如何影响复制操作，请参见复制对象．

另请参阅

|||

主题

介绍了R2016b

统计和机器学习工具箱文档

万博1manbetx

掌握机器学习:一步一步的指导与MATLAB

掌握机器学习:一步一步的指导与MATLAB

下载电子书