加载NLP数据集。

负载nlpdata

X是一个稀疏矩阵的预测数据，和Y是类标签的分类向量。数据中有两个以上的类。

这些模型应该识别网页中的字数是否来自统计和机器学习工具箱™文档。因此，确定与统计和机器学习工具箱™文档网页对应的标签。

Ystats = Y ==“统计数据”；

训练一个二进制线性分类模型，可以识别文档网页中的字数是否来自统计和机器学习工具箱™文档。指定坚持30%的观察。利用SpaRSA对目标函数进行优化。

rng (1);%用于再现性CVMdl = fitclinear(X,Ystats，“规划求解”，“sparsa”，“坚持”, 0.30);CMdl = cvmdl .训练{1};

CVMdl是一个ClassificationPartitionedLinear模型。它包含属性训练有素的，这是一个1乘1单元格数组，包含一个ClassificationLinear软件使用训练集训练的模型。

从分区定义中提取训练和测试数据。

trainIdx = training(CVMdl.Partition);testdx = test(CVMdl.Partition);

估计训练样本边和测试样本边。

eTrain = edge(CMdl,X(trainIdx，:)，Ystats(trainIdx)))

eTrain = 15.6660

eTest = edge(CMdl,X(testdx，:)，Ystats(testdx)))

eTest = 15.4767

执行特征选择的一种方法是比较来自多个模型的测试样本边。仅根据这一准则，边缘最高的分类器就是最好的分类器。

加载NLP数据集。

负载nlpdata

X是一个稀疏矩阵的预测数据，和Y是类标签的分类向量。数据中有两个以上的类。

这些模型应该识别网页中的字数是否来自统计和机器学习工具箱™文档。因此，确定与统计和机器学习工具箱™文档网页对应的标签。为了加快执行时间，请对预测器数据进行定向，以便各个观察值对应于列。

Ystats = Y ==“统计数据”；X = X';rng (1);%用于再现性

创建一个数据分区，其中保留30%的观察结果用于测试。

分区= cvpartition(Ystats，“坚持”, 0.30);testdx = test(分区);%测试集指数XTest = X(:， testdx);YTest = Ystats(testdx);

分区是一个cvpartition对象，该对象定义数据集分区。

随机选择一半的预测变量。

p = size(X,1);%预测因子的数量idxPart = randsample(p,ceil(0.5*p));

训练两个二元线性分类模型:一个使用所有预测因子，另一个使用一半预测因子。利用SpaRSA对目标函数进行优化，表明观测值与列相对应。

CVMdl = fitclinear(X,Ystats，“CVPartition”分区,“规划求解”，“sparsa”，.．.“ObservationsIn”，“列”);PCVMdl = fitclinear(X(idxPart，:))，Ystats，“CVPartition”分区,“规划求解”，“sparsa”，.．.“ObservationsIn”，“列”);

CVMdl而且PCVMdl是ClassificationPartitionedLinear模型。

提取训练有素的ClassificationLinear来自交叉验证模型的模型。

CMdl = cvmdl .训练{1};PCMdl = pcvmdl .训练{1};

估计每个分类器的测试样本边缘。

fullEdge = edge(CMdl,XTest,YTest，“ObservationsIn”，“列”）

fullEdge = 15.4767

partEdge = edge(PCMdl,XTest(idxPart，:)，YTest，“ObservationsIn”，“列”）

partEdge = 13.4458

基于测试样本边，使用所有预测因子的分类器是更好的模型。

为了确定使用逻辑回归学习器的线性分类模型的良好套索惩罚强度，比较测试样本边。

加载NLP数据集。预处理数据，如使用测试样本边进行特征选择．

负载nlpdataYstats = Y ==“统计数据”；X = X';分区= cvpartition(Ystats，“坚持”, 0.30);testdx = test(分区);XTest = X(:， testdx);YTest = Ystats(testdx);

创建一组11个对数间隔的正则化强度 $$10^{-8}$$通过 $$10^1$$．

Lambda = logspace(-8,1,11);

训练使用每种正则化强度的二元线性分类模型。利用SpaRSA对目标函数进行优化。将目标函数的梯度公差降低到1 e-8．

rng (10);%用于再现性CVMdl = fitclinear(X,Ystats，“ObservationsIn”，“列”，.．.“CVPartition”分区,“学习者”，“物流”，“规划求解”，“sparsa”，.．.“正规化”，“套索”，“λ”λ,“GradientTolerance”1 e-8)

CVMdl = ClassificationPartitionedLinear CrossValidatedModel: 'Linear' ResponseName: 'Y' NumObservations: 31572 KFold: 1 Partition: [1x1 cvpartition] ClassNames: [0 1] ScoreTransform: 'none'属性，方法

提取训练好的线性分类模型。

Mdl = CVMdl。训练有素的{1}

Mdl = ClassificationLinear ResponseName: 'Y' ClassNames: [0 1] ScoreTransform: 'logit' Beta: [34023x11 double]偏差:[-11.3599 -11.3599 -11.3599 -11.3599 -11.3599 -11.3599…[1.0000e-08 7.9433e-08 6.3096e-07 5.0119e-06…]学习者:“逻辑”属性，方法

Mdl是一个ClassificationLinear模型对象。因为λ是一个正则化强度序列，你能想到吗Mdl作为11个模型，每个模型中的正则化强度为1λ．

估计测试样本边。

e = edge(Mdl,X(:， testdx)，Ystats(testdx)，“ObservationsIn”，“列”）

e =1×110.9986 0.9986 0.9986 0.9986 0.9933 0.9765 0.9202 0.8340 0.8128 0.8128

因为有11个正则化优势，e是一个1 × 11的边向量。

绘制每个正则化强度的测试样本边。确定使网格边缘最大化的正则化强度。

图;情节(log10(λ)log10 (e),“o”) [~， maxEIdx] = max(e);maxLambda = Lambda(maxEIdx);持有在情节(log10 (maxLambda) log10 (e (maxEIdx)),“罗”);ylabel ('log_{10} test-sample edge')包含(“log_{10}λ的)传说(“边缘”，的最大优势)举行从

的几个值λ产生同样高的边缘。较高的lambda值导致预测变量稀疏性，这是分类器的一个良好品质。

选择恰好在边缘开始减少之前发生的正则化强度。

LambdaFinal = Lambda(5);

使用整个数据集训练一个线性分类模型，并指定产生最大边缘的正则化强度。

MdlFinal = fitclinear(X,Ystats，“ObservationsIn”，“列”，.．.“学习者”，“物流”，“规划求解”，“sparsa”，“正规化”，“套索”，.．.“λ”, LambdaFinal);

要估计新观测值的标签，请通过MdlFinal新的数据预测．