模型建立与评估
特征选择、特征工程、模型选择、超参数优化、交叉验证、预测性能评估和分类精度比较测试
在构建高质量的预测分类模型时,选择正确的特征(或预测器)和调优超参数(未估计的模型参数)非常重要。
特征选择和超参数调优可以产生多个模型。你可以比较k-fold误分类率,受试者工作特征(ROC)曲线,或模型之间的混淆矩阵。或者,进行统计测试,以检测一个分类模型是否显著优于另一个分类模型。
要在训练分类模型之前设计新特征,请使用gencfeatures
.
要以交互方式构建和评估分类模型,请使用分类学习者应用程序。
若要自动选择具有调优超参数的模型,请使用fitcauto
.这个函数尝试选择具有不同超参数值的分类模型类型,并返回预期在新数据上表现良好的最终模型。使用fitcauto
当你不确定哪种分类器类型最适合你的数据时。
要调优特定模型的超参数,请选择超参数值并使用这些值交叉验证模型。例如,要调优SVM模型,请选择一组框约束和内核尺度,然后为每对值交叉验证模型。某些统计和机器学习工具箱™分类功能通过贝叶斯优化、网格搜索或随机搜索提供自动超参数调优。bayesopt
,实现贝叶斯优化的主要功能,对于许多其他应用程序来说也足够灵活。看到贝叶斯优化流程.
要解释分类模型,可以使用石灰
,沙普利
,plotPartialDependence
.
应用程序
分类学习者 | 训练模型使用监督机器学习对数据进行分类 |
功能
对象
属性
ConfusionMatrixChart属性 | 混淆矩阵图表外观和行为 |
ROCCurve属性 | 受试者工作特征(ROC)曲线的外观和行为 |
主题
分类学习者App
- 在分类学习App中训练分类模型
用于训练、比较和改进分类模型的工作流,包括自动、手动和并行训练。 - 分类学习中分类器性能的可视化和评估
比较模型精度分数,通过绘制类预测来可视化结果,并在混淆矩阵中检查每个类的性能。 - 使用分类学习App进行特征选择和特征转换
使用图或特征排序算法识别有用的预测因子,选择要包含的特征,并使用分类学习器中的PCA转换特征。
特征选择
- 特征选择简介
了解特征选择算法,并探索可用于特征选择的功能。 - 顺序特征选择
本主题介绍了顺序特征选择,并提供了使用自定义标准和顺序选择特征的示例sequentialfs
函数。 - 邻域成分分析(NCA)特征选择
邻域成分分析(NCA)是一种以最大化回归和分类算法预测精度为目标的特征选择的非参数方法。 - 调整正则化参数,使用NCA进行分类
这个例子展示了如何调优正则化参数fscnca
使用交叉验证。 - 正则化判别分析分类器
在不影响模型预测能力的情况下,通过删除预测器来创建更健壮、更简单的模型。 - 选择分类高维数据的特征
这个例子展示了如何选择特征来分类高维数据。
工程特性
- 分类自动化特征工程
使用gencfeatures
在训练分类模型之前设计新特征。在对新数据进行预测之前,对新数据集应用相同的特征转换。
自动模型选择
- 自动分类器选择贝叶斯和ASHA优化
使用fitcauto
给出训练预测器和响应数据,自动尝试选择具有不同超参数值的分类模型类型。
Hyperparameter优化
- 贝叶斯优化流程
使用拟合函数或调用来执行贝叶斯优化bayesopt
直接。 - 贝叶斯优化的变量
为贝叶斯优化创建变量。 - 贝叶斯优化目标函数
创建贝叶斯优化的目标函数。 - 贝叶斯优化中的约束
为贝叶斯优化设置不同类型的约束。 - 使用bayesopt优化交叉验证分类器
使用贝叶斯优化最小化交叉验证损失。 - 使用贝叶斯优化优化分类器拟合
使交叉验证损失最小化OptimizeParameters
拟合函数中的名称-值参数。 - 贝叶斯优化图函数
可视化地监视贝叶斯优化。 - 贝叶斯优化输出函数
监视贝叶斯优化。 - 贝叶斯优化算法
理解贝叶斯优化的底层算法。 - 并行贝叶斯优化
贝叶斯优化如何并行工作。
模型的解释
- 解释机器学习模型
解释模型预测石灰
而且沙普利
对象和plotPartialDependence
函数。 - 机器学习模型的Shapley值
使用两种算法计算机器学习模型的Shapley值:kernelSHAP和kernelSHAP的扩展。
交叉验证
- 使用并行计算实现交叉验证
使用并行计算加速交叉验证。
分类性能评估
- ROC曲线与绩效指标
使用rocmetrics
在测试数据集上检验分类算法的性能。 - perfcurve的性能曲线
了解如何perfcurve
函数计算受试者工作特征(ROC)曲线。