为什么交叉验证很重要?
在训练模型时,重要的是不要用过于复杂或过于简单的算法对模型进行过拟合或过拟合。您选择的培训集和测试集对于降低这种风险至关重要。然而,分割数据集以最大化学习和测试结果的有效性是困难的。这就是交叉验证开始实施的地方。交叉验证提供了几种不同的数据分割技术,以找到模型的最佳算法。
交叉验证也有助于选择最佳性能模型通过使用未用于训练的测试数据集计算误差。测试数据集有助于计算模型的精度,以及如何用未来的数据概括模型。
通用交叉验证技术
有许多技术可以用于交叉验证。最常见的有:
- k折:将数据分成k个随机选择的大小大致相同的子集(或折叠)。其中一个子集用于验证使用其余子集训练的模型。这个过程重复k次,以便每个子集只用于验证一次。所有k个分区的平均错误被报告为ε。这是交叉验证中最流行的技术之一,但执行起来需要很长时间,因为模型需要反复训练。下图说明了这个过程。
- 坚持:将数据随机分成两个指定比率的子集,用于训练和验证。此方法仅执行一次训练和测试,这缩短了在大型数据集上的执行时间,但在小型数据集上小心解释报告的错误。
- Leaveout:使用k-fold方法分割数据,其中k等于数据中的观察总数,所有数据将作为测试集使用一次。也称为遗漏交叉验证(LOOCV)。
- 重复随机次抽样:创建多个随机数据分区,将其用作训练集和测试集蒙特卡罗方法论和聚合所有运行的结果。此技术与k-fold的思想类似,但每个测试集都是独立选择的,这意味着某些数据点可能会用于多次测试。
- 分层:对数据进行分区,使训练集和测试集在响应或目标中具有大致相同的类比例。
- Resubstitution:不划分数据,所有数据用于训练模型。通过将结果与实际值进行比较来评估误差。这种方法通常会产生过于乐观的性能估计,如果有足够的数据,应避免使用。
交叉验证可能是一项计算密集型操作,因为培训和验证要进行多次。但是,在模型开发中,减少模型拟合过度或拟合不足的风险是一个关键步骤。因为每个分区集都是独立的,所以您可以并行执行此分析以加快过程。对于较大的daTASET中,建议使用保留或重新替代等技术,而其他技术更适合于较小的数据集,如k倍和重复随机子采样。
交叉验证与MATLAB
MATLAB®万博1manbetx支持交叉验证和机器学习。您可以使用这些交叉验证技术分类学习者应用程序和回归学习者应用.
为了提高计算密集型操作的速度,您可以在多核计算机、gpu和集群上执行并行计算并行计算工具箱™.
有关使用的交叉验证的更多信息机器学习问题,请参见统计和机器学习工具箱™和深度学习工具箱™用于MATLAB。