为什么交叉验证很重要?
在培训模型时,重要的是不要用过于复杂或太简单的算法过度装备或贴合它。您选择的培训集和测试集对于降低这种风险至关重要。但是,除以数据集以最大化测试结果的学习和有效性都很困难。这是交叉验证的实践的地方。交叉验证提供了多种技术,以不同地拆分数据,以找到模型的最佳算法。
交叉验证也有帮助选择最佳性能模型通过使用测试数据集计算错误,该数据集未用于训练。测试数据集有助于计算模型的准确性以及如何通过未来数据概括。
常见的交叉验证技术
有许多技术可以用于交叉验证。最常见的有:
- K-Fold.:将数据分成k个随机选择的大小大致相同的子集(或折叠)。其中一个子集用于验证使用其余子集训练的模型。这个过程重复k次,以便每个子集只用于验证一次。所有k个分区的平均错误被报告为ε。这是交叉验证中最流行的技术之一,但执行起来需要很长时间,因为模型需要反复训练。下图说明了这个过程。
- 坚持:将数据随机分割为训练和验证的指定比率的两个子集。此方法仅执行一次培训和测试,这在大型集上削减了执行时间,但在小数据集上小心解释报告的错误。
- Leaveout:使用k折叠方法分区数据,其中k等于数据中的观察总数,并且所有数据将作为测试集使用一次。也称为休假交叉验证(LOOCV)。
- 重复随机子采样:创建多个随机数据分区,将其用作训练集和测试集蒙特卡洛方法论和聚合会导致所有运行。该技术具有类似的思想与k折叠相似,但是每个测试集被独立选择,这意味着一些数据点可能用于测试多次。
- 分层:对数据进行分区,使训练集和测试集在响应或目标中具有大致相同的类比例。
- Resubstitution:没有分区数据,所有数据都用于培训模型。通过比较对实际值的结果来评估错误。这种方法通常会产生过度乐观的性能估计,如果有足够的数据,应避免。
由于培训和验证完成了多次,交叉验证可以是计算密集型操作。但是,它是模型开发的关键步骤,以降低过度装备或磨损模型的风险。因为每个分区集是独立的,所以您可以并行执行此分析以加快过程。对于较大的数据集,建议使用熔断或重新提交的技术,而其他数据则更适合较小的数据集,例如K折叠和重复的随机子采样。
交叉验证与MATLAB
MATLAB®万博1manbetx支持交叉验证和机器学习。您可以使用这些交叉验证技术分类学习者应用程序和回归学习者应用.
为了提高计算密集型操作的速度,您可以在多核计算机、gpu和集群上执行并行计算并行计算工具箱™.
有关使用的交叉验证的更多信息机器学习问题,请参见统计和机器学习工具箱™和深度学习工具箱™与matlab一起使用。