正规化是找到一小组预测器的过程,产生有效的预测模型。对于线性判别分析,有两个参数,γ和δ,控制正则化如下。cvshrink.
帮助您选择参数的适当值。
设Σ表示数据的协方差矩阵X, 然后让
居中数据(数据X减去班上的均值)。定义
正规化的协方差矩阵
是
每当γ≥Mingamma.
那
是不合作的。
让μK.是那些元素的平均矢量X在班上K., 然后让μ0.是全球均值矢量(行的平均值X)。让C是数据的相关矩阵X, 然后让
是正常的相关矩阵:
在哪里一世是身份矩阵。
用于数据点的正则判别分析分类器中的线性术语X是
参数δ进入该等式作为方括号中最终术语的阈值。矢量的每个组件
如果其幅度小于阈值,则设置为零δ。因此,课堂K.,如果是组件j是零零,组件的阈值j的X不进入后验概率的评估。
这DeltaPredictor
属性是与此阈值相关的向量。什么时候δ≥deltapredictor(i)
,所有课程K.有
因此,什么时候δ≥deltapredictor(i)
,正则化分类器不使用预测器一世
。