损失

分类错误

扩展所有的页面

语法

L =损失(obj, X, Y) L =损失(obj, X, Y,名称,值)

描述

l=损失(obj,X,Y)返回分类损失代表多好,这是一个标量obj分类的数据X,当Y包含真正的分类。

当计算损失,损失规范类的概率Y类概率用于训练,存储在之前的属性obj。

l=损失(obj,X,Y,名称,值)返回指定的一个或多个损失额外的选项名称,值对参数。

请注意

如果预测数据X包含任何缺失的值LossFun没有设置为“mincost”或“classiferror”,损失函数可以返回NaN。有关更多信息,请参见损失可以返回NaN预测数据缺失值。

输入参数

`obj`	判别分析分类器类`ClassificationDiscriminant`或`CompactClassificationDiscriminant`,通常采用`fitcdiscr`。
`X`	矩阵的每一行代表一个观察,每一列代表一个预测。列的数量`X`必须等于预测的数量吗`obj`。
`Y`	类标签,存在于相同的数据类型`obj`。元素的数量`Y`的行数必须等于`X`。

名称-值参数

指定可选的双参数作为Name1 = Value1,…,以=家,在那里的名字参数名称和吗价值相应的价值。名称-值参数必须出现在其他参数,但对的顺序无关紧要。

R2021a之前,用逗号来分隔每一个名称和值,并附上的名字在报价。

LossFun

内置的损失函数名(特征向量或表中的字符串标量)或函数句柄。

下表列出了可用的损失函数。指定一个使用对应的值。

价值	描述
`“binodeviance”`	二项异常
`“classifcost”`	观察到的误分类代价
`“classiferror”`	被误诊率小数
`“指数”`	指数损失
`“枢纽”`	铰链的损失
`分对数的`	物流损失
`“mincost”`	最小的预期的误分类代价(后验概率的分类评分)
`“二次”`	二次损失

“mincost”适合分类后验概率的分数。判别分析模型返回后验概率作为默认分类得分(见预测)。

指定你自己的函数使用函数处理符号。
假设n被观察的数量X和K不同的类的数目(元素个数(Mdl.ClassNames))。你的函数必须有这个签名
```
lossvalue =lossfun(C、S、W、成本)
```
地点:
- 输出参数lossvalue是一个标量。
- 你选择函数名(lossfun)。
- C是一个n——- - - - - -K逻辑矩阵行指示相应的观察所属的类。列顺序对应于类顺序Mdl.ClassNames。
  构造C通过设置C (p, q) = 1如果观察p是在课堂上问,为每一行。设置所有其他元素的行p来0。
- 年代是一个n——- - - - - -K数字矩阵分类的分数。列顺序对应于类顺序Mdl.ClassNames。年代分类是一个矩阵得分,类似的输出预测。
- W是一个n1数字的观察向量权重。如果你通过W,软件使他们和规范化1。
- 成本是一个K——- - - - - -K数字矩阵的误分类代价。例如,成本= 1 (K) -眼(K)指定了一个成本0正确的分类,1误分类。
指定你的函数使用“LossFun”@lossfun。

损失函数的更多细节,请参阅分类损失。

默认值:“mincost”

权重

数值向量的长度N,在那里N的行数X。权重是负的。损失规范化权重,以便观察权重在每个类的先验概率和类。当你供应权重,损失计算加权分类损失。

默认值:的(N, 1)

输出参数

`l`	分类损失一个标量。的解释`l`取决于价值观`权重`和`lossfun`。

例子

全部展开

估计分类错误

打开生活的脚本

加载费雪的虹膜数据集。

负载fisheriris

火车一个判别分析模型使用所有观测数据。

Mdl = fitcdiscr(量、种类);

估计模型的分类误差观测使用培训。

L =损失(Mdl、量、物种)

L = 0.0200

另外,如果Mdl不是紧凑,那么你可以估计推理分类错误通过Mdl来resubLoss。

更多关于

全部展开

分类损失

分类损失函数度量分类模型的预测误差。当你在考虑对比许多相同类型的损失模型,较低的损失表示一个更好的预测模型。

考虑以下场景。

l是加权平均分类损失。
n是样本容量。

二进制分类:
- y_j是观察到的类标签。软件代码为1或1,表明消极或积极类(或第一或第二课一会分别属性)。
- f(X_j观察)是positive-class分类评分(行)j预测的数据X。
- 米_j=y_jf(X_j)是分类的分类评分观察j相对应的类y_j。积极的价值观米_j显示正确的分类,不为平均损失作出多少贡献。负的米_j显示不正确的分类和对平均损失作出了重大贡献。
对于支持多级分类的算法(即万博1manbetxK≥3):
- y_j^*是一个向量的K- 1 0与1的位置对应于真实,观察类y_j。例如,如果真正的第二步是第三类的类K= 4,然后y₂^*= (0 0 1 0]′。类的顺序对应订单的一会输入模型的属性。
- f(X_j)是长度K向量类分数的观察j预测的数据X。分数的顺序对应类的顺序一会输入模型的属性。
- 米_j=y_j^*′f(X_j)。因此,米_j的标量分类评分模型预测真实,观察类。
观察的重量j是w_j。软件可实现观察权重,这样他们和前到相应的类存储在概率之前财产。因此,

$\sum_{j = 1}^{n} w_{j} = 1。$

鉴于这种情况,下表描述了支持损失函数,您可以指定使用万博1manbetxLossFun名称-值参数。

损失函数	的价值`LossFun`	方程
二项异常	`“binodeviance”`	$l = \sum_{j = 1}^{n} w_{j} 日志 {1 + 经验值 (- 2 米_{j}]} 。$
观察到的误分类代价	`“classifcost”`	$l = \sum_{j = 1}^{n} w_{j} c_{y_{j} {\hat{y}}_{j}},$ 在哪里 ${\hat{y}}_{j}$ 是最大的类标签对应类分数,然后呢 $c_{y_{j} {\hat{y}}_{j}}$ 分类的用户指定的成本是一个观察到课吗 ${\hat{y}}_{j}$ 当它真正的类y_j。
被误诊率小数	`“classiferror”`	$l = \sum_{j = 1}^{n} w_{j} 我 {{\hat{y}}_{j} \neq y_{j}},$ 在哪里我{·}是指标函数。
叉损失	`“crossentropy”`	`“crossentropy”`只适用于神经网络模型。加权熵损失 $l = - \sum_{j = 1}^{n} \frac{{\tilde{w}}_{j} 日志 (米_{j})}{K n},$ 的权重 ${\tilde{w}}_{j}$ 规范化和吗n而不是1。
指数损失	`“指数”`	$l = \sum_{j = 1}^{n} w_{j} 经验值 (- 米_{j}) 。$
铰链的损失	`“枢纽”`	$l = \sum_{j = 1}^{n} w_{j} 马克斯 {0, 1 - 米_{j}} 。$
分对数损失	`分对数的`	$l = \sum_{j = 1}^{n} w_{j} 日志 (1 + 经验值 (- 米_{j})) 。$
最小的预期错误分类成本	`“mincost”`	`“mincost”`只有分类是合适的分数是后验概率。软件计算加权最小分类会带来成本使用这个过程观察j= 1,…,n。估计预期的错误分类的分类成本观察X_j到类k: $γ_{j k} = {(f {(X_{j})}^{'} C)}_{k} 。$ f(X_j)的列向量类的后验概率的观察X_j。C中存储的成本矩阵吗`成本`模型的属性。为观察j,预测类标签对应最小的预期的误分类代价: ${\hat{y}}_{j} = \underset{k = 1, …, K}{argmin} γ_{j k} 。$ 使用C识别成本(c_j)进行预测。加权平均的误分类代价最小的预期损失 $l = \sum_{j = 1}^{n} w_{j} c_{j} 。$
二次损失	`“二次”`	$l = \sum_{j = 1}^{n} w_{j} {(1 - 米_{j})}^{2} 。$

如果你使用默认成本矩阵的元素值为0为不正确的分类正确的分类和1),那么损失值“classifcost”,“classiferror”,“mincost”都是相同的。模型与一个默认的成本矩阵,“classifcost”等于损失“mincost”大部分的时间损失。这些损失可以是不同如果预测到最大后验概率的类是不同的从预测到类以最小的预期成本。请注意,“mincost”只有分类是合适的分数是后验概率。

这个图比较了损失函数(除了“classifcost”,“crossentropy”,“mincost”)得分米一个观察。一些函数归一化通过点(0,1)。

后验概率

一个点的后验概率x属于类k先验概率的乘积,多元正态密度。多元正态的密度函数与1 -d的意思是μ_k和d——- - - - - -d协方差Σ_k在1 -d点x是

$P (x | k) = \frac{1}{{({(2 π)}^{d} | Σ_{k} |)}^{1 / 2}} 经验值 (- \frac{1}{2} (x - μ_{k}) Σ_{k}^{- 1} {(x - μ_{k})}^{T}),$

在哪里 $| Σ_{k} |$ Σ的行列式吗_k, $Σ_{k}^{- 1}$ 是逆矩阵。

让P(k代表类的先验概率k。然后一个观察的后验概率x的类k是

$\hat{P} (k | x) = \frac{P (x | k) P (k)}{P (x)},$

在哪里P(x)是一个归一化常数,求和k的P(x|k)P(k)。

先验概率

先验概率是三个选择:

“统一”——类的先验概率k是一个类的总数。
“经验”——类的先验概率k是类的训练样本的数量吗k除以总数量的训练样本。
自定义类的先验概率k是k的th元素之前向量。看到fitcdiscr。

在创建一个分类模型(Mdl),您可以设置之前使用点符号:

Mdl。Prior = v;

在哪里v是一个向量的积极元素代表每个元素出现的频率。你不需要重新训练分类器之前当你设置一个新的。

成本

矩阵的预期成本每观察中定义成本。

扩展功能

高大的数组
计算和数组的行比装入内存。

这个函数完全支持高数组。万博1manbetx您可以使用模型训练与这个函数在内存中或高数据。

有关更多信息,请参见高大的数组。

版本历史

全部展开

R2022a:`损失`可以返回NaN和缺失值预测数据

行为改变R2022a

的损失函数不再省略了一个观察与南得分计算加权平均分类损失。因此,损失现在可以返回NaN当预测数据X包含任何缺失值和名称参数LossFun不是指定为“classifcost”,“classiferror”,或“mincost”。在大多数情况下,如果测试集观测不含缺失的预测,损失函数不返回NaN。

这一变化提高了分类模型的自动选择,当你使用fitcauto。这种变化之前,软件可能会选择一个模型(最好将分类新数据)和一些non-NaN预测。

如果损失在您的代码返回NaN,你可以更新你的代码来避免这一结果通过下列之一:

通过删除或替换缺失值rmmissing或fillmissing,分别。
指定名称的参数LossFun作为“classifcost”,“classiferror”,或“mincost”。

下面的表显示了分类模型的损失目标函数可以返回NaN。更多细节,请参见兼容性的考虑损失函数。

模型类型	全部或紧凑的模型对象	`损失`目标函数
判别分析分类模型	`ClassificationDiscriminant`,`CompactClassificationDiscriminant`	`损失`
系综分类的学习者	`ClassificationEnsemble`,`CompactClassificationEnsemble`	`损失`
高斯核函数分类模型	`ClassificationKernel`	`损失`
k最近的邻居分类模型	`ClassificationKNN`	`损失`
线性分类模型	`ClassificationLinear`	`损失`
神经网络分类模型	`ClassificationNeuralNetwork`,`CompactClassificationNeuralNetwork`	`损失`
万博1manbetx支持向量机(SVM)分类模型	`ClassificationSVM`,`CompactClassificationSVM`	`损失`