このページの翻訳は最新ではありません。ここをクリックして,英語の最新版を参照してください。
损失
分類誤差
構文
説明
l=损失(树，资源描述，ResponseVarName）资源描述。ResponseVarNameが真の分類を含む場合に,树で资源描述データをどの程度の精度で分類するかを表します。
損失を計算する場合,损失はYのクラス確率を,树の之前プロパティに格納されている学習に使用されるクラス確率に正規化します。
入力引数
出力引数
例
標本内分類誤差の計算
电离层データセットの再代入分類誤差を計算します。
负载电离层树= fitctree (X, Y);L =损失(树,X, Y)
L = 0.0114
各部分木の分類誤差の確認
枝刈りをしていない決定木は,過適合になる傾向があります。モデルの複雑さと標本外性能のバランスをとる方法の1つとして,標本内性能と標本外性能が十分高くなるように木の枝刈りを行います(つまり木の成長を制限します)。
フィッシャーのアヤメのデータセットを読み込みます。データを学習セット(50%)と検定セット(50%)に分割します。
负载fisheriris1) n =大小(量;rng (1)%的再现性idxTrn = false (n, 1);idxTrn (randsample (n,圆(0.5 * n))) = true;%训练集逻辑索引idxVal = idxTrn == false;%验证设置逻辑索引
学習セットを使用して分類木を成長させます。
Mdl = fitctree(量(idxTrn:),物种(idxTrn));
分類木を表示します。
视图(Mdl,“模式”，“图”）;
この分類木には4つの枝刈りレベルがあります。レベル0は(表示のように)枝刈りされていない完全な木です。レベル3はルートノードのみ(分割なし)です。
最上位レベルを除く各部分木(枝刈りレベル)について,学習標本の分類誤差を確認します。
m = max(Mdl.PruneList) - 1;trnLoss = resubLoss (Mdl,“子树”0米):
trnLoss =3×10.0267 0.0533 0.3067
枝刈りされていない完全な木では,学習観測値の約2.7%が誤分類されています。
レベル1まで枝刈りされた木では,学習観測値の約5.3%が誤分類されています。
レベル2(切り株)まで枝刈りされた木では,学習観測値の約30.6%が誤分類されています。
最上位を除く各レベルで検定標本の分類誤差を確認します。
valLoss =损失(Mdl量(idxVal:),物种(idxVal),“子树”0米):
valLoss =3×10.0369 0.0237 0.3067
枝刈りされていない完全な木では,検定観測値の約3.7%が誤分類されています。
レベル1まで枝刈りされた木では,検定観測値の約2.4%が誤分類されています。
レベル2(切り株)まで枝刈りされた木では,検定観測値の約30.7%が誤分類されています。
モデルの複雑さと標本外性能のバランスをとるには,Mdlをレベル1まで枝刈りすることを検討します。
pruneMdl =修剪(Mdl,“水平”1);视图(pruneMdl,“模式”，“图”）
詳細
分類損失
"分類損失"関数は分類モデルの予測誤差を評価します。複数のモデルで同じタイプの損失を比較した場合,損失が低い方が予測モデルとして優れていることになります。
以下のシナリオを考えます。
Lは加重平均分類損失です。
nは標本サイズです。
バイナリ分類は以下です。
yjは観測されたクラスラベルです。陰性クラスを示す1または陽性クラスを示す1(あるいは,
一会プロパティの最初のクラスを示す1または2番目のクラスを示す1)を使用して符号化されます。f (Xj)は予測子データXの観測値(行)jに対する陽性クラスの分類スコアです。
米j= yjf (Xj)はyjに対応するクラスに観測値jを分類する分類スコアです。正の値のmjは正しい分類を示しており,平均損失に対する寄与は大きくありません。負の値のmjは正しくない分類を示しており,平均損失に大きく寄与します。
マルチクラス分類(つまり,K≥3)をサポートするアルゴリズムの場合,次のようになります。
yj＊はK - 1個の0と観測された真のクラスyjに対応する位置の1から構成されるベクトルです。たとえば,2番目の観測値の真のクラスが 3 番目のクラスでありK = 4の場合,y2＊= [0 0 1 0] 'になります。クラスの順序は入力モデルの
一会プロパティ内の順序に対応します。f (Xj)は予測子データXの観測値jに対するクラススコアのベクトルで,長さはKです。スコアの順序は入力モデルの
一会プロパティ内のクラスの順序に対応します。米j= yj＊“f (Xj)．したがってmjは,観測された真のクラスについてモデルが予測するスカラー分類スコアです。
観測値jの重みはwjです。観測値の重みは正規化され,合計は対応するクラスの事前確率になります。また,事前確率は合計が1になるように正規化されます。そのため,次のようになります。
この状況では,名前と値のペアの引数“LossFun”を使用して指定できる,サポートされる損失関数は次の表のようになります。
| 損失関数 | LossFunの値 |
式 |
|---|---|---|
| 二項分布からの逸脱度 | “binodeviance” |
|
| 10進数の誤分類率 | “classiferror” |
は,スコアが最大であるクラスに対応するクラスラベルです。我{·}はインジケーター関数です。 |
| クロスエントロピー損失 | “crossentropy” |
加重クロスエントロピー損失は次となります。
ここで重み は,合計が1ではなくnになるように正規化されます。 |
| 指数損失 | “指数” |
|
| ヒンジ損失 | “枢纽” |
|
| ロジット損失 | 分对数的 |
|
| 最小予測誤分類コスト | “mincost” |
重み付きの最小予測分類コストは,次の手順を観測値j = 1,……nについて使用することにより計算されます。
最小予測誤分類コスト損失の加重平均は次となります。
既定のコスト行列(正しい分類の場合の要素値は0,誤った分類の場合の要素値は1)を使用する場合, |
| 二次損失 | “二次” |
次の図では1つの観測値のスコアmに対する損失関数(“crossentropy”および“mincost”を除く)を比較しています。いくつかの関数は,点(0,1)を通過するように正規化されています。
スコア(ツリー)
ツリーの場合,葉ノードの分類の“スコア”は,そのノードでの分類の事後確率です。あるノードにおける分類の事後確率とは,分類によって実際にそのノードに達するのに要した学習シーケンスの数を,そのノードまでの学習シーケンスの数で除算した値です。
たとえば,X<0．15またはX>0.95である場合は予測子Xを真正的に分類し,それ以外の場合はXを假に分類するとします。
100年個の点を無作為に生成し,分類します。
rng (0,“旋风”）%的再现性X =兰德(100 1);Y = (abs(X - .55) > .4);树= fitctree (X, Y);视图(树,“模式”，“图”）
ツリーを枝刈りします。
tree1 =修剪(树,“水平”1);视图(tree1,“模式”，“图”）
枝刈りされたツリーは,0.15未満の観測値を正しく真正的に分類しています。また,。15から．94 までの観測値についても、正しく假に分類しています。しかし,0.94より大きい観測は假と誤って分類されます。そのため,0.15より大きい観測値のスコアは,真正的では. 05 / .85 = 0。06假では。8 / .85 =。94年になります。
Xの先頭から10行までの予測スコアを計算します。
[~,分数]=预测(tree1 X (1:10));(分数X (1:10)):
ans =10×30.9059 0.0941 0.8147 0.9059 0.0941 0.9058 0 1.0000 0.1270 0.9059 0.0941 0.9134 0.9059 0.0941 0.6324 0 1.0000 0.0975 0.9059 0.0941 0.2785 0.9059 0.0941 0.5469 0.9059 0.0941 0.9575 0.9059 0.0941 0.9649
実際に,X0.15でより小さいすべての値(右端の列)には,0と1のスコアが関連付けられ(左の列と中央の列),Xのその他の値には,0.91と0.09のスコアが関連付けられています。スコアの違い(想定した06ではなく,0.09)は統計変動によるものです。範囲(1) .95のXには,想定した5個ではなく8個の観測値があります。
拡張機能
你也可以从以下列表中选择一个网站:
