分類モデルの学習を行い、shapleyオブジェクトを作成します。shapleyオブジェクトを作成するときに、クエリ点を指定して、クエリ点のシャープレイ値が計算されるようにします。次に、オブジェクト関数plotを使用して、シャープレイ値の棒グラフを作成します。

CreditRating_Historicalデータセットを読み込みます。データ セットには、顧客 ID、顧客の財務比率、業種ラベル、および信用格付けが格納されています。

tbl = readtable('CreditRating_Historical.dat');

テーブルの最初の 3 行を表示します。

head(tbl,3)

ans=3×8 tableID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA Industry Rating _____ _____ _____ _______ ________ _____ ________ ______ 62394 0.013 0.104 0.036 0.447 0.142 3 {'BB'} 48608 0.232 0.335 0.062 1.969 0.281 8 {'A' } 42444 0.311 0.367 0.074 1.935 0.366 1 {'A' }

関数fitcecocを使用して、信用格付けの blackbox モデルに学習させます。tbl内の 2 ～ 7 列目の変数を予測子変数として使用します。クラス名を指定してクラスの順序を設定することが推奨されます。

blackbox = fitcecoc(tbl,'Rating',...'PredictorNames',tbl.Properties.VariableNames(2:7),...'CategoricalPredictors','Industry',...'ClassNames',{'AAA''AA''A''BBB''BB''B''CCC'});

最後の観測値の予測を説明するshapleyオブジェクトを作成します。クエリ点を指定して、シャープレイ値が計算されてShapleyValuesプロパティに格納されるようにします。

queryPoint = tbl(end,:)

queryPoint=1×8 tableID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA Industry Rating _____ _____ _____ _______ ________ ____ ________ ______ 73104 0.239 0.463 0.065 2.924 0.34 2 {'AA'}

explainer = shapley(blackbox,'QueryPoint',queryPoint)

Warning: Computation can be slow because the predictor data has over 1000 observations. Use a smaller sample of the training set or specify 'UseParallel' as true for faster computation.

explainer = shapley with properties: BlackboxModel: [1x1 ClassificationECOC] QueryPoint: [1x8 table] BlackboxFitted: {'AA'} ShapleyValues: [6x8 table] NumSubsets: 64 X: [3932x6 table] CategoricalPredictors: 6 Method: 'interventional-kernel' Intercept: [-0.5041 -0.3908 -0.3137 -0.3042 -0.4217 ... ]

警告メッセージが示すように、予測子データに 1000 個を超える観測値があるため、計算が遅くなる場合があります。計算速度を向上するには、学習セットの標本を小さくするか、'UseParallel'にtrueを指定してください。

分類モデルの場合、shapleyは各クラスの予測クラス スコアを使用してシャープレイ値を計算します。ShapleyValuesプロパティの値を表示します。

explainer.ShapleyValues

ans=6×8 tablePredictor AAA AA A BBB BB B CCC __________ __________ __________ ___________ ___________ ___________ ___________ ___________ "WC_TA" 0.014715 0.0064376 0.0026704 0.00048882 -0.0079015 -0.011841 -0.011395 "RE_TA" 0.047918 0.026917 0.014751 -0.0031481 -0.02512 -0.059926 -0.08418 "EBIT_TA" 0.0003427 0.00015025 0.00011977 3.3904e-05 -0.00018925 -0.00038135 -0.00033783 "MVE_BVTD" 0.38334 0.37376 0.17563 -0.032136 -0.18728 -0.24831 -0.19585 "S_TA" -0.0037304 -0.0026011 -8.8854e-05 -0.00081782 -5.4936e-05 0.00047882 -0.00068998 "Industry" -0.028974 -0.013906 0.0010435 0.023298 0.026473 0.029898 0.045396

ShapleyValuesプロパティには、クラスごとにすべての特徴量のシャープレイ値が格納されています。

関数plotを使用して予測クラスのシャープレイ値をプロットします。

plot(explainer)

横棒グラフは,絶対値で並べ替えられた,すべての変数のシャープレイ値を示します。各シャープレイ値は,クエリ点についてのスコアに関して対応する変数が原因で生じた予測クラスの平均スコアからの偏差を説明します。

回帰モデルの学習を行い、shapleyオブジェクトを作成します。shapleyオブジェクトを作成するときに、クエリ点を指定しなかった場合、シャープレイ値は計算されません。オブジェクト関数fitを使用して、指定したクエリ点のシャープレイ値を計算します。次に、オブジェクト関数plotを使用して、シャープレイ値の棒グラフを作成します。

carbigデータセットを読み込みます。このデータセットには、1970 年代と 1980 年代初期に製造された自動車の測定値が格納されています。

loadcarbig

Acceleration、Cylindersなどの予測子変数と応答変数MPGが格納された table を作成します。

tbl = table(Acceleration,Cylinders,Displacement,Horsepower,Model_Year,Weight,MPG);

学習セットの欠損値を削除すると、メモリ消費量を減らして関数fitrkernelの学習速度を向上させることができます。tblの欠損値を削除します。

台= rmmissing(台);

関数fitrkernelを使用してMPGの blackbox モデルの学習を行います。

rng('default')% For reproducibilitymdl = fitrkernel(tbl,“英里”,'CategoricalPredictors',[2 5]);

shapleyオブジェクトを作成します。mdlには学習データが含まれないため、データ セットtblを指定します。

explainer = shapley(mdl,tbl)

explainer = shapley with properties: BlackboxModel: [1x1 RegressionKernel] QueryPoint: [] BlackboxFitted: [] ShapleyValues: [] NumSubsets: 64 X: [392x7 table] CategoricalPredictors: [2 5] Method: 'interventional-kernel' Intercept: 22.6202

explainerは、学習データtblをXプロパティに格納します。

tblの最初の観測値についてすべての予測子変数のシャープレイ値を計算します。

queryPoint = tbl(1,:)

queryPoint=1×7 tableAcceleration Cylinders Displacement Horsepower Model_Year Weight MPG ____________ _________ ____________ __________ __________ ______ ___ 12 8 307 130 70 3504 18

explainer = fit(explainer,queryPoint);

回帰モデルの場合、shapleyは予測応答を使用してシャープレイ値を計算し、ShapleyValuesプロパティに格納します。ShapleyValuesプロパティの値を表示します。

explainer.ShapleyValues

ans=6×2 tablePredictor ShapleyValue ______________ ____________ "Acceleration" -0.1561 "Cylinders" -0.18306 "Displacement" -0.34203 "Horsepower" -0.27291 "Model_Year" -0.2926 "Weight" -0.32402

関数plotを使用して、クエリ点のシャープレイ値をプロットします。

plot(explainer)

横棒グラフは,絶対値で並べ替えられた,すべての変数のシャープレイ値を示します。各シャープレイ値は,クエリ点についての予測に関して対応する変数が原因で生じた平均からの偏差を説明します。

回帰モデルの学習を行い、モデルの関数predictの関数ハンドルを使用するshapleyオブジェクトを作成します。オブジェクト関数fitを使用して、指定したクエリ点のシャープレイ値を計算します。次に、オブジェクト関数plotを使用して、シャープレイ値をプロットします。

carbigデータセットを読み込みます。このデータセットには、1970 年代と 1980 年代初期に製造された自動車の測定値が格納されています。

loadcarbig

予測子変数Acceleration、Cylindersなどを格納する table を作成します。

tbl = table(Acceleration,Cylinders,Displacement,Horsepower,Model_Year,Weight);

関数TreeBaggerを使用してMPGの blackbox モデルの学習を行います。

rng('default')% For reproducibilityMdl = TreeBagger(100,tbl,MPG,'Method','regression','CategoricalPredictors',[2 5]);

shapleyはTreeBaggerオブジェクトを直接はサポートしないため、shapleyの最初の入力引数 (blackbox モデル) をTreeBaggerオブジェクトとして指定することはできません。代わりに、関数predictの関数ハンドルを使用できます。関数predictのオプションも関数の名前と値の引数を使用して指定できます。

TreeBaggerオブジェクトMdlの関数predictの関数ハンドルを作成します。使用する木のインデックスの配列を1:50と指定します。

f = @(tbl) predict(Mdl,tbl,'Trees',1:50);

関数ハンドルfを使用してshapleyオブジェクトを作成します。blackbox モデルを関数ハンドルとして指定する場合、予測子データを提供しなければなりません。tblには、doubleデータ型のカテゴリカル予測子 (CylinderおよびModel_Year) が含まれています。既定では、shapleyはdoubleデータ型の変数をカテゴリカル予測子として扱いません。2 番目 (Cylinder) と 5 番目 (Model_Year) の変数をカテゴリカル予測子として指定します。

explainer = shapley(f,tbl,'CategoricalPredictors',[2 5]); explainer = fit(explainer,tbl(1,:));

シャープレイ値をプロットします。

plot(explainer)