主要内容gydF4y2Ba

このページの翻訳は最新ではありません。ここをクリックして,英語の最新版を参照してください。gydF4y2Ba

ガウス過程回帰モデルgydF4y2Ba

ガウス過程回帰(GPR)モデルは,ノンパラメトリックなカーネルベースの確率モデルです。探地雷达モデルは,関数gydF4y2BafitrgpgydF4y2Baを使用して学習させることができます。gydF4y2Ba

未知の分布から抽出されたgydF4y2Ba {gydF4y2Ba (gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba ,gydF4y2Ba ygydF4y2Ba 我gydF4y2Ba )gydF4y2Ba ;gydF4y2Ba 我gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba ...gydF4y2Ba ,gydF4y2Ba ngydF4y2Ba }gydF4y2Ba という学習セットがあるとします。ここで,gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba ∈gydF4y2Ba ℝgydF4y2Ba dgydF4y2Ba およびgydF4y2Ba ygydF4y2Ba 我gydF4y2Ba ∈gydF4y2Ba ℝgydF4y2Ba です。GPR モデルは、与えられた新しい入力ベクトル xgydF4y2Ba ngydF4y2Ba egydF4y2Ba wgydF4y2Ba と学習データから応答変数gydF4y2Ba ygydF4y2Ba ngydF4y2Ba egydF4y2Ba wgydF4y2Ba の値を予測するという問題を扱います。線形回帰モデルは,次のような形式になります。gydF4y2Ba

ygydF4y2Ba =gydF4y2Ba xgydF4y2Ba TgydF4y2Ba βgydF4y2Ba +gydF4y2Ba εgydF4y2Ba ,gydF4y2Ba

ここで,gydF4y2Ba εgydF4y2Ba ∼gydF4y2Ba NgydF4y2Ba (gydF4y2Ba 0gydF4y2Ba ,gydF4y2Ba σgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba です。誤差分散σgydF4y2Ba2gydF4y2Baと係数βは,データから推定されます。GPR モデルでは、ガウス過程 (GP) による潜在的変数 fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba 我gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba ...gydF4y2Ba ,gydF4y2Ba ngydF4y2Ba と明示的な基底関数hを導入することにより応答を求めます。潜在的変数の共分散関数は応答の滑らかさを捕らえ,基底関数は入力gydF4y2Ba xgydF4y2Ba をp次元の特徴空間に射影します。gydF4y2Ba

GPは,どの有限個のサブセットも結合ガウス分布になる一連の確率変数です。gydF4y2Ba {gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ∈gydF4y2Ba ℝgydF4y2Ba dgydF4y2Ba }gydF4y2Ba がGPである場合,n個の観測値gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba ...gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ngydF4y2Ba が与えられると,確率変数gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba ...gydF4y2Ba ,gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba )gydF4y2Ba の同時分布はガウス分布になります。GPは,平均関数gydF4y2Ba 米gydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba と共分散関数gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba によって定義されます。つまり,gydF4y2Ba {gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ∈gydF4y2Ba ℝgydF4y2Ba dgydF4y2Ba }gydF4y2Ba がガウス過程である場合,gydF4y2Ba EgydF4y2Ba (gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba )gydF4y2Ba =gydF4y2Ba 米gydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba およびgydF4y2Ba CgydF4y2Ba ogydF4y2Ba vgydF4y2Ba [gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba ,gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba ]gydF4y2Ba =gydF4y2Ba EgydF4y2Ba [gydF4y2Ba {gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba −gydF4y2Ba 米gydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba }gydF4y2Ba {gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba −gydF4y2Ba 米gydF4y2Ba (gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba }gydF4y2Ba ]gydF4y2Ba =gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba .gydF4y2Ba です。gydF4y2Ba

次のようなモデルについて考えます。gydF4y2Ba

hgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba TgydF4y2Ba βgydF4y2Ba +gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba ,gydF4y2Ba

ここで,gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba ~gydF4y2Ba GgydF4y2Ba PgydF4y2Ba (gydF4y2Ba 0gydF4y2Ba ,gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba )gydF4y2Ba ,つまりf (x)は,共分散関数gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba をもつゼロ平均GPから派生しています. h (x)は,RgydF4y2BadgydF4y2Baにおける元の特徴ベクトルxをRgydF4y2BapgydF4y2Baにおける新しい特徴ベクトルh (x)に変換する一連の基底関数です。βは,基底関数の係数から構成されるp行1列のベクトルです。このモデルは,探地雷达モデルを表します。応答yのインスタンスは,次のようにモデル化できます。gydF4y2Ba

PgydF4y2Ba (gydF4y2Ba ygydF4y2Ba 我gydF4y2Ba |gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba )gydF4y2Ba ~gydF4y2Ba NgydF4y2Ba (gydF4y2Ba ygydF4y2Ba 我gydF4y2Ba |gydF4y2Ba hgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba )gydF4y2Ba TgydF4y2Ba βgydF4y2Ba +gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba σgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba

したがって,探地雷达モデルは確率モデルです。各観測値gydF4y2Ba xgydF4y2Ba 我gydF4y2Ba について潜在的変数f (xgydF4y2Ba我gydF4y2Ba)を導入したので,探地雷达モデルはノンパラメトリックになります。ベクトル形式では,このモデルは次と等価です。gydF4y2Ba

PgydF4y2Ba (gydF4y2Ba ygydF4y2Ba |gydF4y2Ba fgydF4y2Ba ,gydF4y2Ba XgydF4y2Ba )gydF4y2Ba ~gydF4y2Ba NgydF4y2Ba (gydF4y2Ba ygydF4y2Ba |gydF4y2Ba HgydF4y2Ba βgydF4y2Ba +gydF4y2Ba fgydF4y2Ba ,gydF4y2Ba σgydF4y2Ba 2gydF4y2Ba 我gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba

ここで,次のようになります。gydF4y2Ba

XgydF4y2Ba =gydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba TgydF4y2Ba xgydF4y2Ba 2gydF4y2Ba TgydF4y2Ba ⋮gydF4y2Ba xgydF4y2Ba ngydF4y2Ba TgydF4y2Ba )gydF4y2Ba ,gydF4y2Ba ygydF4y2Ba =gydF4y2Ba (gydF4y2Ba ygydF4y2Ba 1gydF4y2Ba ygydF4y2Ba 2gydF4y2Ba ⋮gydF4y2Ba ygydF4y2Ba ngydF4y2Ba )gydF4y2Ba ,gydF4y2Ba HgydF4y2Ba =gydF4y2Ba (gydF4y2Ba hgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba TgydF4y2Ba )gydF4y2Ba hgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba TgydF4y2Ba )gydF4y2Ba ⋮gydF4y2Ba hgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba TgydF4y2Ba )gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba fgydF4y2Ba =gydF4y2Ba (gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba )gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba ⋮gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba )gydF4y2Ba )gydF4y2Ba .gydF4y2Ba

探地雷达モデルにおける潜在的変数gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba ...gydF4y2Ba ,gydF4y2Ba fgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba )gydF4y2Ba の同時分布は次のようになり,線形回帰モデルに近くなっています。gydF4y2Ba

PgydF4y2Ba (gydF4y2Ba fgydF4y2Ba |gydF4y2Ba XgydF4y2Ba )gydF4y2Ba ~gydF4y2Ba NgydF4y2Ba (gydF4y2Ba fgydF4y2Ba |gydF4y2Ba 0gydF4y2Ba ,gydF4y2Ba KgydF4y2Ba (gydF4y2Ba XgydF4y2Ba ,gydF4y2Ba XgydF4y2Ba )gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba

ここで,gydF4y2Ba KgydF4y2Ba (gydF4y2Ba XgydF4y2Ba ,gydF4y2Ba XgydF4y2Ba )gydF4y2Ba は次のようになります。gydF4y2Ba

KgydF4y2Ba (gydF4y2Ba XgydF4y2Ba ,gydF4y2Ba XgydF4y2Ba )gydF4y2Ba =gydF4y2Ba (gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba )gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba ⋯gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ngydF4y2Ba )gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba )gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba ⋯gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ngydF4y2Ba )gydF4y2Ba ⋮gydF4y2Ba ⋮gydF4y2Ba ⋮gydF4y2Ba ⋮gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 1gydF4y2Ba )gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba ,gydF4y2Ba xgydF4y2Ba 2gydF4y2Ba )gydF4y2Ba ⋯gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ngydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ngydF4y2Ba )gydF4y2Ba )gydF4y2Ba .gydF4y2Ba

通常、共分散関数gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba は一連のカーネルパラメーターまたはハイパーパラメーターgydF4y2Ba θgydF4y2Ba によりパラメーター表現されます。多くの場合,gydF4y2Ba θgydF4y2Ba に依存することを明示的に示すため,gydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba )gydF4y2Ba はgydF4y2Ba kgydF4y2Ba (gydF4y2Ba xgydF4y2Ba ,gydF4y2Ba xgydF4y2Ba ”gydF4y2Ba |gydF4y2Ba θgydF4y2Ba )gydF4y2Ba と記述されます。gydF4y2Ba

fitrgpgydF4y2Baは,探地雷达モデルに学習させるときに,カーネル関数の基底関数係数gydF4y2Ba βgydF4y2Ba ,ノイズ分散gydF4y2Ba σgydF4y2Ba 2gydF4y2Ba およびハイパーパラメーターgydF4y2Ba θgydF4y2Ba をデータから推定します。基底関数,カーネル(共分散)関数およびパラメーターの初期値を指定できます。gydF4y2Ba

探地雷达モデルは確率的なので,学習済みのモデルを使用して予測区間を計算することができます(gydF4y2Ba预测gydF4y2BaとgydF4y2BaresubPredictgydF4y2Baを参照してください)。gydF4y2Ba

学習済みのGPRモデルを使用して回帰誤差を計算することもできます(gydF4y2Ba损失gydF4y2BaとgydF4y2BaresubLossgydF4y2Baを参照してください)。gydF4y2Ba

探地雷达モデルの予測区間の比較gydF4y2Ba

この例では,探地雷达モデルをノイズのないデータセットとノイズを含むデータセットにあてはめます。この例では2つの探地雷达近似モデルの予測応答と予測区間を比較します。gydF4y2Ba

関数gydF4y2Ba ggydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba =gydF4y2Ba xgydF4y2Ba ⋅gydF4y2Ba 罪gydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba から2つの観測データセットを生成します。gydF4y2Ba

rng (gydF4y2Ba“默认”gydF4y2Ba)gydF4y2Ba%的再现性gydF4y2Bax_observed = linspace(0, 10日,21)';y_observed1 = x_observed。* sin (x_observed);Y_observed2 = y_observed1 + 0.5*randn(size(x_observed));gydF4y2Ba

y_observed1gydF4y2Baの値にはノイズがなく,gydF4y2Bay_observed2gydF4y2Baの値にはランダムノイズが含まれています。gydF4y2Ba

探地雷达モデルを観測されたデータセットにあてはめます。gydF4y2Ba

gprMdl1 = fitrgp (x_observed y_observed1);gprMdl2 = fitrgp (x_observed y_observed2);gydF4y2Ba

あてはめたモデルを使用して,予測応答と95%の予測区間を計算します。gydF4y2Ba

x = linspace (0, 10) ';[ypred1, ~, yint1] =预测(gprMdl1 x);[ypred2, ~, yint2] =预测(gprMdl2 x);gydF4y2Ba

图のサイズを変更して,1つの图に2つのプロットを表示します。gydF4y2Ba

无花果=图;fig.Position (3) = fig.Position (3) * 2;gydF4y2Ba

1行2列のタイル表示チャートレイアウトを作成します。gydF4y2Ba

tiledlayout(1、2、gydF4y2Ba“TileSpacing”gydF4y2Ba,gydF4y2Ba“紧凑”gydF4y2Ba)gydF4y2Ba

各タイルに,観測されたデータ点の散布図とgydF4y2Ba xgydF4y2Ba ⋅gydF4y2Ba 罪gydF4y2Ba (gydF4y2Ba xgydF4y2Ba )gydF4y2Ba の関数プロットを描画します。次に,GP予測応答のプロットと予測区間のパッチを追加します。gydF4y2Ba

nexttile举行gydF4y2Ba在gydF4y2Ba散射(x_observed y_observed1,gydF4y2Ba“r”gydF4y2Ba)gydF4y2Ba%观测数据点gydF4y2Bafplot (@ x (x)。* sin (x) [0, 10],gydF4y2Ba“——r”gydF4y2Ba)gydF4y2Bax*sin(x)函数图gydF4y2Ba情节(x, ypred1,gydF4y2Ba‘g’gydF4y2Ba)gydF4y2Ba% GPR预测gydF4y2Ba补丁([x; flipud (x)], [yint1 (: 1); flipud (yint1 (:, 2))),gydF4y2Ba“k”gydF4y2Ba,gydF4y2Ba“FaceAlpha”gydF4y2Ba, 0.1);gydF4y2Ba%的预测区间gydF4y2Ba持有gydF4y2Ba从gydF4y2Ba标题(gydF4y2Ba“无噪声观测的GPR匹配”gydF4y2Ba)({传奇gydF4y2Ba“无噪声的观察”gydF4y2Ba,gydF4y2Ba“g (x) = x * sin (x) 'gydF4y2Ba,gydF4y2Ba“探地雷达预测”gydF4y2Ba,gydF4y2Ba“95%的预测区间”gydF4y2Ba},gydF4y2Ba“位置”gydF4y2Ba,gydF4y2Ba“最佳”gydF4y2Ba) nexttile举行gydF4y2Ba在gydF4y2Ba散射(x_observed y_observed2,gydF4y2Ba“xr”gydF4y2Ba)gydF4y2Ba%观测数据点gydF4y2Bafplot (@ x (x)。* sin (x) [0, 10],gydF4y2Ba“——r”gydF4y2Ba)gydF4y2Bax*sin(x)函数图gydF4y2Ba情节(x, ypred2,gydF4y2Ba‘g’gydF4y2Ba)gydF4y2Ba% GPR预测gydF4y2Ba补丁([x; flipud (x)], [yint2 (: 1); flipud (yint2 (:, 2))),gydF4y2Ba“k”gydF4y2Ba,gydF4y2Ba“FaceAlpha”gydF4y2Ba, 0.1);gydF4y2Ba%的预测区间gydF4y2Ba持有gydF4y2Ba从gydF4y2Ba标题(gydF4y2Ba“嘈杂观测的GPR匹配”gydF4y2Ba)({传奇gydF4y2Ba“嘈杂的观察”gydF4y2Ba,gydF4y2Ba“g (x) = x * sin (x) 'gydF4y2Ba,gydF4y2Ba“探地雷达预测”gydF4y2Ba,gydF4y2Ba“95%的预测区间”gydF4y2Ba},gydF4y2Ba“位置”gydF4y2Ba,gydF4y2Ba“最佳”gydF4y2Ba)gydF4y2Ba

图中包含2个轴。轴1题目为GPR Fit of Noise-Free Observations包含4个对象类型为scatter, functionline, line, patch。这些对象代表无噪声观测,g(x) = x*sin(x), GPR预测,95%预测区间。标题为GPR Fit of Noisy Observations的坐标轴2包含4个对象,类型为scatter, functionline, line, patch。这些对象代表有噪声的观测,g(x) = x*sin(x), GPR预测,95%的预测区间。gydF4y2Ba

観測値にノイズがない場合,探地雷达近似の予測応答は観測値と交差します。予測応答の標準偏差はほぼゼロです。したがって,予測区間は非常に狭くなります。観測値にノイズが含まれる場合,予測応答は観測値と交差せず,予測間隔が広くなります。gydF4y2Ba

参照gydF4y2Ba

拉斯穆森,C. E.和C. K. I.威廉姆斯。机器学习的高斯过程。麻省理工学院出版社。马萨诸塞州剑桥,2006年。gydF4y2Ba

参考gydF4y2Ba

|gydF4y2Ba|gydF4y2Ba

関連するトピックgydF4y2Ba