主要内容

贝叶斯偏见化

贝叶斯优化结果

展开所有页面

描述

一种贝叶斯偏见化对象包含贝叶斯优化的结果。它是输出的Bayesopt.或接受的合适功能优化高度参数名称 - 值对，如fitcdiscr．另外，一个贝叶斯偏见化对象包含每次迭代的数据Bayesopt.可以通过绘图函数或输出函数访问。

创建

创建一个贝叶斯偏见化对象的Bayesopt.函数或下列函数之一与优化高度参数名称-值参数。

属性

全部展开

问题定义属性

此属性是只读的。

ObjectiveFCN.使用的论点Bayesopt.，指定为函数句柄。

  • 如果你打电话Bayesopt.直接ObjectiveFCN.是个Bayesopt.目标函数参数。

  • 如果你调用一个包含'OptimizeHyperParameters'名称值对参数，ObjectiveFCN.是一个函数句柄，它返回分类时的误分类率，或返回1的对数加上回归时的交叉验证损失，由5倍交叉验证测量。

数据类型:function_handle.

此属性是只读的。

variabledescriptions.观点:Bayesopt.用于，指定为的向量optimizableVariable对象。

  • 如果你叫Bayesopt.直接variabledescriptions.是个Bayesopt.变量描述参数。

  • 如果您打电话给拟合功能优化高度参数名称-值对,variabledescriptions.为超参数向量。

此属性是只读的。

选项Bayesopt.使用，指定为结构。

  • 如果你叫Bayesopt.直接选项是使用的选项Bayesopt.，它们是名称-值对Bayesopt.输入参数．

  • 如果您打电话给拟合功能优化高度参数名称-值对,选项是默认值Bayesopt.选项，由HyperParameterOptimizationOptions.名称-值对。

选项是一个只读结构，包含以下字段。

选项名称 意义
获取功能名称 采集函数名称。看获取函数类型．
IsObjectiveDeterministic 真的表示目标函数是确定性的，假除此以外。
分析言 只有当使用获取功能名称是“expected-improvement-plus”或者“expected-improvement-per-second-plus”．看加．
maxobjectiveevaluations 目标函数评价极限。
MaxTime 时限。
xconstraintfcn. 变量的确定性约束。看确定性约束 - Xconstraintfcn．
Connitionalvarifiedfcn. 条件可变约束。看条件约束- ConditionalVariableFcn．
numcoupledconstraint. 耦合约束的个数。看耦合约束．
耦合控制特定 耦合约束公差。看耦合约束．
arecoupledconstraintsdeterministic 指定每个耦合约束是确定性的逻辑矢量。
verb 命令行显示级别。
OutputFcn 每次迭代后函数调用。看贝叶斯优化输出函数．
SaveVariableName 的变量名@assignInBase输出函数。
SaveFileName 的文件名@saveToFile输出函数。
Plotfcn. 每次迭代后调用绘图函数。看贝叶斯优化绘图函数
itialx. 点,Bayesopt.评估目标函数。
initialbjective. 目标函数值itialx.．
InitialConstraintViolations 耦合约束函数值在itialx.．
InitialErrorvalues. 误差值在itialx.．
InitialObjectiveEvaluationTimes 客观函数评估时间itialx.．
InitialIterationTimes 每次迭代的时间，包括客观函数评估和其他计算。

数据类型:结构体

解决方案属性

此属性是只读的。

最小观察到的目标函数的值，指定为真正的标量。当有耦合约束或评估错误时，该值是根据最终约束和错误模型可行的所有观察点的最小值。

数据类型:双

此属性是只读的。

观察到最小目标函数值，指定为a1——- - - - - -D.表，其中D.为变量的个数。

数据类型:桌子

此属性是只读的。

估计目标函数值XATMINESTIMATEDIPIATIVE，指定为真正的标量。

minestimatedobjective.为最终目标模型的后验分布的均值。该软件估计minestimatedobjective.价值通过XATMINESTIMATEDIPIATIVE到目标函数predictObjective．

数据类型:双

此属性是只读的。

目标函数值在访问点中的上置信界最小的点，记为a1——- - - - - -D.表，其中D.为变量的个数。该软件使用最终目标模型来寻找访问点的上置信限。

XATMINESTIMATEDIPIATIVE与返回的最佳点相同best使用默认标准（'最小的上级置信区间')．

数据类型:桌子

此属性是只读的。

目标函数评估数量，指定为正整数。这包括在优化迭代期间形成后模型的初始评估以及评估。

数据类型:双

此属性是只读的。

以秒为单位的总优化运行时间，指定为正标量。

数据类型:双

此属性是只读的。

下一个要评估如果优化继续，则指定为a1——- - - - - -D.表，其中D.为变量的个数。

数据类型:桌子

跟踪属性

此属性是只读的。

评估目标函数的点，指定为aT.——- - - - - -D.表，其中T.是多少评价点和D.为变量的个数。

数据类型:桌子

此属性是只读的。

目标函数值，指定为长度的列向量T.,在那里T.为评价点数。ObjectiveTrace包含目标函数评估的历史。

数据类型:双

此属性是只读的。

目标函数求值次数，指定为列向量的长度T.,在那里T.为评价点数。ObjectiveEvaluationTimeTrace包括计算耦合约束的时间，因为目标函数计算这些约束。

数据类型:双

此属性是只读的。

迭代时间，指定为长度的列向量T.,在那里T.为评价点数。IterationTimeTrace包括客观函数评估时间和其他开销。

数据类型:双

此属性是只读的。

耦合约束值，指定为aT.——- - - - - -K.阵列，其中T.是多少评价点和K.是耦合约束的数量。

数据类型:双

此属性是只读的。

错误指示，指定为长度的列向量T.的-1或者1条目，在哪里T.为评价点数。每个1条目表明目标函数错误或返回南在相应的点上XTrace．每个-1Entry表示计算的目标函数值。

数据类型:双

此属性是只读的。

可行性指示，指定为长度的逻辑列向量T.,在那里T.为评价点数。每个1条目表明最终约束模型预测相应点的可行性XTrace．

数据类型:逻辑

此属性是只读的。

评估点是可行的概率，指定为长度的列向量T.,在那里T.为评价点数。概率来自最终约束模型，包括误差约束模型，在相应的点XTrace．

数据类型:双

此属性是只读的。

哪个评价给出了最小可行目标，指定为长度的整数指标列向量T.,在那里T.为评价点数。根据每个迭代中存在的约束模型，包括误差约束模型，确定可行性。

数据类型:双

此属性是只读的。

最小观察到的目标，指定为长度的柱矢量T.,在那里T.为评价点数。

数据类型:双

此属性是只读的。

估计目标，指定为列向量的长度T.,在那里T.为评价点数。在该迭代的目标模型中确定每个迭代的估计目标。在每次迭代时，软件使用对象函数predictObjective估计在访问点之间的目标函数的最小上置信度的点处的目标函数值。

数据类型:双

此属性是只读的。

来自目标函数的辅助数据，指定为长度的单元格数组T.,在那里T.为评价点数。单元格数组中的每个条目都是用户数据在目标函数的第三个输出中返回。

数据类型:细胞

对象的功能

best 贝叶斯优化的最佳点根据标准
情节 绘制贝叶斯优化结果
predictConstraints 预测一组点的耦合约束违规
predictError 在一组点预测误差值
predictObjective 在一组点上预测目标函数
predictObjectiveEvaluationTime 预测目标函数在一组点上的运行时间
恢复 恢复贝叶斯优化

例子

全部折叠

打开直播脚本

此示例显示了如何创建一个贝叶斯偏见化对象的使用Bayesopt.最小化交叉验证损失。

优化KNN分类器的超级参数电离层，即寻找最小化交叉验证损失的KNN超参数。有Bayesopt.最小化以下普遍的公共表：

  • 最近的邻居大小从1到30

  • 距离函数'chebychev'那'euclidean'， 和'minkowski'．

为了再现性，设置随机种子，设置分区，并设置获取功能名称选项“expected-improvement-plus”．抑制迭代显示，设置“详细”到0.．通过分区C和拟合数据X和y到目标函数乐趣通过创建乐趣作为包含该数据的匿名函数。看参数化功能．

负载电离层rng.默认num = optimizableVariable (“n”(1、30),“类型”那“整数”）;DST =优化不变（'DST'，{'chebychev'那'euclidean'那'minkowski'}，“类型”那“分类”）;c = cvpartition（351，“Kfold”5）;fun = @（x）kfoldloss（fitcknn（x，y，“CVPartition”，C，'numneighbors'，x.n，......'距离'，char（x.dst），“NSMethod”那“详尽”））;结果= Bayesopt（乐趣，[Num，DST]，“详细”，0，......'获取功能名称'那“expected-improvement-plus”的）

图包含轴对象。带有标题函数模型的轴对象包含5个类型的线条，表面，轮廓。这些对象代表观察点，模型均值，下一个点，模型最小可行。

图包含轴对象。具有标题最小目标与功能评估数的轴对象包含2个类型的2个对象。这些物体代表最小观察到的目标，估计最小目标。

结果=具有属性的贝叶斯optimization：ObjectiveFCN：[Function_Handle] variabledes：[1x1结构]选项：[1x1 struct] minobjective：0.1197 xatminobjective：[1x2表] mineestimatedobjective：0.1213 xatminestimationobjective：[1x2] numobjectiveevaluations：30 totallapptime：55.3628 nextpointations：[1x2表] XTrace：[30x2表] ObjectiveTreace：[30x1 double] constraintstrace：[] UserDataTrace：{30x1 Cell} WateSealValiveTimetrace：[30x1 Double] iterationTimetrace：[30x1 double] errortrace：[30x1 double] feaselytrace：[30x1逻辑]可行性ProbabilityTrace：[30x1 double] indexofmimimummimummimueTrace：[30x1 Double] objectivemImileTrace：[30x1 Double]估计objectiveminimumTrace：[30x1双]
打开直播脚本

此示例显示如何最小化交叉验证损耗电离层支持向量机分类器的贝叶斯优化。

加载数据。

负载电离层

使用该分类优化分类'汽车'参数。

rng.默认%的再现性mdl = fitcsvm（x，y，'OptimizeHyperParameters'那'汽车'的）
|=====================================================================================================| | Iter | Eval客观客观| | | BestSoFar | BestSoFar | BoxConstraint | KernelScale | | |结果| | |运行时(观察)| (estim) | | ||=====================================================================================================| | 最好1 | | 0.20513 | 18.569 | 0.20513 | 0.20513 | 64.836 | 0.0015729 | | 2 |接受| 0.35897 | 0.2057 | 0.20513 | 0.21471 | 0.036335 | 5.5755 | | 3 |最好| 0.13105 | 6.2333 | 0.13105 | 0.14133 | 0.0022147 | 0.0023957 | | 4 | | 0.35897接受| 0.29754 | 0.13105 | 0.13109 | 5.1259 | 98.62 | | 5 |的| 0.12536 | 0.58088 | 0.12536 | 0.12538 | 0.0010035 | 0.022328 | | 6 |接受| 0.13105 | 0.40129 | 0.12536 | 0.12624 | 0.0010683 | 0.010111 | | | 7日接受| 0.13105 | 0.35759 | 0.12536 | 0.12546 | 0.0010192 | 0.010237 | | |接受8 | 0.13105 | 6.2978 | 0.12536 | 0.12544 | 0.083367 |0.014339 | | | 9日接受| 0.1339 | 14.018 | 0.12536 | 0.12546 | 0.0010021 | 0.0010244 | | 10最好| | 0.12251 | 0.25271 | 0.12251 | 0.1226 | 0.0010657 | 0.043944 | | | 11日接受| 0.12536 | 0.52661 | 0.12251 | 0.12273 | 0.0045194 | 0.043634 | | | 12日接受| 0.12821 | 0.64736 | 0.12251 | 0.12506 | 0.0010123 | 0.03649 | | | 13日接受| 0.12536 |0.63727 | 0.12251 | 0.12511 | 0.0040337 | 0.031924 | | | 14日接受| 0.1339 | 0.34713 | 0.12251 | 0.12472 | 0.0010317 | 0.080017 | | |接受15 | 0.12251 | 0.22915 | 0.12251 | 0.12414 | 0.003321 | 0.033169 | | | 16日接受| 0.12536 | 0.34806 | 0.12251 | 0.12439 | 0.0047749 | 0.034094 | | | 17日接受| 0.35897 | 0.44574 | 0.12251 | 0.12436 | 0.3106| 994.65 | | 18 | Accept | 0.35897 | 0.25864 | 0.12251 | 0.1244 | 0.0017553 | 54.93 | | 19 | Accept | 0.35897 | 0.37266 | 0.12251 | 0.1247 | 0.0010187 | 1.0613 | | 20 | Accept | 0.12251 | 0.35001 | 0.12251 | 0.12379 | 0.0084324 | 0.047095 | |=====================================================================================================| | Iter | Eval | Objective | Objective | BestSoFar | BestSoFar | BoxConstraint| KernelScale | | | result | | runtime | (observed) | (estim.) | | | |=====================================================================================================| | 21 | Accept | 0.13105 | 0.54292 | 0.12251 | 0.1245 | 0.023108 | 0.049961 | | 22 | Accept | 0.12251 | 0.2933 | 0.12251 | 0.1237 | 0.0010439 | 0.042774 | | 23 | Accept | 0.12251 | 0.35466 | 0.12251 | 0.12342 | 0.0010425 | 0.043785 | | 24 | Accept | 0.2906 | 0.28345 | 0.12251 | 0.12346 | 1.9994 | 20.839 | | 25 | Accept | 0.12821 | 0.25808 | 0.12251 | 0.12435 | 0.0010389 | 0.046026 | | 26 | Accept | 0.12251 | 0.32151 | 0.12251 | 0.12401 | 0.057129 | 0.40374 | | 27 | Accept | 0.13105 | 0.57236 | 0.12251 | 0.12339 | 1.7599 | 0.44056 | | 28 | Accept | 0.12536 | 0.43678 | 0.12251 | 0.12338 | 0.12534 | 0.2241 | | 29 | Accept | 0.12821 | 0.26761 | 0.12251 | 0.12437 | 0.2482 | 0.4511 | | 30 | Accept | 0.12821 | 0.23902 | 0.12251 | 0.12467 | 0.11675 | 0.31759 |

图包含轴对象。具有标题最小目标与功能评估数的轴对象包含2个类型的2个对象。这些物体代表最小观察到的目标，估计最小目标。

图包含轴对象。带有标题函数模型的轴对象包含5个类型的线条，表面，轮廓。这些对象代表观察点，模型均值，下一个点，模型最小可行。

__________________________________________________________优化完成。MaxobjectiveEvaluative达到了30。总功能评估：30总经过时间：101.7799秒总目标函数评估时间：54.9466最佳观察到的可行点：BoxConstraint Kernelscale _____________ __________________________ 0.0010657 0.043944观察到的目标函数值= 0.12467函数评估时间= 0.25271最佳估计可行点= 0.25271（根据型号）：BoxConstraint Kernelscale _____________ ____________ 0.0010657 0.043944估计目标函数值= 0.12467估计函数评估时间= 0.32358
Mdl = ClassificationSVM ResponseName:‘Y’CategoricalPredictors:[]类名:{b ' g '} ScoreTransform:“没有一个”NumObservations: 351 HyperparameterOptimizationResults: [1 x1 BayesianOptimization]α:[112 x1双]偏见:-3.2345 KernelParameters: [1 x1 struct] BoxConstraints: x1双[351]ConvergenceInfo: [1 x1 struct] IsSupportVector:万博1manbetx[351x1 logical] Solver: 'SMO'属性，方法

适用于默认5倍交叉验证达到约12％的损失。

检查贝叶斯偏见化对象中返回的HyperParameterOptimationResults.属性返回的模型。

disp（mdl.hyperParameterOptimationResults）
与属性的贝叶斯optimization：ObjectiveFCN：@ createobjfcn / Inmemoryobjfcn Variabledsions：[1x1结构]选项：[1x1 struct] minobjective：0.1225 Xatminobjective：[1x2表] minestimatedobimative：0.1247 XATMineStimative objective：[1x2表] NumObjectiveEvaluations：30总计跳跃时间：101.7799 NextPoints：[1x2表] XTRACE：[30x2表] ObjectivEtrace：[30x1 double] constraintstrace：[] userdatatrace：{30x1 cell} lobelateevaliveTimetrace：[30x1 double] iterationTimetrace：[30x1 double] erreatible：[30x1 double] feaselytrace：[30x1逻辑] FeasilyProbilityTrace：[30x1 double] indexofmimumimumimumimumimumimumimumimum $ actach：[30x1 double]估计objectiveminimumtrace：[30x1双]

也可以看看

主题

介绍在R2016B.

统计和机器学习工具箱文档

万博1manbetx

掌握机器学习：使用MATLAB逐步指南

掌握机器学习：使用MATLAB逐步指南

下载电子书