主要内容

Fillutiers.

检测和替换数据中的异常值

描述

例子

B.= fillouters(一种Fillmethod.发现异常值一种并根据Fillmethod..例如,Fillouters(A,'上一个')用前面的非离群值元素替换离群值。默认情况下,离群值是一个大于三倍的值中位绝对偏差(疯狂)远离中位数。如果一种是一个矩阵或表,然后Fillutiers.分别对每一列进行操作。如果一种是一个多维数组吗Fillutiers.沿着尺寸不等于1的第一维操作。

例子

B.= fillouters(一种Fillmethod.findmethod.指定检测异常值的方法。例如,Filloutliers(A,'之前','卑鄙')将异常值定义为元素一种超过三个标准偏差与平均值。

B.= fillouters(一种Fillmethod.,'百分比',阈值将异常值定义为指定百分位数之外的点阈值.这阈值参数是一个包含较低百分位数和上百分位数的双元素行向量,例如[90]

例子

B.= fillouters(一种Fillmethod.movmethod.窗口指定根据由窗口长度检测本地异常值的移动方法窗口.例如,Filloutliers(A,'之前','Movemean',5)识别离群值是指在一个五元素窗口内距离本地平均值超过三个本地标准偏差的元素。

例子

B.= fillouters(___暗淡沿尺寸运作暗淡一种对于前面的任何语法。例如,Fillouter(A,'Linear',2)作用于矩阵的每一行一种

例子

B.= fillouters(___名称,价值指定使用一个或多个名称值对参数来检测和替换异常值的其他参数。例如,Fillouteriers(a,'上一个','samplepoints',t)检测异常值一种相对于时间向量的相应元素T.

例子

[B.TF.L.C] = fillouters(___还返回有关通过检测方法计算的异常值的位置和阈值的信息。TF.是一个逻辑阵列,指示异常值的位置一种.这L., 和C参数表示异常值检测方法使用的较低和上阈值和中心值。

例子

全部收缩

创建包含异常值的数据向量,并使用线性插值来替换异常值。绘制原始和填充的数据。

a = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];b = fillouters(a,'线性');情节(1:15,A,1:15,B,“o”) 传奇(“原始数据”“窜改数据”

图包含轴。轴包含2个类型的型号。这些对象代表原始数据,内插数据。

创建包含异常值的向量,并将异常值定义为与平均值的三个标准偏差之外的点。用最近的元素替换异常值,该元素不是异常值,并绘制原始数据和内插数据。

a = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];b = fillouters(a,“最近的”'意思');情节(1:15,A,1:15,B,“o”) 传奇(“原始数据”“窜改数据”

图包含轴。轴包含2个类型的型号。这些对象代表原始数据,内插数据。

使用移动中位数在正弦波中找到对应于时间向量的本地异常值。

创建包含本地异常值的数据向量。

x = -2 * pi:0.1:2 * pi;a = sin(x);a(47)= 0;

创建与数据相对应的时间向量一种

t = datetime(2017 1 1 0, 0, 0) +小时(0:长度(x) 1);

将异常值定义为超过三个本地缩放的距离局部中位数,在滑动窗口内。找到异常值的位置一种相对于里面的点T.窗口只有5个小时。用该方法计算出的阈值填充离群值“剪辑”,并绘制原始数据和填充数据。

[b,tf,u,l,c] = fillutliers(a,“剪辑”“movmedian”小时(5),'samplepoints',t);绘图(t,a,t,b,“o”) 传奇(“原始数据”'填充数据'

图包含轴。轴包含2个类型的型号。这些对象代表原始数据,填充数据。

显示替换异常值的阈值。

L(TF)
ans = -0.8779

填充每行矩阵的异常值。

沿对角线创建包含异常值的数据矩阵。

A = RANDN(5,5)+ DIAG(1000 * on(1,5))
A =5×510.3.× 1.0005 -0.0013 -0.0013 -0.0002 0.0007 0.0018 0.9996 0.0030 -0.0001 -0.0012 -0.0023 0.0003 1.0007 0.0015 0.0007 0.0009 0.0036 -0.0001 1.0014 0.0016 0.0003 0.0028 0.0007 0.0014 1.0005

根据每行中的数据填充zeros的异常值,并显示新值。

[B,TF,较低,上部,中心] = FillOutliers(A,0,2);B.
B =5×50 -1.3077 -1.3499 -0.2050 0.6715 1.8339 0 3.0349 -0.1241 -1.2075 -2.2588 0.3426 0 1.4897 0.7172 0.8622 0.7172 0.862 3.5784 -0.0631 0 1.6302 0.3188 2.7694 0.7147 1.4172 0

您可以使用以下命令直接访问检测到的离群值及其填充值TF.作为索引矢量。

[a(tf)b(tf)]
ans =.5×210.3.×1.0005 0 0.9996 0 1.0007 0 1.0014 0 1.0005 0

在数据矢量中找到异常值,并使用它替换它“剪辑”方法。绘制原始数据、填充数据、检测方法确定的阈值和中心值。“剪辑”将离群值替换为上限阈值。

x = 1:10;a = [60 59 49 49 58 100 61 57 48 58];[B,TF,较低,上部,中心] = FillOutliers(A,“剪辑”);绘图(x,a,x,b,“o”,x,较低的* oir(1,10),x,上部* x(1,10),x,中心* x(1,10))图例(“原始数据”'填充数据''较低的门槛'“上阈值”'中心值'

图包含轴。轴包含5个类型的线。这些对象代表原始数据,填充数据,较低阈值,上阈值,中心值。

输入参数

全部收缩

输入数据,指定为向量,矩阵,多维数组,表或时间表。

如果一种是一个表,那么它的变量必须是类型要么单身的,或者你可以使用'datavariables'要列出的名称值对要么单身的变量明确。在使用包含数据类型以外的数据类型的表格使用表时,指定变量很有用要么单身的

如果一种是一个时间表,然后Fillutiers.仅在表元素上运行。行时间必须是唯一的,并以升序列出。

数据类型:|单身的|桌子|时间表

填充替换异常值的方法,指定为数字标量或以下之一:

填充方法 描述
数字标量 填充指定的标量值
'中央' 填充中心值findmethod.
“剪辑” 由确定的下限阈值小于的元素用下限阈值填充findmethod..填充高于由上阈值大的元素的上阈值findmethod.
'以前的' 填写以前的非异常值
“下一个” 用下一个非离群值填充
“最近的” 填充最接近的非异常值
'线性' 使用相邻的线性插值填充,非异常值
样条的 使用分段立方样条插值填充
'pchip' 使用形状保留分段立方样条插值填充
“makima” 修改Akima立方Hermite插值(数字,期间, 和约会时间数据类型)

数据类型:|单身的|字符

检测异常值的方法,指定为以下之一:

方法 描述
'中位' 异常值定义为来自中位数的超过三个鳞片的元素。缩放的疯狂被定义为C *中位数(ABS(ABS(A-A)))),在那里C = -1 /(SQRT(2)* ERFCINV(3/2))
'意思' 异常值被定义为均值超过三个标准偏差的元素。这种方法比速度更快但更稳健'中位'
四分位数的 异常值定义为高于四分位数(75%)或低于单四分位数(25%)之上超过1.5个间的元素。此方法在数据中有用一种通常不会分发。
'grubbs' 使用Grubbs的测试检测到异常值,该测试基于假设检测将每次迭代中的一个异常值删除。此方法假定数据一种是正态分布。
“gesd” 使用概括的极端学生偏差测试检测异常值。这种迭代方法类似于'grubbs',但当有多个异常值相互掩蔽时,性能会更好。

百分位数阈值,指定为两个元素行向量,其元素处于间隔[0,100]。第一元素表示较低百分位数阈值,第二个元素表示上百分位数阈值。例如,阈值[90]将异常值定义为低于第10百分位数和90百分位数的点数。第一个元素阈值必须小于第二个元素。

用于检测异常值的移动方法,指定为以下之一:

方法 描述
“movmedian” 异常值被定义为从本地中位数的超过三个本地缩放的元素,通过窗口长度指定窗口.这种方法也称为aHampel过滤器
“movmean” 异常值被定义为从本地均值的元素超过三个本地标准偏差,在指定的窗口长度上窗口

窗口长度,指定为正整数标量,正整数的两个元素矢量,正持续时间标量或正持续时间的两个元素矢量。

窗口是一个正整数标量,窗口是围绕当前元素和包含窗口1相邻的元素。如果窗口甚至,窗口符合当前和以前的元素。

窗口是一个正整数的二元向量吗[b f],窗口包含当前元素,B.元素向后,F元素前进。

一种是时间表或'samplepoints'被指定为一个约会时间要么期间向量,窗口必须是类型期间,窗口是相对于样本点计算的。

数据类型:|单身的|INT8.|int16|int32|int64|uint8.|uint16|UINT32|UINT64|期间

维度运行,指定为正整数标量。如果没有指定值,则默认值是第一个数组维度,其大小不等于1。

考虑一个矩阵一种

Filloutliers(A,Fillmethod,1)根据每个列中的数据填充异常值。

Filloutliers(a,fillmethod,2)根据每行中的数据填充异常值。

一种是一个表或时间表,暗淡不受支持。万博1manbetxFillutiers.沿每个表或时间可变分别操作。

数据类型:|单身的|INT8.|int16|int32|int64|uint8.|uint16|UINT32|UINT64

名称值对参数

指定可选的逗号分离对名称,价值参数。名称是参数名称和价值是相应的价值。名称必须出现在引号内。您可以以任何顺序指定多个名称和值对参数Name1, Value1,…,的家

例子:Fillouteriers(A,'Center','均值','阈值Factor',4)
数据选项

全部收缩

示例点,指定为逗号分隔对组成'samplepoints'和矢量。样本点代表X中的数据的轴位置一种,并且必须排序并包含唯一的元素。样品点不需要均匀采样。默认采样点向量是[1 2 3…]

笔记

当输入数据为万博1manbetx时间表.时间表总是使用行时间向量作为样本点。要使用不同的样本点,必须编辑时间表,以便行时间包含所需的样本点。

移动窗口相对于采样点定义。例如,如果T.是与输入数据相对应的时间的矢量Filloutliers(Rand(1,10),'上一个','movemean',3,'samplepoints',t)有一个代表之间的时间间隔的窗口T(i)-1.5T(i)+1.5

当样本点向量具有数据类型时约会时间要么期间,然后移动窗口长度必须具有类型期间

例子:FillOulliers([1 100 3 4],'最近','SamplePoints',[1 2.5 3 4])

数据类型:单身的||约会时间|期间

表变量操作开启,指定为逗号分隔对组成'datavariables'以及此表中的其中一个选项。这'datavariables'值表示要填充的输入表的哪些变量。未指定的表中的其他变量'datavariables'传递到输出而不进行操作。

选项 描述 例子
变量的名称

指定单表变量名称的字符向量或标量标题

'var1'

“var1”

变量名称矢量

字符向量或字符串数​​组的单元格数组,其中每个元素是表变量名称

{“Var1”“Var2”}

[" Var1”“Var2”)

可变指标的标量或向量

表变量指数的标量或向量

1

[1 3 5]

逻辑矢量

逻辑向量,其每个元素对应一个表变量,其中真的包括相应的变量和错误的不包括它

[真为false]

函数处理

接受表变量作为输入并返回逻辑标量的函数句柄

@isnumeric

vartype.下标.

属性生成的表下标vartype.功能

vartype('numeric')

例子:Filloutliers(a,'上一个','datavariables',[var1'“var2”“var4”))

异常值检测选项

全部收缩

检测阈值因子,指定为逗号分隔的对组成'阈值Factor'一个非负标量。

对于方法'中位'“movmedian”时,检测阈值因子代替缩放的MAD数量,MAD数量默认为3。

对于方法'意思'“movmean”时,检测阈值因子代替离均值的标准差数,默认为3。

对于方法'grubbs'“gesd”时,检测阈值因子为0 ~ 1之间的标量。接近0的值会产生更少的离群值,接近1的值会产生更多的离群值。默认检测阈值因子为0.05。

为了四分位数的方法,检测阈值因子替换默认为1.5的四分位数范围。

指定的方法是时不支持此名称值对万博1manbetx'百分比'

数据类型:|单身的|INT8.|int16|int32|int64|uint8.|uint16|UINT32|UINT64

最大的异常值计数,适用于“gesd”仅作为逗号分隔对的方法组成“MaxNumOutliers”一个正标量。这“MaxNumOutliers”属性返回的离群值的最大数目“gesd”方法。例如,Filloutliers(a,'linear','gesd','maxnumoutliers',5)返回值不超过5个异常值。

默认值“MaxNumOutliers”是最接近元素数量的10%的整数一种.为最大值设置更大的异常值,可以确保检测到所有异常值,但以降低的计算效率为代价。

数据类型:|单身的|INT8.|int16|int32|int64|uint8.|uint16|UINT32|UINT64

已知的异常值指示符,指定为逗号分隔的配对组成'extierlocations'和具有相同大小的逻辑向量、矩阵或多维数组一种.已知的异常值指示元件可以是真的在…的相应位置指示离群值一种要么错误的否则。指定'extierlocations'关闭默认的异常值检测方法,仅使用已知的异常值指示符的元素来定义异常值。

'extierlocations'名称 - 值对无法指定何时findmethod.指定了。

输出TF.'extierlocations'价值。

数据类型:逻辑

输出参数

全部收缩

填充的离群值数组,以向量、矩阵、多维数组、表或时间表的形式返回。的元素B.与那些相同一种,但所有异常值都被替换为根据Fillmethod.

数据类型:|单身的|桌子|时间表

离群值指示器,以向量、矩阵或多维数组的形式返回。一个元素的TF.真的当对应的元素一种是一个异常值和错误的否则。TF.大小是一样的吗一种

数据类型:逻辑

异常检测方法使用的阈值较低,作为标量,向量,矩阵,多维数组,表或时间表返回。例如,默认异常值检测方法的较低值是输入数据中位数下方的三个缩放MAD。L.具有相同的尺寸一种在所有尺寸中,除了长度为1的操作尺寸。

数据类型:|单身的|桌子|时间表

通过异常值检测方法使用的上阈值,作为标量,向量,矩阵,多维数组,表或时间表返回。例如,默认异常值检测方法的upper值是输入数据中位数之上的三个缩放MAD。具有相同的尺寸一种在所有尺寸中,除了长度为1的操作尺寸。

数据类型:|单身的|桌子|时间表

异常值检测方法使用的中心值,作为标量,向量,矩阵,多维数组,表或时间表返回。例如,默认异常转口检测方法的中心值是输入数据的中位数。C具有相同的尺寸一种在所有尺寸中,除了长度为1的操作尺寸。

数据类型:|单身的|桌子|时间表

更多关于

全部收缩

中位绝对偏离

对于随机可变矢量一种组成的N标量观察,中位绝对偏差(MAD)被定义为

疯狂=中位数 | 一种 一世 - 中位数 一种 |

为了i = 1,2,…,N

缩放的疯狂被定义为C *中位数(ABS(ABS(A-A))))在哪里C = -1 /(SQRT(2)* ERFCINV(3/2))

扩展能力

在R2017A介绍