什么是随机过程?

一个时间序列y_t对一个变量的观察是否在几个时间点上按顺序索引t= 1,2,…,T．时间序列的观测y₁，y₂、……y_T本质上是相关的。从统计建模的角度来看，这意味着将时间序列视为独立观测的随机样本是不合适的。

统计建模的目标是为您的数据找到一个紧凑的数据生成过程的表示。计量时间序列建模的统计构件是随机过程。一些,随机过程是一组随机变量的联合概率分布。通过对观察到的时间序列建模y_t作为一个随机过程的实现 $$y＝｛y_t；t＝1，\mathrm{．..}，T｝$$，就有可能适应数据的高维性和依赖性。观察时间的集合T可以是离散的也可以是连续的。图1-1，月平均CO2显示每月平均CO₂夏威夷莫纳罗亚天文台从1980年到2012年记录的浓度(ppm)［3］．

固定的流程

随机过程是弱平稳或协方差平稳(或简单,静止的)，如果它们的前两个力矩是有限的并且随时间而恒定。具体来说,如果y_t是一个平稳的随机过程吗t:

你的随机过程的图看起来是无限增加或减少的吗?这个问题的答案表明了随机过程是否是平稳的。“是”表示随机过程可能是非平稳的。在图1-1，月平均CO2， CO的浓度₂为无界递增，表明为非平稳随机过程。

线性时间序列模型

山地定理［2］你可以把所有弱平稳随机过程写成一般线性形式

在这里, $${\epsilon }_t$$表示一系列不相关(但不一定独立)的随机变量，它们来自定义良好的平均为零的概率分布。它经常被称为创新的过程因为它能及时捕获系统中的所有新信息t．

单位根过程

线性时间序列模型是单位根过程如果解集为特征方程包含在单位圆上的根(即绝对值为1)。随后，随机过程各要素的期望值、方差或协方差随时间增长，因此是非平稳的。如果级数有单位根，那么对它进行微分可能会使它静止。

例如，考虑线性时间序列模型 $$y_t＝y_{t-1}+{\epsilon }_t，$$在哪里 $${\epsilon }_t$$创新的白噪声序列是否具有方差σ²(这被称为随机漫步)。该模型的特征方程为 $$z-1＝0，$$根是1。如果最初的观察y₀是固定的，那么您可以将模型写成 $$y_t＝y_0+{\displaystyle \underset{我＝1}{\overset{t}{\sum }}{\epsilon }_{我}}．$$其期望值为y₀它与时间无关。然而，该系列的方差为tσ²，它随时间增长，使级数不稳定。取第一个差异来转换系列，模型就变成了 $$d_t＝y_t-y_{t-1}＝{\epsilon }_t$$．这个级数的特征方程是 $$z＝0$$，所以它没有单位根。请注意,

图1-1，月平均CO2出现不稳定。如果画出第一个差值会发生什么d_t＝y_t- y_t1本系列的?图1-2,CO2月差异显示了d_t．如果不考虑波动，随机过程似乎一般不会增加或减少。你可以得出结论d_t是静止的，那呢y_t为单位根非平稳。有关详细信息,请参见差分．

滞后算子符号

的滞后算子l作用于一个时间序列y_t这样 $$l^{我}{y}_t＝y_{t-我}$$．

一个米系数的th次滞后多项式b₁，b₂、……b_米被定义为

在滞后算子表示法中，你可以用无限次多项式写出一般的线性模型 $$\psi （l）＝（1+{\psi }_{1}l+{\psi }_2{l}^2+．..），$$

你不能用有限的数据来估计一个系数的无限次多项式模型。然而,如果 $$\psi （l）$$是一个有理多项式(或近似有理)，你可以把它写成(至少近似地)两个有限次多项式的商。

定义问度多项式 $$\theta （l）＝（1+{\theta }_{1}l+{\theta }_2{l}^2+．..+{\theta }_{问}{l}^{问}）$$和p度多项式 $$\varphi （l）＝（1+{\varphi }_{1}l+{\varphi }_2{l}^2+．..+{\varphi }_p{l}^p）$$．如果 $$\psi （l）$$是理性的,那么

因此，通过沃尔德定理，你可以将每个平稳随机过程建模(或近似)为

已p+问系数(有限数)。

特征方程

一个学位p特征多项式线性时间序列模型 $$y_t＝{\varphi }_1{y}_{t-1}+{\varphi }_2{y}_{t-2}+\mathrm{．..}+{\varphi }_p{y}_{t-p}+{\epsilon }_t$$是

这是另一种评估序列是平稳过程的方法。例如，的特征方程 $$y_t＝\mathrm{０．５}{y}_{t-1}-\mathrm{０．０２}{y}_{t-2}+{\epsilon }_t$$是 $$\varphi （\mathrm{一个}）＝{\mathrm{一个}}^2-\mathrm{０．５}\mathrm{一个}+\mathrm{0.02。}$$

根源均匀的特征方程 $$\varphi （\mathrm{一个}）＝0$$(称为特征根)确定线性时间序列是否平稳。如果每根根 $$\varphi （\mathrm{一个}）$$在单位圆内，则过程是静止的。如果根的绝对值小于1，那么根就在单位圆内。如果一个或多个根位于单位圆内(即绝对值为1)，这就是一个单位根过程。继续这个例子，的特征根 $$\varphi （\mathrm{一个}）＝0$$是 $$\mathrm{一个}＝｛0.4562，0.0438｝．$$由于这些根的绝对值小于1，线性时间序列模型是平稳的。