平稳随机过程遍历性¶

时间平均¶

样本平均¶

算术平均值: \(\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^{n} X_i\)
加权平均值: \(\bar{X}_n = \frac{1}{n} \sum\limits_{i=1}^{n} w_i X_i\;\; \sum\limits_{i=1}^{n} w_i = 1\)

时间平均¶

离散状态¶

前 \(n\) 个时刻观测值的平均值定义为:
- \[\bar{X_n} = \frac{1}{n} \sum_{i=0}^{n-1} X_i\]
若存在 随机变量 \(\tau\) 使得 \(\bar{X_n}\) 在均方意义下收敛到 \(\tau\), 即:
- \(\lim\limits_{n \to \infty} E[(\bar{X_n} - \tau)^2] = 0\) 称 \(\tau\) 为随机过程 \(X(t)\) 的 时间平均.,记为
- \[\lim\limits_{n\to\infty} \bar{X_n} = \tau\]

连续状态¶

过程平均值 \(\bar{X_T}:=\frac{1}{T} \int_{0}^{T} X(t)dt\)
若存在 随机变量 \(\xi_T\) 使得对任意划分 \(P:0=t_0<t_1<\cdots<t_n=T,\forall t^*_k\in[t_{k-1},t_k]\):
- 对和式 \(S_n = \sum_{k=1}^{n} X(t^*_k)(t_k - t_{k-1})\) 成立
- \[\lim_{\max\limits_{k} (t_k - t_{k-1}) \to 0} E[(S_n - \xi_T)^2] = 0\]
  - 则称 \(X(t)\) 在 \([0,T]\) 上的 均方可积 ,积分值记为 \(\xi_T\),记为
- \[\int_{0}^{T} X(T)dt = \xi_T\]

定理 8.1¶

设 \(X\) 是二阶矩过程, \(EX(t)^2 < \infty\), 给定 \(T>0\), 若
- \[\int_{0}^{T}\int_{0}^{T} r_X(t,s)dtds < \infty\]
  - 即
- \[\int_{0}^{T}\int_{0}^{T} EX(s)X(t)dtds < \infty\]
  - 那么 \(X(t)\) 在 \([0,T]\) 上的均方可积

定义 8.2¶

定义 \(\bar{X_T} = \frac{1}{T} \int_{0}^{T} X(t)dt\) 为过程 \(X(t)\) 在 \([0,T]\) 上的 时间平均
进而如果存在随机变量 \(\tau\) 使得
- \[\lim_{T \to \infty} E[(\bar{X_T} - \tau)^2] = 0\]
  - 则称 \(\tau\) 为过程 \(X(t)\) 的 时间平均, 记为
- \[\lim\limits_{T \to \infty} \bar{X_T} = \tau\]

定义 8.3 均值遍历性¶

若平稳随机过程 \(X\) 时间平均等于样本平均,即
- \[\mu = \tau,a.s.\]
- 则称过程 \(X(t)\) 具有 均值遍历性

均值遍历性¶

离散过程¶

定理 8.4¶

设 \(X=(X_n,n\geq 0)\) 是离散时间平稳随机过程, \(EX_n = \mu,r_X(k) = EX_0X_k,\) 那么其满足均值遍历性的充要条件是
- \[\frac{1}{n^2} \sum_{k=1}^{n} (n-k)(r_X(k)-\mu^2) \to 0 , n\to\infty\]

[!NOTE] - \(X_n\) 是平稳随机过程, \(EX_n=\mu\) ,那么 - \(\(\lim\limits_{n\to\infty} \frac{1}{n} \sum\limits_{k=0}^{n-1}X_k = \mu \iff \lim\limits_{n\to\infty} \frac{1}{n}\sum\limits_{k=0}^{n-1} EX_0X_k = \mu^2\)\)

推论 8.1¶

在上述定理条件下, \(X\) 满足均值遍历性的充要条件是
- \[\frac{1}{n} \sum_{k=1}^{n} (r_X(k)-\mu^2) \to 0 , n\to\infty\]

推论 8.2¶

在上述定理条件下, 如果
- \[r_X(k)\to \mu^2, k\to\infty\]
  - 那么 \(X\) 满足均值遍历性

![NOTE] 推论8.2 就是在说随机过程渐进不相关,也就是 \(EX_0X_k\to EX_0EX_k\)

若 \(X\) 是平稳白噪声序列,也就是 \(E X_n = 0\) 那么其满足均值遍历性

连续过程¶

定理 8.5¶

设 \(X = (X(t),t\geq 0)\) 是连续时间平稳随机过程, \(EX(t) = \mu, r_X(t) = EX(0)X(t)\), 那么其满足均值遍历性的充要条件是
- \[\frac{1}{T^2} \int_{0}^{T} (T-t)(r_X(t)-\mu^2)dt \to 0, T\to\infty\]

推论 8.3¶

在上述定理条件下, \(X\) 满足均值遍历性的充要条件是
- \[\frac{1}{T} \int_{0}^{T} (r_X(t)-\mu^2)dt \to 0, T\to\infty\]

推论 8.4¶

在上述定理条件下, 如果
- \[r_X(t)\to \mu^2, t\to\infty\]
  - 那么 \(X\) 满足均值遍历性

定理 8.6¶

设 \(X = (X_n,n\geq 0)\) 是离散时间平稳随机过程, \(EX_n = \mu,r_X(k) = EX_nX_{n+k}\), 那么其满足均值遍历性的充要条件是
- \[\frac{1}{n^2} \sum_{k=-n}^{n} (n-|k|)(r_X(k)-\mu^2) \to 0 , n\to\infty\]
设 \(X = (X(t),t\geq 0)\) 是连续时间平稳随机过程, \(EX(t) = \mu, r_X(t)=EX(s)X(s+t)\), 那么其满足均值遍历性的充要条件是
- \[\frac{1}{T^2} \int_{-T}^{T} (T-|t|)(r_X(t)-\mu^2)dt \to 0, T\to\infty\]

\(\text{von Neumann}\) 遍历定理¶

定理 8.7¶

设 \(X = (X_n,n\geq 0)\) 是离散时间平稳随机过程, \(EX_n = \mu\) 那么一定存在随机变量 \(\eta\) 使得 \(E\eta = \mu\) 并且
- \[\frac{1}{n} \sum_{k=0}^{n-1} X_k \overset{L^2}{\to} \eta\]

[!NOTE] 这表明任何弱平稳随机过程的时间平均在均方意义下都是收敛的

定理 8.8¶

设 \(X = (X_n,n\geq 0)\) 是强平稳随机过程,均值为 \(\mu\) 那么一定存在随机变量 \(\eta\) 使得 \(E\eta = \mu\) 并且
- \[\frac{1}{n} \sum_{k=0}^{n-1} X_k \to \eta,a.s.\]