第十二章 随机过程及其统计描述
第十二章 随机过程及其统计描述
本章首先从随时间演变的随机现象引入随机过程的概念和记号。接着，一般地介绍随机过程的统计描述方法。最后，作为示例，从实际问题抽象出两个著名的随机过程，并介绍它们的统计特性。
§1 随机过程的概念
随机过程被认为是概率论的“动力学”部分。意思是说，它的研究对象是随时间演变的随机现象。对于这种现象，一般来说，人们已不能用随机变量或多维随机变量来合理地表达，而需要用一族（无限多个）随机变量来描述。现在来看一个具体例子。
热噪声电压 电子元件或器件由于内部微观粒子（如电子）的随机热骚动所引起的端电压称为热噪声电压，它在任一确定时刻 t 的值是一随机变量，记为 $ V(t) $. 不同时刻对应不同的随机变量，当时间在某区间，譬如 $ [0, +\infty) $ 上推移时，热噪声电压表现为一族随机变量，记为 $ \{V(t), t \geqslant 0\} $. 在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为要消除这种干扰（假设没有其他干扰因素），就必须掌握
热噪声电压随时间变化的过程.为此,我们通过
某种装置对元件(或器件)两端的热噪声电压进
行长时间的测量，并把结果自动记录下来，作为
一次试验结果，便得到一个电压—时间函数(即
电压关于时间 t 的函数) $ v_{1}(t), t>0 $，如图 12—
1，这个电压—时间函数在试验前是不可能预先
确知的，只有通过测量才能得到. 如果在相同条
件下独立地再进行一次测量，则得到的记录是
不同的. 事实上，由于热骚动的随机性，在相同
条件下每次测量都将产生不同的电压—时间函
数. 这样，不断地独立重复地一次次测量就可以
得到一族不同的电压—时间函数，这族函数从
另一角度刻画了热噪声电压.
现以上述例子为背景，引入随机过程的
概念.
设 T 是一无限实数集。我们把依赖于参数 $ t \in T $ 的一族（无限多个）随机变量称为随机过程，记为 $ \{X(t), t \in T\} $，这里对每一个 $ t \in T $， $ X(t) $ 是一随机变量。T 叫做参数集。我们常把 t 看作为时间，称 $ X(t) $ 为时刻 t 时过程的状态，而 $ X(t_1) = x $（实数）说成是 $ t = t_1 $ 时过程处于状态 x。对于一切 $ t \in T $， $ X(t) $ 所有可能取的一切值的全体称为随机过程的状态空间。
对随机过程 $ \{X(t), t \in T\} $进行一次试验（即在T上进行一次全程观测），其结果是t的函数，记为 $ x(t), t \in T $，称它为随机过程的一个样本函数或样本曲线。所有不同的试验结果构成一族（可以只包含有限个结果，见本节例1）样本函数。
随机过程可以看作是多维随机变量的延伸. 随机过程与其样本函数的关系就像数理统计中总体与样本的关系一样.
依照上面的说法，热噪声电压的变化过程 $ \{V(t), t \geqslant 0\} $是一随机过程，它的状态空间是 $ (-∞, +∞) $，一次观测到的电压—时间函数就是这个随机过程的一个样本函数.
在以后的叙述中，为简便起见，常以 $ X(t), t \in T $ 表示随机过程。在上下文不致混淆的情形下，一般略去记号中的参数集 T。
例1 抛掷一枚硬币的试验，样本空间是 $ S=\{H,T\} $，现借此定义
$$ X(t)=\{\begin{aligned}&\cos\pi t,& 当出现 H,\\ &t,& 当出现 T,\end{aligned}.\quad t\in(-\infty,+\infty), $$
其中 $ P(H)=P(T)=1/2 $. 对任意固定的 t, X(t) 是一定义在 S 上的随机变量；对不同的 t, X(t) 是不同的随机变量（见图 12-2），所以 $ \{X(t), t \in (-\infty, +\infty)\} $ 是一族随机变量，即它是随机过程. 另一方面，做一次试验，若出现 H，样本函数为 $ x_{1}(t) = \cos \pi t $; 若出现 T，样本函数为 $ x_{2}(t) = t $，所以该随机过程对应的一族样本函数仅包含两个函数： $ \{\cos \pi t, t\} $. 显然这个随机过程的状态空间为 $ (-\infty, +\infty) $.
例2 考虑
$$ X(t)=a\cos\left(\omega t+\Theta\right),\quad t\in\left(-\infty,+\infty\right), $$
式中 $ \alpha $ 和 $ \omega $ 是正常数， $ \Theta $ 是在 $ (0,2\pi) $ 上服从均匀分布的随机变量.
显然，对于每一个固定的时刻 $ t=t_{1}, X(t_{1})=a \cos(\omega t_{1}+\theta) $ 是一个随机变量，因而由(1.1)式确定的 $ X(t) $ 是一个随机过程，通常称它为随机相位正弦波。它的状态空间是 $ [-a, a] $。在 $ (0, 2\pi) $ 内随机地取一数 $ \theta_{i} $，相应地即得这个随机过程的一个样本函数
$$ x_{i}(t)=\alpha\cos(\omega t+\theta_{i}),\quad\theta_{i}\in(0,2\pi). $$
图 12—3 中画出了这个随机过程的两条样本曲线.
例3 往测量运动目标的距离时存在随机误差，若以 $ \varepsilon(t) $表示在时刻t的测量误差，则它是一个随机变量。当目标随时间t按一定规律运动时，测量误差 $ \varepsilon(t) $也随时间t而变化，换句话说， $ \varepsilon(t) $是依赖于时间t的一族随机变量，亦即 $ \{\varepsilon(t),t\geqslant0\} $是一随机过程。且它们的状态空间是 $ (-\infty,+\infty) $。
例4 设某城市的120急救电话台迟早会接到用户的呼叫，以 $ X(t) $表示时间间隔 $ (0,t] $内接到的呼叫次数，它是一个随机变量，且对于不同的 $ t\geqslant0,X(t) $是不同的随机变量.于是， $ \{X(t),t\geqslant0\} $是一随机过程.且它的状态空间是 $ \{0,1,2,\cdots\} $.
例5 考虑抛掷一颗骰子的试验.(i)设 $ X_{n} $是第n次 $ (n\geqslant1) $抛掷的点数，对于n=1,2,\cdots的不同值， $ X_{n} $是不同的随机变量，因而 $ \{X_{n},n\geqslant1\} $构成一随机过程，称为伯努利过程或伯努利随机序列.(ii)设 $ Y_{n} $是前n次抛掷中出现的最大点数， $ \{Y_{n},n\geqslant1\} $也是一随机过程.它们的状态空间都是 $ \{1,2,3,4,5,6\} $.
工程技术中有很多随机现象，例如，地震波幅、结构物承受的风荷载、时间间隔（0，t]内船舶甲板“上浪”的次数、通讯系统和自控系统中的各种噪声和干扰，以及生物群体的生长等等变化过程都可用随机过程这一数学模型来描绘。不过，这些随机过程都不能像随机相位正弦波那样，很方便、很具体地用时间和随机变量（一个或几个）的关系式表示出来，其主要原因在于自然界和社会产生随机因素的机理是极为复杂的，甚至是不可能被观察到的。因而，对于这样的随机过程
（实际中大多是这样的随机过程），一般来说，我们只有通过分析由观察所得到的样本函数才能掌握它们随时间变化的统计规律性。
随机过程的不同描述方式在本质上是一致的。在理论分析时往往以随机变量族的描述方式作为出发点，而在实际测量和数据处理中往往采用样本函数族的描述方式。这两种描述方式在理论和实际两方面是互为补充的。
随机过程可依其在任一时刻的状态是连续型随机变量或离散型随机变量而分成连续型随机过程和离散型随机过程。热噪声电压、例2和例3是连续型随机过程，例1、例4和例5是离散型随机过程。
随机过程还可依时间(参数)是连续或离散进行分类. 当时间集 $ T $ 是有限或无限区间时, 称 $ \{X(t), t \in T\} $ 为连续参数随机过程 (以下如无特别指明, “随机过程” 总是指连续参数而言的). 如果 $ T $ 是离散集合, 例如 $ T = \{0, 1, 2, \cdots\} $, 则称 $ \{X(t), t \in T\} $ 为离散参数随机过程或随机序列, 此时常记成 $ \{X_n, n=0, 1, 2, \cdots\} $ 等, 如例 5.
有时，为了适应数字化的需要，实际中也常将连续参数随机过程转化为随机序列处理。例如，我们只在时间集 $ T=\{\Delta t,2\Delta t,\cdots,n\Delta t,\cdots\} $ 上观测电阻热噪声电压 $ V(t) $，这时就得到一个随机序列
$$ \{V_{1},V_{2},\cdots,V_{n},\cdots\} $$
其中 $ V_{n}=V(n\Delta t) $. 显然，当 $ \Delta t $ 充分小时，这个随机序列能够近似地描述连续时间情况下的热噪声电压.
最后指出，参数 t 虽然通常解释为时间，但它也可以表示其他的量，诸如序号、距离等。例如，在例5中，我们假定每隔一段单位时间抛掷骰子一次，那么第n次抛掷时骰子出现的点数 $ X_{n} $就相当于t=n时骰子出现的点数。
§2 随机过程的统计描述
随机过程在任一时刻的状态是随机变量，由此可以利用随机变量（一维和多维）的统计描述方法来描述随机过程的统计特性.
（一） 随机过程的分布函数族
给定随机过程 $ \{X(t), t \in T\} $. 对于每一个固定的 $ t \in T $，随机变量 $ X(t) $ 的分布函数一般与 t 有关，记为
$$ F_{X}(x,t)=P\{X(t)\leqslant x\},x\in\mathbf{R}, $$
称它为随机过程 $ \{X(t), t \in T\} $的一维分布函数，而 $ \{F_X(x, t), t \in T\} $称为一维分布函数族.
一维分布函数该刻画了随机过程在各个个别时刻的统计特性.为了描述随
机过程在不同时刻状态之间的统计联系，一般可对任意 $ n(n=2,3,\cdots) $个不同的时刻 $ t_{1},t_{2},\cdots,t_{n}\in T $，引入n维随机变量 $ (X(t_{1}),X(t_{2}),\cdots,X(t_{n})) $，它的分布函数记为
$$ \begin{align*}F_{X}(x_{1},x_{2},\cdots,x_{n};t_{1},t_{2},\cdots,t_{n})&=P\{X(t_{1})\leqslant x_{1},X(t_{2})\leqslant x_{2},\cdots,X(t_{n})\leqslant x_{n}\},\\&\quad x_{i}\in\mathbf{R},\quad i=1,2,\cdots,n.\end{align*} $$
对于固定的 n，我们称 $ \{F_X(x_1, x_2, \cdots, x_n; t_1, t_2, \cdots, t_n), t_i \in T\} $ 为随机过程 $ \{X(t), t \in T\} $ 的 n 维分布函数族。
当 n 充分大时，n 维分布函数族能够近似地描述随机过程的统计特性。显然，n 取得愈大，则 n 维分布函数族描述随机过程的特性也愈趋完善。一般，可以指出（科尔莫戈罗夫定理）：有限维分布函数族，即 $ \{F_{X}(x_{1}, x_{2}, \cdots, x_{n}; t_{1}, t_{2}, \cdots, t_{n}), n=1,2,\cdots,t_{i} \in T\} $，完全地确定了随机过程的统计特性。
在上一节，我们曾将随机过程按其状态或时间的连续或离散进行了分类。然而，随机过程的本质的分类方法乃是按其分布特性进行分类。具体地说，就是依照过程在不同时刻的状态之间的特殊统计依赖方式，抽象出一些不同类型的模型，如独立增量过程、马尔可夫过程、平稳过程等。我们将在以后的章节中对它们作不同程度的介绍。
（二） 随机过程的数字特征
随机过程的分布函数族能完善地刻画随机过程的统计特性，但是人们在实际中，根据观察往往只能得到随机过程的部分资料（样本），用它来确定有限维分布函数族是困难的，甚至是不可能的。因而像引入随机变量的数字特征那样，有必要引入随机过程的基本的数字特征——均值函数和相关函数等。我们将会看到，这些数字特征在一定条件下是便于测量的。下面就依次来介绍。
给定随机过程 $ \{X(t), t \in T\} $，固定 $ t \in T $， $ X(t) $是一随机变量，它的均值一般与t有关，记为
$$ \mu_{X}(t)=E\left[X(t)\right], $$
我们称 $ \mu_{X}(t) $ 为随机过程 $ \{X(t), t \in T\} $ 的均值函数.
注意， $ \mu x(t) $ 是随机过程的所有样本函数在时刻 t 的函数值的平均值，通常称这种平均为集平均或统计平均，以区别将于第十四章中引入的时间平均概念.
均值函数 $ \mu_{X}(t) $ 表示了随机过程 X(t) 在各个时刻的摆动中心，如图 12-4 所示.
其次，我们把随机变量 $ X(t) $ 的二阶原点矩和二阶中心矩分别记作
$$ \Psi_{X}^{2}(t)=E\big[X^{2}(t)\big] $$
和
$$ \sigma_{X}^{2}(t)=D_{X}(t)=\mathrm{Var}[X(t)]=E\{[X(t)-\mu_{X}(t)]^{2}\}, $$
并分别称它们为随机过程 $ \{X(t), t \in T\} $的均方值函数和方差函数。方差函数的算术平方根 $ \sigma_X(t) $称为随机过程的标准差函数，它表示随机过程 $ X(t) $在时刻t对于均值 $ \mu_X(t) $的平均偏离程度。见图12-4。
又设任意 $ t_{1}, t_{2} \in T $. 我们把随机变量 $ X(t_{1}) $ 和 $ X(t_{2}) $ 的二阶原点混合矩记作 $ R_{XX}(t_{1}, t_{2}) = E[X(t_{1})X(t_{2})] $, (2.4)
并称它为随机过程 $ \{X(t),t\in T\} $的自相关函数，简称相关函数。记号 $ R_{XX}(t_{1},t_{2}) $在不致混淆的场合常简记为 $ R_{X}(t_{1},t_{2}) $。
类似地，还可写出 $ X(t_{1}) $ 和 $ X(t_{2}) $ 的二阶混合中心矩，记作
$$ \begin{align*}C_{XX}(t_{1},t_{2})=&\operatorname{Cov}\left[X(t_{1}),X(t_{2})\right]\\=&E\{\left[X(t_{1})-\mu_{X}(t_{1})\right]\left[X(t_{2})-\mu_{X}(t_{2})\right]\},\end{align*} $$
并称它为随机过程 $ \{X(t),t\in T\} $的自协方差函数，简称协方差函数. $ C_{XX}(t_{1},t_{2}) $也常简记为 $ C_{X}(t_{1},t_{2}) $.
由多维随机变量数字特征的知识可知，自相关函数和自协方差函数是刻画随机过程自身在两个不同时刻的状态之间统计依赖关系的数字特征。
现把(2.1)—(2.5)式定义的诸数字特征之间的关系简述如下：
由（2.2）和（2.4）式知
$$ \Psi_{X}^{2}(t)=R_{X}(t,t). $$
由（2.5）式展开，得
$$ C_{X}(t_{1},t_{2})=R_{X}(t_{1},t_{2})-\mu_{X}(t_{1})\mu_{X}(t_{2}). $$
特别，当 $ t_{1}=t_{2}=t $时，由(2.7)式，得
$$ \sigma_{X}^{2}(t)=C_{X}(t,t)=R_{X}(t,t)-\mu_{X}^{2}(t). $$
由(2.6)—(2.8)式可知，以上诸数字特征中最主要的是均值函数和自相关函数.
从理论的角度来看，仅仅研究均值函数和自相关函数当然是不能代替对整个随机过程的研究的，但是由于它们确实刻画了随机过程的主要统计特性，而且远较有限维分布函数族易于观察和实际计算，因而对于应用课题而言，它们常常
能够起到重要作用. 据此, 在随机过程的专著中都着重研究了所谓二阶矩过程.
如果对每一个 $ t \in T $，随机过程 $ \{X(t), t \in T\} $ 的二阶矩 $ E[X^{2}(t)] $ 都存在，则称它为二阶矩过程.
二阶矩过程的相关函数总存在. 事实上, 由于 $ E\left[X^{2}(t_{1})\right], E\left[X^{2}(t_{2})\right] $ 存在, 根据柯西—施瓦茨不等式(参见第四章习题37)有
$$ \{E[X(t_{1})X(t_{2})]\}^{2}\leqslant E[X^{2}(t_{1})]E[X^{2}(t_{2})],\quad t_{1},t_{2}\in T. $$
即知 $ R_{X}(t_{1},t_{2})=E[X(t_{1})X(t_{2})] $ 存在.
在实际中，常遇到一种特殊的二阶矩过程——正态过程。随机过程 $ \{X(t), t \in T\} $称为正态过程，如果它的每一个有限维分布都是正态分布，亦即对任意整数 $ n \geq 1 $及任意 $ t_1, t_2, \cdots, t_n \in T $， $ (X(t_1), X(t_2), \cdots, X(t_n)) $服从 $ n $维正态分布。由第四章§3、§4知，正态过程的全部统计特性完全由它的均值函数和自协方差函数（或自相关函数）所确定。
例1 设 A, B 是两个随机变量. 试求随机过程 $ X(t) = A t + B $, $ t \in T = (-\infty, +\infty) $ 的均值函数和自相关函数. 如果 A, B 相互独立, 且 $ A \sim N(0,1) $, $ B \sim U(0,2) $, 问 $ X(t) $ 的均值函数和自相关函数又是怎样的?
解 $ X(t) $ 的均值函数和自相关函数分别为
$$ \begin{aligned}\mu_{X}(t)=&E\big[X(t)\big]=E\big[At+B\big]=tE\big[A\big]+E\big[B\big],\\R_{X}(t_{1},t_{2})=&E\big[X(t_{1})X(t_{2})\big]=E\big[(At_{1}+B)(At_{2}+B)\big]\\=&t_{1}t_{2}E(A^{2})+(t_{1}+t_{2})E(AB)+E(B^{2}),t_{1},t_{2}\in T.\end{aligned} $$
当 $ A \sim N(0,1) $ 时， $ E(A) = 0, E(A^{2}) = 1 $; 当 $ B \sim U(0,2) $ 时 $ E(B) = 1, E(B^{2}) = 4/3 $; 又因 A、B 独立，故 $ E(AB) = E(A)E(B) = 0 $. 所以，此时
$$ \mu_{X}(t)=1,\quad R_{X}(t_{1},t_{2})=t_{1}t_{2}+4/3,\quad t_{1},t_{2}\in T. $$
例2 求随机相位正弦波（§1例2）的均值函数、方差函数和自相关函数.
解 由假设 $ \odot $的概率密度为
$$ f(\theta)=\{\begin{aligned}&\frac{1}{2\pi},&0<\theta<2\pi,\\ &0,& 其他 .\end{aligned}. $$
于是，由定义
$$ \begin{aligned}\mu_{X}(t)&=E[X(t)]=E[a\cos(\omega t+\Theta)]\\&=\int_{0}^{2\pi}a\cos(\omega t+\theta)\cdot\frac{1}{2\pi}\mathrm{d}\theta=0,\end{aligned} $$
而自相关函数
$$ \begin{aligned}R_{X}(t_{1},t_{2})&=E\big[X(t_{1})X(t_{2})\big]=E\big[a^{2}\cos(\omega t_{1}+\theta)\cos(\omega t_{2}+\theta)\big]\\&=a^{2}\int_{0}^{2\pi}\cos(\omega t_{1}+\theta)\cos(\omega t_{2}+\theta)\cdot\frac{1}{2\pi}\mathrm{d}\theta=\frac{a^{2}}{2}\cos\omega\pi,\end{aligned} $$
式中 $ \tau=t_{2}-t_{1} $. 特别，令 $ t_{1}=t_{2}=t $，即得方差函数为
$$ \sigma_{X}^{2}(t)=R_{X}(t,t)-\mu_{X}^{2}(t)=R_{X}(t,t)=\frac{a^{2}}{2}. $$
例3 设 $ X(t)=A\cos\omega t+B\sin\omega t,t\in T=(-\infty,+\infty) $，其中 A,B 是相互独立，且都服从正态分布 $ N(0,\sigma^{2}) $ 的随机变量， $ \omega $ 是实常数。试证明 $ X(t) $ 是正态过程，并求它的均值函数和自相关函数。
解 由题设 A、B 是相互独立的正态变量，所以 (A, B) 是二维正态变量。对任意一组实数 $ t_{1}, t_{2}, \cdots, t_{n} \in T $，
$$ X(t_{i})=A\cos\omega t_{i}+B\sin\omega t_{i},\quad i=1,2,\cdots,n $$
都是 A, B 的线性组合，于是根据第四章 §4 n 维正态变量的性质 $ 3^{\circ} $， $ (X(t_{1}), X(t_{2}), \cdots, X(t_{n})) $ 是 n 维正态变量，因为 n, t_{i} 是任意的，由定义， $ X(t) $ 是正态过程。另由题设 $ E(A) = E(B) = E(AB) = 0 $， $ E(A^{2}) = E(B^{2}) = \sigma^{2} $，由此可算得 $ X(t) $ 的均值函数和自协方差函数（自相关函数）分别为
$$ \begin{aligned}\mu_{X}(t)=&E\{A\cos\omega t+B\sin\omega t\}=0,\\C_{X}&(t_{1},t_{2})=R_{X}(t_{1},t_{2})\\&=E\big[(A\cos\omega t_{1}+B\sin\omega t_{1})(A\cos\omega t_{2}+B\sin\omega t_{2})\big]\\&=\sigma^{2}(\cos\omega t_{1}\cos\omega t_{2}+\sin\omega t_{1}\sin\omega t_{2})\\&=\sigma^{2}\cos\omega(t_{2}-t_{1}).\end{aligned} $$
（三） 二维随机过程的分布函数和数字特征
实际问题中，我们有时必须同时研究两个或两个以上随机过程及它们之间的统计联系。例如，某地在时段 $ (0,t] $内的最高温度 $ X(t) $和最低温度 $ Y(t) $都是随机过程，需要研究它们的统计联系。又如，输入到一个系统的信号和噪声可以都是随机过程，这时输出也是随机过程，我们需要研究输出与输入之间的统计联系等等。对于这类问题，我们除了对各个随机过程的统计特性加以研究外，还必须将几个随机过程作为整体研究其统计特性。
设 $ X(t) $, $ Y(t) $ 是依赖于同一参数 $ t \in T $ 的随机过程, 对于不同的 $ t \in T $, $ (X(t), Y(t)) $ 是不同的二维随机变量, 我们称 $ \{(X(t), Y(t)), t \in T\} $ 为二维随机过程.
给定二维随机过程$\{(X(t),Y(t)),t\in T\},t_1,t_2,\cdots,t_n;t_1',t_2',\cdots,t_m'$ 是 T 中任意两组实数，我们称 $n+m$ 维随机变量
$$ (X(t_{1}),X(t_{2}),\cdots,X(t_{n});Y(t_{1}^{\prime}),Y(t_{2}^{\prime}),\cdots,Y(t_{m}^{\prime})) $$
的分布函数
$$ \begin{aligned}F(x_{1},x_{2},\cdots,x_{n};t_{1},t_{2},\cdots,t_{n};y_{1},y_{2},\cdots,y_{m};t_{1}^{\prime},t_{2}^{\prime},\cdots,t_{m}^{\prime}),\\x_{i},y_{j}\in\mathbf{R},i=1,2,\cdots,n,j=1,2,\cdots,m\end{aligned} $$
为这个二维随机过程的 $ n+m $ 维分布函数或随机过程 $ X(t) $ 与 $ Y(t) $ 的 $ n+m $ 维联
合分布函数. 同样可定义二维随机过程的 $ n+m $ 维分布函数族和有限维分布函数族.
如果对任意的正整数 n, m, 任意的数组 $ t_{1}, t_{2}, \cdots, t_{n} \in T, t_{1}^{\prime}, t_{2}^{\prime}, \cdots, t_{m}^{\prime} \in T, n $ 维随机变量 $ (X(t_{1}), X(t_{2}), \cdots, X(t_{n})) $ 与 m 维随机变量 $ (Y(t_{1}^{\prime}), Y(t_{2}^{\prime}), \cdots, Y(t_{m}^{\prime})) $ 相互独立，则称随机过程 $ X(t) $ 和 $ Y(t) $ 是相互独立的.
关于数字特征，除了 $ X(t) $， $ Y(t) $各自的均值和自相关函数外，在应用课题中感兴趣的是 $ X(t) $和 $ Y(t) $的二阶混合原点矩，记作
$$ R_{XY}(t_{1},t_{2})=E\left[X(t_{1})Y(t_{2})\right],\quad t_{1},t_{2}\in T, $$
并称它为随机过程 $ X(t) $ 和 $ Y(t) $ 的互相关函数.
类似地，还有如下定义的 $ X(t) $ 和 $ Y(t) $ 的互协方差函数：
$$ \begin{aligned}C_{XY}(t_{1},t_{2})=&E\{[X(t_{1})-\mu_{X}(t_{1})][Y(t_{2})-\mu_{Y}(t_{2})]\}\\=&R_{XY}(t_{1},t_{2})-\mu_{X}(t_{1})\mu_{Y}(t_{2}),\quad t_{1},t_{2}\in T.\end{aligned} $$
如果二维随机过程 $ (X(t),Y(t)) $对任意的 $ t_{1},t_{2}\in T $恒有
$$ C_{XY}(t_{1},t_{2})=0, $$
则称随机过程 $ X(t) $ 和 $ Y(t) $ 是不相关的.
由第四章§3可以推知，两个随机过程如果是相互独立的，且它们的二阶矩存在，则它们必然不相关。反之，从不相关一般并不能推断出它们是相互独立的。
当同时考虑 $ n(n>2) $ 个随机过程或 n 维随机过程时，我们可类似地引入它们的多维分布，以及均值函数和两两之间的互相关函数（或互协方差函数）.
在许多应用问题中，经常要研究几个随机过程之和（例如，将信号和噪声同时输入到一个线性系统的情形）的统计特性。现考虑三个随机过程 $ X(t) $, $ Y(t) $ 和 $ Z(t) $ 之和的情形。令
$$ W(t)=X(t)+Y(t)+Z(t), $$
显然，均值函数
$$ \mu_{W}(t)=\mu_{X}(t)+\mu_{Y}(t)+\mu_{Z}(t). $$
而 $ W(t) $ 的自相关函数可以根据均值运算规则和相关函数的定义得到，
$$ \begin{aligned}R_{WW}(t_{1},t_{2})=&E\big[W(t_{1})W(t_{2})\big]\\=&R_{XX}(t_{1},t_{2})+R_{XY}(t_{1},t_{2})+R_{XZ}(t_{1},t_{2})\\&+R_{YX}(t_{1},t_{2})+R_{YY}(t_{1},t_{2})+R_{YZ}(t_{1},t_{2})\\&+R_{ZX}(t_{1},t_{2})+R_{ZY}(t_{1},t_{2})+R_{ZZ}(t_{1},t_{2}).\end{aligned} $$
此式表明：几个随机过程之和的自相关函数可以表示为各个随机过程的自相关函数以及各对随机过程的互相关函数之和。
如果上述三个随机过程是两两不相关的，且各自的均值函数都为零，则由(2.11)式可知诸互相关函数均等于零，此时 $ W(t) $的自相关函数简单地等于各个过程的自相关函数之和，即
$$ R_{w w}(t_{1},t_{2})=R_{x x}(t_{1},t_{2})+R_{y y}(t_{1},t_{2})+R_{z z}(t_{1},t_{2}). $$
特别地，令 $ t_{1}=t_{2}=t $ ，由(2.12)式可得 $ W(t) $ 的方差函数（此处即均方值函数）为
$$ \sigma_{W}^{2}(t)=\Psi_{W}^{2}(t)=\Psi_{X}^{2}(t)+\Psi_{Y}^{2}(t)+\Psi_{Z}^{2}(t). $$
§3 泊松过程及维纳过程
泊松过程及维纳(Wiener)过程是两个具体而又典型的随机过程，它们在随机过程的理论和应用中都有重要的地位，它们都属于所谓的独立增量过程，所以下面首先简要地介绍独立增量过程.
给定二阶矩过程 $ \{X(t),t\geqslant0\} $，我们称随机变量 $ X(t)-X(s),0\leqslant s $$ X(t_{1})-X(t_{0}),X(t_{2})-X(t_{1}),\cdots,X(t_{n})-X(t_{n-1}) $$ 相互独立，则称 $ \{X(t),t\geqslant0\} $为独立增量过程。直观地说，它具有“在互不重叠的区间上，状态的增量是相互独立的”这一特征。 对于独立增量过程，可以证明：在 $ X(0)=0 $ 的条件下，它的有限维分布函数族可以由增量 $ X(t)-X(s) $ ( $ 0\leqslant s 特别，若对任意的实数 h 和 $ 0 \leqslant s + h < t + h $, $ X(t + h) - X(s + h) $ 与 $ X(t) - X(s) $ 具有相同的分布，则称增量具有平稳性。这时，增量 $ X(t) - X(s) $ 的分布函数实际上只依赖于时间差 $ t - s $ ( $ 0 \leqslant s < t $)，而不依赖于 t 和 s 本身（事实上，令 h = -s 即知）。当增量具有平稳性时，称相应的独立增量过程是齐次的或时齐的。 接着，在 $ X(0)=0 $ 和方差函数 $ D_{X}(t) $ 为已知的条件下，我们来计算独立增量过程 $ \{X(t), t \geqslant 0\} $ 的协方差函数 $ C_{X}(s, t) $. 记 $ Y(t)=X(t)-\mu_{X}(t) $. 首先注意，当 $ X(t) $ 具有独立增量时， $ Y(t) $ 也具有独立增量；其次， $ Y(0)=0,E[Y(t)]=0 $，且方差函数 $ D_{Y}(t)=E[Y^{2}(t)]=D_{X}(t) $。利用这些性质，当 $ 0\leqslant s $$ \begin{aligned}\mathrm{C}_{X}(s,t)&=E[Y(s)Y(t)]\\&=E\{[Y(s)-Y(0)][(Y(t)-Y(s))+Y(s)]\}\\&=E[Y(s)-Y(0)]E[Y(t)-Y(s)]+E[Y^{2}(s)]\\&=D_{X}(s).\end{aligned} $$ 于是可知，对任意 $ s, t \geqslant 0 $，协方差函数可用方差函数表示为 $$ C_{X}(s,t)=D_{X}(\min\{s,t\}). $$ 考虑下列随时间推移迟早会重复出现的事件： （i）自电子管阴极发射的电子到达阳极； （ii）意外事故或意外差错的发生； （iii）要求服务的顾客到达服务站。此处“顾客”与“服务站”的含义是相当广泛的。例如，“顾客”可以是电话的呼叫，“服务站”是120急救台；“顾客”可以是来领配件的汽车维修工，“服务站”是维修站配件仓库的管理员；“顾客”也可以是联网的个人电脑，“服务站”是某网站的主页等等。 为建立一般模型方便起见，我们把电子、顾客等看作时间轴上的质点，电子到达阳极、顾客到达服务站等事件的发生相当于质点出现。于是抽象地说，我们研究的对象将是随时间推移，陆续地出现在时间轴上的许多质点所构成的随机的质点流。 以 $ N(t), t \geqslant 0 $ 表示在时间间隔 $ (0, t] $ 内出现的质点数（如§1例4中的呼叫数）。 $ \{N(t), t \geqslant 0\} $ 是一状态取非负整数、时间连续的随机过程，称为计数过程。它的一个典型的样本函数如图12-5所示，图中 $ t_{1}, t_{2}, \cdots $ 是质点依次出现的时刻。 将增量 $ N(t)-N(t_{0})\xlongequal{\text{记成}}N(t_{0},t),0\leqslant t_{0} $$ P_{k}(t_{0},t)=P\{N(t_{0},t)=k\},k=0,1,2,\cdots. $$ 现假设 $ N(t) $ 满足如下条件： $ 1^{\circ} $ 在不相重叠的区间上的增量具有独立性； $ 2^{\circ} $ 对于充分小的 $ \Delta t $ $$ P_{1}(t,t+\Delta t)=P\{N(t,t+\Delta t)=1\}=\lambda\Delta t+o(\Delta t) $$ 其中常数 $ \lambda>0 $ 称为过程 $ N(t) $ 的强度，而 $ o(\Delta t) $ 当 $ \Delta t\to0 $ 时是关于 $ \Delta t $ 的高阶无穷小； $ 3^{\circ} $ 对于充分小的 $ \Delta t $, $$ \sum_{j=2}^{+\infty}P_{j}(t,t+\Delta t)=\sum_{j=2}^{+\infty}P\{N(t,t+\Delta t)=j\}=o(\Delta t), $$ 亦即对于充分小的 $ \Delta t $，在 $ (t,t+\Delta t] $ 内出现2个或2个以上质点的概率与出现一 个质点的概率相比可以忽略不计； $$ 4^{\circ}N(0)=0. $$ 我们把满足条件 $ 1^{\circ}-4^{\circ} $ 的计数过程 $ \{N(t),t\geqslant0\} $ 称作强度为 $ \lambda $ 的泊松过程，相应的质点流或即质点出现的随机时刻 $ t_{1},t_{2},\cdots $ 称作强度为 $ \lambda $ 的泊松流。以下首先来求出增量的分布律(3.2). 对于泊松过程，我们注意到 $ \sum_{k=0}^{+\infty}P_{k}(t_{0},t)=1 $，结合条件 $ 2^{\circ} $ 和 $ 3^{\circ} $，有 $$ \begin{align*}P_{0}(t,t+\Delta t)&=1-P_{1}(t,t+\Delta t)-\sum_{k=2}^{+\infty}P_{k}(t,t+\Delta t)\\&=1-\lambda\Delta t+o(\Delta t).\end{align*} $$ 下面就泊松过程来计算概率(3.2). 首先确定 $ P_{0}(t_{0},t) $. 为此，对 $ \Delta t>0 $，考虑 $$ \begin{aligned}P_{0}\left(t_{0},t+\Delta t\right)&=P\{N(t_{0},t+\Delta t)=0\}\\&=P\{N(t_{0},t)+N(t,t+\Delta t)=0\}\\&=P\{N(t_{0},t)=0,N(t,t+\Delta t)=0\},\\ \end{aligned} $$ 由条件 $ 1^{\circ} $和(3.5)式，上式可写成 $$ \begin{aligned}P_{0}\left(t_{0},t+\Delta t\right)&=P\{N(t_{0},t)=0\}P\{N(t,t+\Delta t)=0\}\\&=P_{0}\left(t_{0},t\right)\left[1-\lambda\Delta t+o(\Delta t)\right]\end{aligned} $$ 或 $ P_{0}(t_{0},t+\Delta t)-P_{0}(t_{0},t)=-\lambda P_{0}(t_{0},t)\Delta t+o(\Delta t) $ 现以 $ \Delta t $ 除上式两边，并令 $ \Delta t \to 0 $，即得 $ P_{0}(t_{0}, t) $ 满足的微分方程 $$ \frac{\mathrm{d}P_{0}(t_{0},t)}{\mathrm{d}t}=-\lambda P_{0}(t_{0},t). $$ 因为 $ N(t_{0},t_{0})=0 $ ，故 $ P_{0}(t_{0},t_{0})=1 $ 。把它看作初始条件即可从方程(3.6)解得 $$ P_{0}\left(t_{0},t\right)=\mathrm{e}^{-\lambda\left(t-t_{0}\right)},\quad t>t_{0}. $$ 再来计算 $ P_{k}(t_{0},t),k\geqslant1 $ 。根据和事件概率公式和条件 $ 1^{\circ} $，有 $$ \begin{aligned}P\{N(t_{0},t+\Delta t)=k\}&=P\{N(t_{0},t)+N(t,t+\Delta t)=k\}\\&=\sum_{j=0}^{k}P\{N(t,t+\Delta t)=j\}P\{N(t_{0},t)=k-j\}.\end{aligned} $$ 由(3.2)—(3.5)式，并注意到 $$ \sum_{j=2}^{k}P_{j}(t,t+\Delta t)P_{k-j}(t_{0},t)\leqslant\sum_{j=2}^{+\infty}P_{j}(t,t+\Delta t)=o(\Delta t)(k\geqslant2) $$ 上式可表示成 $$ \begin{array}{r l}&{P_{k}(t_{0},t+\Delta t)=\displaystyle\sum_{j=0}^{k}P_{j}(t,t+\Delta t)P_{k-j}(t_{0},t)}\\ &{=\big[1-\lambda\Delta t+o(\Delta t)\big]P_{k}(t_{0},t)+\big[\lambda\Delta t+o(\Delta t)\big]P_{k-1}(t_{0},t)+o(\Delta t)\quad(k\geqslant1).}\end{array} $$ 将此式适当整理后，两边除以 $ \Delta t $，并令 $ \Delta t \to 0 $，就可得到 $ P_{k}(t_{0}, t) $ 满足的微分一差分方程 $$ \frac{\mathrm{d}P_{k}(t_{0},t)}{\mathrm{d}t}=-\lambda P_{k}(t_{0},t)+\lambda P_{k-1}(t_{0},t),\quad t>t_{0}. $$ 又因 $ N(t_{0},t_{0})=0 $ ，故有初始条件 $$ P_{k}(t_{0},t_{0})=0,\quad k\geqslant1. $$ 于是，在(3.8)、(3.9)式中令 k=1，并利用已求出的 $ P_{0}(t_{0},t) $，即可解出 $$ P_{1}(t_{0},t)=\lambda(t-t_{0})\mathrm{e}^{-\lambda(t-t_{0})},\quad t>t_{0}. $$ 如此重复，即在(3.8)、(3.9)式中逐次令 k=2,3,\cdots 就可求得在“ $ (t_{0},t] $ 内出现 k 个质点”的概率，即得增量的分布律(3.2)为 $$ \begin{aligned}P_{k}(t_{0},t)&=P\{N(t_{0},t)=k\}\\&=\frac{\left[\lambda(t-t_{0})\right]^{k}}{k!}\mathrm{e}^{-\lambda(t-t_{0})},\quad t>t_{0},k=0,1,2,\cdots;\end{aligned} $$ 由上式易见增量 $ N(t_{0},t)=N(t)-N(t_{0}) $ 的概率分布是参数为 $ \lambda(t-t_{0}) $ 的泊松分布，且只与时间差 $ t-t_{0} $ 有关，所以强度为 $ \lambda $ 的泊松过程是一齐次的独立增量过程. 在有些书中，泊松过程也用另一种形式定义，即若计数过程 $ \{N(t), t \geqslant 0\} $满足下列三个条件： （i）它是独立增量过程； （ii）对任意的 $ t > t_{0} \geqslant 0 $ ，增量 $ N(t) - N(t_{0}) \sim \pi(\lambda(t - t_{0})) $ ； (iii) $ N(0)=0 $ 那么称 $ \{N(t),t\geqslant0\} $是一强度为 $ \lambda $的泊松过程. 从前面的演算结果，不难看到从条件 $ 1^{\circ}-4^{\circ} $可以推出(i)—(iii). 反之，在(ii)中令 $ t-t_{0}=\Delta t $，并利用 $ e^{-\lambda\Delta t} $的泰勒级数展开式，就能得到条件 $ 2^{\circ} $和 $ 3^{\circ} $（详细推演由读者自己完成）. 由此，定义泊松过程的两组条件是等价的. 由(3.10)式, $ N(t)-N(t_{0})\sim\pi(\lambda(t-t_{0})) $， $ t>t_{0}\geqslant0 $，再由第四章§1，§2知 $$ E[N(t)-N(t_{0})]=\operatorname{Var}[N(t)-N(t_{0})]=\lambda(t-t_{0}). $$ 特别地，令 $ t_{0}=0 $ ，由于假设 $ N(0)=0 $ ，故可推知泊松过程的均值函数和方差函数分别为 $$ E[N(t)]=\lambda t,\quad D_{N}(t)=\mathrm{Var}[N(t)]=\lambda t. $$ 从(3.11)式可以看到， $ \lambda=E[N(t)/t] $，即泊松过程的强度 $ \lambda $（常数）等于单位长时间间隔内出现的质点数目的期望值. 关于泊松过程的协方差函数，则可由(3.1)、(3.11)式直接推得 $$ C_{N}(s,t)=\lambda\min\{s,t\},\quad s,t\geqslant0. $$ 而相关函数 $$ R_{N}(s,t)=E[N(s)N(t)]=\lambda^{2}st+\lambda\min\{s,t\},s,t\geqslant0. $$ 若条件(3.3)式中的强度为非均匀的，即 $ \lambda $是时间t的函数 $ \lambda=\lambda(t),t\geqslant0 $。则称泊松过程为非齐次的。对于非齐次泊松过程，用类似的方法，可得 $$ P\{N(t)-N(t_{0})=k\}=\frac{\left[\int_{t_{0}}^{t}\lambda(\tau)\mathrm{d}\tau\right]^{k}\mathrm{e}^{-\int_{t_{0}}^{t}\lambda(\tau)\mathrm{d}\tau}}{k!}, $$ $$ t>t_{0}\geqslant0,k=0,1,2,\cdots. $$ $$ E[N(t)]=\int_{0}^{t}\lambda(\tau)\mathrm{d}\tau. $$ $$ R_{N}(s,t)=\int_{0}^{\min\{s,t\}}\lambda(\tau)\mathrm{d}\tau\bigg[1+\int_{0}^{\max\{s,t\}}\lambda(\tau)\mathrm{d}\tau\bigg]. $$ 下面介绍与泊松过程有关的两个随机变量，即等待时间和点间间距，以及它们的概率分布. 在较多的实际问题中，通常对质点的观察，不是对时间间隔 $ (t_{1}, t_{2}] $中出现的质点计数，而是对记录到某一预定数量的质点所需要的时间进行计时.例如，为研究含某种放射性元素的物质，常对它发射出来的粒子做计时试验. 一般，设质点（或事件）依次重复出现的时刻 $$ t_{1},t_{2},\cdots,t_{n},\cdots $$ 是一强度为 $ \lambda $ 的泊松流， $ \{N(t), t \geqslant 0\} $ 为相应的泊松过程。以惯用记号记 $$ W_{0}=0,W_{n}=t_{n},n=1,2,\cdots $$ $ W_{n} $ 是一随机变量，表示第 n 个质点（或事件第 n 次）出现的等待时间（见图 12-6）。为求出 $ W_{n} $ 的分布函数 $ F_{W_{n}}(t)=P\{W_{n} \leqslant t\} $。首先注意，事件 $ \{W_{n} > t\} = \{N(t) < n\} $，所以 $$ \begin{aligned}F_{W_{n}}(t)&=P\{W_{n}\leqslant t\}=1-P\{W_{n}>t\}=1-P\{N(t) $$ F_{w_{n}}(t)=0,\quad t<0. $$ 将它关于 t 求导，得 $ W_{n} $ 的概率密度为 $$ f_{w_{n}}(t)=\frac{\mathrm{d}F_{w_{n}}(t)}{\mathrm{d}t}=\{\begin{aligned}&\frac{\lambda(\lambda t)^{n-1}}{(n-1)!}\mathrm{e}^{-\lambda},&t>0,\\ &0,& 其他 .\end{aligned}. $$ 这就是说，泊松流（泊松过程）的等待时间 $ W_{n} $ 服从 $ \Gamma $ 分布。特别，质点（或事件）首次出现的等待时间 $ W_{1} $ 服从指数分布： $$ \begin{aligned}f_{W_{1}}(t)&=\{\begin{aligned}&\lambda\mathrm{e}^{-\varkappa},&t>0,\\&0,& 其他 .\end{aligned}.\\T_{i}=&W_{i}-W_{i-1},\quad i=1,2,\cdots.\end{aligned} $$ 又记 它也是一个连续型随机变量，称为相继出现的第i-1个质点和第i个质点的点间间距（见图10-6）。下面来求 $ T_{i} $的分布。由于 $ T_{1}=W_{1} $，所以 $ T_{1} $服从指数分布（3.13）。对于 $ i\geqslant2 $，我们先求在第i-1个质点出现在时刻 $ t_{i-1} $（即 $ t_{i-1}=t_{i-1} $）的条件下， $ T_{i} $的条件分布函数： $$ \begin{aligned}F_{T_{i}|t_{i-1}}(t|t_{i-1})&=P\{T_{i}\leqslant t|t_{i-1}=t_{i-1}\}\\&=P\{N(t_{i-1}+t)-N(t_{i-1})\geqslant1|N(t_{i-1})=i-1\}\\&\quad( 由 N(t) 的定义 )\\&=P\{N(t_{i-1}+t)-N(t_{i-1})\geqslant1\}( 由增量的独立性 )\\&=1-P\{N(t_{i-1}+t)-N(t_{i-1})=0\}\\&=1-P\{N(t)=0\}=1-\mathrm{e}^{-\alpha},t>0( 由增量的平稳性 ),\end{aligned} $$ $$ F_{T_{i}\mid t_{i-1}}\left(t\mid t_{i-1}\right)=0,t\leqslant0. $$ 从而知相应的条件概率密度为 $$ f_{T_{i-1}\mid t_{i-1}}(t\mid t_{i-1})=\{\begin{array}{l l}{{\lambda\mathrm{e}^{-\lambda t},}}&{t>0,}\\ {0,}&{t\leqslant0.}\end{array}. $$ 于是随机变量 $ T_{i}, t_{i-1} $ 的联合概率密度 $$ f(t,t_{i-1})=\{\begin{aligned}&\lambda\mathrm{e}^{-\lambda t}f_{t_{i-1}}(t_{i-1}),&\quad t>0,t_{i-1}>0,\\ &0,&& 其他 .\end{aligned}. $$ 此处 $ f_{t_{i-1}}(t_{i-1}) $ 为 $ t_{i-1} $ 的概率密度. 将此表达式关于 $ t_{i-1} $ 积分, 即得 $ T_{i} $ (i=2,3,\cdots) 的概率密度为 $$ \begin{align*}f_{T_{i}}(t)&=\int_{0}^{+\infty}\lambda\mathrm{e}^{-\lambda t}f_{t_{i-1}}(t_{i-1})\mathrm{d}t_{i-1}=\lambda\mathrm{e}^{-\lambda t}\int_{0}^{+\infty}f_{t_{i-1}}(t_{i-1})\mathrm{d}t_{i-1}\\&=\lambda\mathrm{e}^{-\lambda t},\quad t>0,\\f_{T_{i}}(t)&=0,\quad t\leqslant0.\end{align*} $$ 即 $$ f_{T_{i}}(t)=\{\begin{matrix}\lambda\mathrm{e}^{-\lambda t},&t>0,\\ 0,&t\leqslant0,\end{matrix}.\quad i=2,3,\cdots. $$ 由(3.13)式及(3.14)式知，点间间距序列 $ \{T_{i}\} $服从同一个指数分布.且还可证明： $ T_{1},T_{2},\cdots,T_{i},\cdots $是相互独立的随机变量.我们把这些结论写成如下的定理. 定理一 强度为 $ \lambda $ 的泊松流（泊松过程）的点间间距是相互独立的随机变量，且服从同一个指数分布（3.14）. 它的逆命题也是成立的，我们不加证明地叙述如下： 定理二 如果任意相继出现的两个质点的点间间距是相互独立，且服从同一个指数分布(3.14)，则质点流构成了强度为 $ \lambda $的泊松过程. 这两个定理刻画出了泊松过程的特征. 定理二告诉我们, 为要确定一个计数过程是不是泊松过程, 只要用统计方法检验点间间距是否独立, 且服从同一个指数分布. 泊松过程或泊松流是研究排队理论的工具，在技术领域内它又是构造（模拟）一类重要噪声（散粒噪声）的基础。 维纳过程是布朗运动的数学模型. 英国植物学家布朗(Brown)在显微镜下，观察漂浮在平静的液面上的微小粒子，发现它们不断地进行着杂乱无章的运动，这种现象后来称为布朗运动. 以 $ W(t) $ 表示运动中一微粒从时刻 t=0 到时刻 t>0 的位移的横坐标（同样也可以讨论纵坐标），且设 $ W(0)=0 $. 根据爱因斯坦(Enisten)1905年提出的理论，微粒的这种运动是由于受到大量随机的、相互独立的分子碰撞的结果. 于是，粒子在时段 $ (s,t] $ （与相继两次碰撞的时间间隔相比是很大的量）上的位移可看作是许多微小位移的代数和. 显然，依中心极限定理，假定位移 $ W(t)-W(s) $ 为正态分布是合理的. 其次，由于粒子的运动完全是由液体分子的不规则碰撞而引起的. 这样，在不相重叠的时间间隔内，碰撞的次数、大小和方向可假定是相互独立的，这就是说位移 $ W(t) $ 具有独立的增量. 另外，液面处于平衡状态，这时粒子在一时段上位移的概率分布可以认为只依赖于这时段的长度，而与观察的起始时刻无关，即 $ W(t) $ 具有平稳增量. 综合所述，可引入如下的数学模型： 给定二阶矩过程 $ \{W(t), t \geqslant 0\} $，如果它满足 $ 1^{\circ} $ 具有独立增量； $ 2^{\circ} $ 对任意的 $ t > s \geqslant 0 $ ，增量 $$ W(t)-W(s)\sim N(0,\sigma^{2}(t-s)),\text{ 且 }\sigma>0 $$ $$ 3^{\circ}W(0)=0, $$ 则称此过程为维纳过程. 图12-7展示了它的一条样本曲线. 由 $ 2^{\circ} $ 可知，维纳过程增量的分布只与时间差有关，所以它是齐次的独立增量过程。它也是正态过程。事实上，对任意 $ n (n \geqslant 1) $ 个时刻 $ 0 < t_{1} < t_{2} < \cdots < t_{n} $ （记 $ t_{0} = 0 $），把 $ W(t_{k}) $ 写成 $$ W(t_{k})=\sum_{i=1}^{k}\left[W(t_{i})-W(t_{i-1})\right],\quad k=1,2,\cdots,n, $$ 根据 $ 1^{\circ}-3^{\circ} $，它们都是独立的正态随机变量的和，由第四章§4中的n维正态变量的性质 $ 3^{\circ} $ 推知 $ (W(t_{1}), W(t_{2}), \cdots, W(t_{n})) $ 是 n 维正态变量，即 $ \{W(t), t \geqslant 0\} $ 是正态过程。因此，其分布完全由它的均值函数和自协方差函数（或自相关函数）所确定。 根据条件 $ 2^{\circ},3^{\circ} $ 可知， $ W(t)\sim N(0,\sigma^{2}t) $，由此可得维纳过程的均值与方差函 数分别为 $$ E[W(t)]=0,\quad D_{W}(t)=\sigma^{2}t, $$ 其中 $ \sigma^{2} $ 称为维纳过程的参数，它可通过实验观察值加以估计。再根据(3.1)式就可求得自协方差函数（自相关函数）为 $$ C_{w}(s,t)=R_{w}(s,t)=\sigma^{2}\min\{s,t\},\quad s,t\geqslant0. $$ 维纳过程不只是布朗运动的数学模型，前面讲到的电子元件或器件在恒温下的热噪声也可归结为维纳过程。 泊松过程和维纳过程的重要性，不仅是因为实际中不少随时间演变的随机现象可以归结为这两个模型，而且在理论与应用中常利用它们构造出一些新的重要的随机过程模型. 随机过程的研究对象是随时间演变的随机现象。简单地说，随机过程就是依赖于参数 t 的一族（无限多个）随机变量，记为 $ \{X(t), t \in T\} $，T 为参数集。把 t 看作时间，固定 t，称随机变量 $ X(t) $ 为随机过程在 t 时的状态。对于一切 $ t \in T $，状态的所有可能取值的全体称为随机过程的状态空间。 对随机过程进行一次试验（即在 T 上进行一次全程观测），其结果称为样本函数或样本曲线。所有不同的试验结果为一族（可以是有限个，如例1）样本函数。 随机过程统计描述方法的基点是：对每一个固定的 $ t \in T, X(t) $ 是一个随机变量。我们知道 n 维随机变量可以用它们的联合分布来完整地刻画其统计特性。作为 n 维随机变量延伸的随机过程则必须用有限维分布函数族才能完整地刻画其统计特性。 计算机过程$\{X(t), t \in T\}$的各种数字特征的方法与概率论中的方法完全一样，只要把出现的参数$t, t_1, t_2$等视为常数即可。随机过程最重要的数字特征是均值函数$\mu_X(t) = E[X(t)], t \in T$和自相关函数$R_X(t_1, t_2) = E[X(t_1)X(t_2)], t_1, t_2 \in T$。其他的数字特征，如均方值函数、方差函数、标准差函数和自协方差函数都可用均值函数和自相关函数表出。计算数字特征在随机过程的理论和应用中仍占重要地位。希望读者重温并熟练掌握第四章§1中有关均值（数学期望）运算的种种性质。 给定一个二维随机过程 $ \{(X(t),Y(t)),t\in T\} $. 随机过程 $ X(t) $与 $ Y(t) $相互独立的含义是：对任意正整数 $ n,m $和任意参数 $ t_1,t_2,\cdots,t_n\in T $和 $ t_1',t_2',\cdots,t_m' \in T,n $维随机变量 $ (X(t_1),X(t_2),\cdots,X(t_n)) $和 $ m $维随机变量 $ (Y(t_1'),Y(t_2'),\cdots,Y(t_m)) $相互独立. 随机过程 $ X(t) $与 $ Y(t) $不相关的含义是它们的互协方差函数： $$ C_{XY}(t_{1},t_{2})=E\{[X(t_{1})-\mu_{X}(t_{1})][Y(t_{2})-\mu_{Y}(t_{2})]\}\equiv0, $$ $$ t_{1},t_{2}\in T. $$ 最后我们介绍了两个都具有独立增量过程属性的具体模型：泊松过程 $ \{N(t), t \geqslant 0\} $和维纳过程 $ \{W(t), t \geqslant 0\} $。从定义中可看到，它们的差异仅在于：当 $ 0 \leqslant s < t $时，前者的增量 $$ N(t)-N(s)\sim\pi(\lambda(t-s)); $$ 而后者的增量 $$ W(t)-W(s)\sim N(0,\sigma^{2}(t-s)). $$ 它们的增量的分布都只与时间差 t-s 有关（即增量具有平稳性），所以实际上它们都属于齐次独立增量过程. 读者还需研究，在 $ X(0)=0 $ 的条件下，怎样利用增量的独立性，从独立增量过程 $ \{X(t), t \geqslant 0\} $ 的已知方差函数 $ D_{X}(t) $，推演出它的自协方差函数 $$ C_{X}(s,t)=D_{X}(\min\{s,t\}),\quad s,t\geqslant0, $$ 并由此获得泊松过程和维纳过程的自协方差函数（自相关函数）. 随机过程 状态和状态空间 样本函数(样本曲线) 有限维分布函数族 均值函数 方差函数 自相关函数 自协方差函数 正态过程 互协方差函数 两个随机过程的独立性和不相关 齐次(时齐)的独立增量过程 泊松过程 维纳过程 $$ X(t)=\{\begin{aligned}&\cos\pi t,& 出现 H,\\&2t,& 出现 T,\end{aligned}.-\infty 假设 $ P(H)=P(T)=\frac{1}{2} $ 试确定 $ X(t) $ 的 （1）一维分布函数 $ F\left(x; \frac{1}{2}\right), F(x; 1) $. （2）二维分布函数 $ F(x_{1}, x_{2}; \frac{1}{2}, 1) $. $$ Y(t)=\{\begin{aligned}&1,&X(t)\leqslant&x,\\ &0,&X(t)>&x,\end{aligned}.t\in T. $$ 试将 $ Y(t) $ 的均值函数和自相关函数用随机过程 $ X(t) $ 的一维和二维分布函数来表示. $$ \left[\begin{matrix}{\sigma_{1}^{2}}&{\rho\sigma_{1}\sigma_{2}}\\ {}&{}\\ {\rho\sigma_{1}\sigma_{2}}&{\sigma_{2}^{2}}\\ \end{matrix}\right] $$ 试求 $ Z(t) $ 的协方差函数. 随机变量，试证明 $ X(t) $ 是一正态过程，并求出它的相关函数（协方差函数）. $$ Z(t)=a(t)X(t)+b(t)Y(t)+c(t),t\in T $$ 的均值函数和自协方差函数，其中 $ a(t) $， $ b(t) $， $ c(t) $ 是普通的函数。 $$ S(t)=X(t)+Y(t) $$ 是具有强度 $ \lambda + \mu $ 的泊松过程. (1) $ W(t)+At $ (A为常数). (2) $ W(t)+Xt,X $ 为与 $ \{W(t),t\geqslant0\} $ 相互独立的标准正态变量. （3） $ aW(t/a^{2}) $，a为正常数.（一） 泊松过程
（二） 维纳过程
小结
重要术语及主题
习题