2.4 随机变量与随机过程

由于信源发出的信息是不可预知的，所以携带信息的信号也是随机信号。事实上，信道中的噪声也是一种随机信号。虽然随机信号和噪声都具有不可预测的特点，但两者的不可预测却具有完全不同的意义。随机信号的不可预测是由于它所携带的信息具有未知性，其不可预测性越大则信号携带的信息量越大；而噪声的不可预测性是有害的，它对有用信号的传输和接收形成不可避免的干扰，是我们极力要避免的。

信号和噪声的随机性使得我们无法用一个或几个时间函数来准确地描述它们，但它们都遵循一定的统计规律。因此，可以用概率统计的方法——随机过程来分析研究。本章将以概率论为基础，首先介绍随机变量和随机过程的基本理论和知识，然后利用随机过程的理论来研究数字通信的基本问题。

2.4.1 随机变量与随机过程

2.4.1.1 随机变量

在一定条件下，并不总是出现相同结果的现象称为随机现象。随机变量是表示随机现象各种结果的变量（一切可能的样本点）。例如，某一时间内公共汽车站等车乘客人数，电话交换台在一定时间内收到的呼叫次数，等等，都是随机变量的实例。

一个随机试验的可能结果（称为基本事件）的全体组成一个基本空间Ω。随机变量X是定义在基本空间Ω上的取值为实数的函数，即基本空间Ω中每一个点，也就是每个基本事件都有实轴上的点与之对应。

例如，随机投掷一枚硬币，可能的结果有正面朝上，反面朝上两种，若定义X为投掷一枚硬币时正面朝上的次数，则X为一随机变量，当正面朝上时，X取值1；当反面朝上时，X取值0。又如，掷一颗骰子，它的所有可能结果是出现1点、2点、3点、4点、5点和6点，若定义X为掷一颗骰子时出现的点数，则X为一随机变量，出现1，2，3，4，5，6点时X分别取值1，2，3，4，5，6。

随机变量可以是离散型的，也可以是连续型的。如分析测试中的测定值就是一个以概率取值的随机变量，被测定量的取值可能在某一范围内随机变化，具体取什么值在测定之前是无法确定的，但测定的结果是确定的，多次重复测定所得到的测定值具有统计规律性。随机变量与模糊变量的不确定性的本质差别在于，后者的测定结果仍具有不确定性，即模糊性。

2.4.1.2 随机过程

自然界中事物的变化过程大致可分为两类。一类是具有确定的形式、可以用一个确定函数来描述的，这类变化过程就是确定性过程。如电源通过一个电阻对电容器充电时，其两端的电位差随时间的变化过程就是确定的。另一类过程则没有确定的变化形式，它的每次过程没有固定规律，不能用一个或几个时间t的确定函数来描述，这类过程就是随机过程，如下面给出的例子。

设有n台性能完全相同的接收机，现在，在相同的工作环境和测试条件下记录各台接收机的输出噪声波形。结果表明：尽管设备和测试条件都完全相同，记录的n条曲线中却找不到两个完全相同的波形。也就是说，接收机的输出噪声电压随时间的变化是不可预知的，因而它是一个随机过程。

由此，我们给随机过程一个更为严格的定义：设Sk（k=1，2，…）是随机试验，若每次试验都有一条相应的时间波形xi（t）（称为样本函数或实现），则所有可能出现的结果的总体｛x1（t），x2（t），…，xn（t），…｝就构成一个随机过程，记作ξ（t）。简言之，无数个样本函数的总体就构成一个随机过程，如图2-20所示。

上例中，我们把对接收机输出噪声波形的观测看作是随机试验，每次试验之后，ξ（t）都取图2-20所示样本空间中的某一个样本函数。显然，每次试验结果究竟会是样本空间中哪一个样本，在进行观测前是无法预知的，这正是随机过程随机性的具体表现。

由此可以得知，随机过程的基本特征主要体现在两方面：其一，它是一个时间函数；其二，在固定的某一观察时刻t1，全体样本在t1时刻的取值ξ（t1）是一个不含t变化的随机变量。因此，可以把随机过程看成是依赖时间参数的一组随机变量，即随机过程具有随机变量和时间函数的特点，这是随机过程研究的基本出发点。

2.4.2 随机过程的统计平均与功率谱密度

2.4.2.1 随机过程的统计特性与数字特征

1.随机过程的统计特性

（1）随机过程ξ（t）的一维分布函数

利用上述随机过程的两重性，我们可以用与随机变量相似的方法来描述它的统计特性。设ξ（t）表示一个随机过程，在任意给定时刻t1∈T，取值ξ（t1）是一个一维随机变量。由于随机变量的统计特性可以用分布函数或概率密度函数来描述，把随机变量ξ（t1）小于或等于某一数值x1的概率P｛ξ（t1）≤x1｝称为随机过程ξ（t）的一维分布函数，简记为F1（x1，t1），即

F1（x1，t1）=P｛ξ（t1）≤x1｝ （2-62）

如果F1（x1，t1）对x1的偏导数存在，即有

则称f1（x1，t1）为ξ（t）的一维概率密度函数。显然，随机过程的一维分布函数或一维概率密度函数仅仅描述了随机过程在各个孤立时刻的统计特性，并没有说明随机过程在不同时刻各个取值之间的内在联系。为此，还需要进一步引入二维分布函数。

（2）随机过程ξ（t）的二维分布函数

任意设定两个时刻t1，t1∈T，则随机变量ξ（t1）和ξ（t2）构成一个二元随机变量｛ξ（t1），ξ（t2）｝。称式（2-64）为随机过程ξ（t）的二维分布函数。

F2（x1，x2；t1，t2）=P｛ξ（t1）≤x1，ξ（t2）≤x2｝ （2-64）

如果存在：

则称f2（x1，x2；t1，t2）为ξ（t）的二维概率密度函数。与此类似，对于任意给定的时刻t1，t2，…，tn∈T，可定义ξ（t）的n维分布函数Fn（x1，x2，…，xn；t1，t2，…，tn）和n维概率密度函数fn（x1，x2，…，xn；t1，t2，…，tn）分别为：

Fn（x1，x2，…，xn；t1，t2，…，tn）=P｛ξ（t1）≤x1，ξ（t2）≤x2，…，ξ（tn）≤xn｝ （2-66）

显然，n越大，对随机过程统计特性的描述就越充分，但问题的复杂性也随之增加。在一般实际的数字通信系统中，掌握二维分布函数和概率密度函数就足够了。

2.随机过程的数字特征

分布函数或概率密度函数虽然能够较全面地描述随机过程的统计特性，但实际应用中，有时求解分布函数和概率密度函数较为困难，而且有时也没这个必要。因此，对数字通信过程的分析描述更多地采用随机过程的数字特征来进行，具有更简单而直观的效果。

（1）数学期望

设随机过程ξ（t）在任意给定时刻t1的取值ξ（t1）是一个随机变量，其概率密度函数为f1（x1，t1），则ξ（t1）的数学期望为

由于t1是任取的，所以一般都把t1直接写为t，x1改为x，上式就变为随机过程在任意时刻的数学期望，记作a（t）。于是，a（t）是时间t的函数，它表示随机过程的n个样本函数曲线的摆动中心。

（2）方差

方差实际上就是均方值与数学期望的平方之差，它表示了随机过程在时刻t对于均值a（t）的偏离程度。均值和方差都只与随机过程的一维概率密度函数有关，因而它们只是描述了随机过程在各个孤立时刻的特征。

为了描述随机过程在两个不同时刻的状态之间的联系，还需利用二维概率密度引入新的数字特征。

（3）相关函数

衡量随机过程在任意两个时刻获得的随机变量之间的关联程度时，常用协方差函数B（t1，t2）和相关函数R（t1，t2）。协方差函数定义为

B（t1，t2）=E｛[ξ（t1）-a（t1）][ξ（t2）-a（t2）]｝ （2-70）

式中，t1与t2是任取的两个时刻；a（t1）与a（t2）为在t1及t2时刻得到的数学期望；f2（x1，x2；t1，t2）为二维概率密度函数。相关函数定义：

协方差函数和相关函数之间的关系为

B（t1，t2）=R（t1，t2）-a（t1）a（t2） （2-73）

若a（t1）=0或a（t2）=0，则B（t1，t2）=R（t1，t2）。若t2＞t1，并令t2=t1+τ，则R（t1，t2）可表示为R（t1，t1+τ）。这说明，相关函数依赖于起始时刻t1及t2与t1之间的时间间隔τ，即相关函数是t1和τ的函数。

B（t1，t2）和R（t1，t2）都是衡量同一过程的相关程度的，它们又常分别称为自协方差函数和自相关函数。对于两个或更多个随机过程，可引入互协方差及互相关函数。因为使用不多，这里不再具体介绍。

2.4.2.2 平稳随机过程的功率谱密度

平稳随机过程是随机过程的一个特例，它在通信系统中占重要地位，因为在通信过程遇到的信号或噪声大多可视为平稳随机过程，故其研究很有实际意义。

所谓平稳随机过程，是指它的任何n维分布函数或概率密度函数与时间起点无关。也就是说，如果对于任意的正整数n和任意实数t1，t2，…，tn，τ，随机过程ξ（t）的n维概率密度函数满足式（2-74），则称ξ（t）是平稳随机过程。

fn（x1，x2，…，xn；t1，t2，…，tn）=fn（x1，x2，…，xn；t1+τ，t2+τ，…，tn+τ） （2-74）

由此可见，平稳随机过程的统计特性不随时间的推移而变化，它的一维分布与t无关，二维分布只与时间间隔τ有关。

对于平稳随机过程，其数学期望是与t无关的常数a，而它的自相关函数只与时间间隔τ有关，即

R（t1，t1+τ）=R（τ） （2-75）

若一个随机过程的数学期望与t无关，且其自相关函数仅与时间间隔τ有关，则称这个随机过程为宽平稳随机过程或广义平稳随机过程。相应的，前面式（2-75）所定义的过程为严格平稳或狭义平稳随机过程。

平稳随机过程具有一个重要的特性，称为“各态历经性”。即对于一个平稳随机过程X（t），如果其统计平均E[ξ（t）]等于其时间平均，则该随机过程就称为各态历经的平稳随机过程，即

各态历经的含义指从随机过程中得到的任意一个样本，都可认为它经历了随机过程的所有可能状态。这样，只需进行一次而非无限次考察，即可由“统计平均”获得“时间平均”，从而大大简化了计算。

随机过程的频谱特性是以其功率谱密度来表述的。对于确定的非周期功率信号，其自相关函数与谱密度是一对傅里叶变换关系。对于平稳随机过程，也有类似的关系，即

于是

R（0）表示随机过程的平均功率，它等于功率谱密度曲线下的面积。因此，Pξ（ω）必然是平稳随机过程的功率谱密度函数。所以，平稳随机过程的功率谱密度Pξ（ω）与其自相关函数R（τ）是一对傅里叶变换关系，即

简记为R（τ）→Pξ（ω） （2-82）

这一关系称为维纳—辛钦关系，这是平稳随机过程理论和应用中一个非常重要的工具。它是联系频域和时域两种分析方法的基本关系式。

根据上述关系及自相关函数R（τ）的性质，不难推知功率谱密度Pξ（ω）的如下性质：

（1）Pξ（ω）≥0，非负性； （2-83）

（2）Pξ（-ω）=Pξ（ω），偶函数。 （2-84）

因此，可定义单边谱密度Pξ（ω）为

【例2-6】 某随机相位余弦波ξ（t）=Acos（ωct+θ），其中A和ωc均为常数，θ是随机变量，且在（0，2π）内均匀分布。试求ξ（t）的自相关函数与功率谱密度；并讨论ξ（t）是否具有各态历经性。

解：（1）考察ξ（t）的广义平稳性。ξ（t）的数学期望：

ξ（t）的自相关函数：

由于数学期望E[ε（t）]为常数，且自相关函数R（t1，t2）只与时间间隔τ有关，所以ξ（t）为广义平稳随机过程，即

cosωcτ→π[δ（ω-ωc）+δ（ω+ωc）] （2-86）

因为平稳随机过程的相关函数与功率谱密度是一对傅里叶变换，故功率谱密度为

平均功率为

（2）现在来求ξ（t）的时间平均。

比较统计平均与时间平均，发现a=a-，R（τ）=R（τ）。因此，该随机相位余弦波是各态历经的。

2.4.2.3 常见随机变量分布

1.均匀分布

若随机变量X的概率密度函数表示为

则称X在[a，b]上服从均匀分布，其分布函数为

【例2-7】 设随机变量θ在（0，2π）内均匀分布，求Asinθ的数学期望和方差，其中A为常数。

解：该随机变量的概率密度函数为

则可求得其数学期望及方差分别为

2.正态分布

若均值为μ、方差为σ2的随机变量X的概率密度函数为

则称X为服从参数μ和σ的正态分布。其分布函数为

式（2-92）中，若均值μ=0、方差σ2=1，则随机变量X的概率密度函数为

称此时X的分布为标准正态分布，其分布函数为

3.高斯分布

若随机变量X的概率密度函数可以表示为

则称X服从高斯分布，如图2-21所示。

4.瑞利（Rayleigh）分布

若随机变量X的概率密度函数可以表示为

则称X服从瑞利分布，如图2-22所示。

5.莱斯（Rice）分布

若随机变量X的概率密度函数可以表示为

则称X服从莱斯分布，如图2-23所示。其中a为常数且a≥0；I0为第一类修正贝塞尔函数，且。

2.4.3 线性时不变系统对随机输入信号的响应

通信的目的在于传输信号，信号和系统总是联系在一起的。通信系统中的信号或噪声一般都是随机的，那么随机过程通过系统（或网络）后，输出过程将是什么样的呢？

我们知道，线性系统的响应vo（t）等于输入信号vi（t）与系统的单位冲激响应h（t）的卷积，若vo（t）→Vo（ω），vi（t）→Vi（ω），h（t）→H（ω），则有

Vo（ω）=H（ω）Vi（ω） （2-98）

如果把vi（t）看作是输入随机过程的一个样本，则vo（t）可看作是输出随机过程的一个样本。显然，输入过程εi（t）的每个样本与输出过程εo（t）的相应样本之间都满足式（2-98）的关系。这样，就整个过程而言，便有

假定输入εi（t）是平稳随机过程，现在来分析系统的输出过程εo（t）的统计特性。

2.4.3.1 输出过程ξo（t）的数学期望与自相关函数

1.输出过程ξo（t）的数学期望

对式（2-99）两边取统计平均，根据平稳性假设E[ξi（t-τ）]=E[ξi（t）]=a，则有：

又由，所以

E[ξo（t）]=a·H（0） （2-100）

由此可见，输出过程的数学期望等于输入过程的数学期望与直流传递函数H（0）的乘积，且E[ξo（t）]与t无关。

2.输出过程ξo（t）的自相关函数

根据平稳性E[εi（t1-α）εi（ti+τ-β）]=Ri（τ+α-β），有

Ro（t1，t1+τ）=h（α）h（β）Ri（τ+α+β）dαdβ=Ro（τ） （2-103）

可见，ξo（t）的自相关函数只依赖时间间隔τ而与时间起点t1无关。这说明：若线性系统的输入过程是平稳的，那么其相应的输出过程也是平稳的。

2.4.3.2 输出过程ξo（t）的功率谱密度及概率分布

1.输出过程ξo（t）的功率谱密度

对式（2-78）进行傅里叶变换，有

令τ′=τ+α-β，则有

可见，系统输出功率谱密度是输入功率谱密度pi（ω）与系统功率传输函数|H（ω）|2的乘积。这是十分有用的一个重要公式。当我们想得到输出过程的自相关函数Ro（τ）时，比较简单的方法是先计算出功率谱密度，然后求其反变换，这比起直接计算Ro（τ）要简便得多。

【例2-8】 试求功率谱密度为n0的白噪声通过理想低通滤波器后的功率谱密度、自相关函数和噪声平均功率。

解：理想低通的传输特性可表示如下

因此，在|ω|≤ωH内，，输出功率谱密度为

可见，输出噪声的功率谱密度在|ω|≤ωH内是均匀的，在此范围外则为零，如图2-24中（a）图所示，通常把这样的噪声称为带限白噪声。其自相关函数为

式中，ωH=2πfH。由此可见，带限白噪声只有在τ=k/（2fH）（k=1，2，3，…）上得到的随机变量才不相关。如果对带限白噪声按抽样定理抽样的话，则各抽样值是互不相关的随机变量。这是一个很重要的概念。如图2-24（b）所示，带限白噪声的自相关函数Ro（τ）在τ=0处有最大值，这就是带限白噪声的平均功率，即

2.输出过程ξo（t）的概率分布

由于输出过程分布由于积分的本质就是累加求和因此可表示为一个和式的极限，即

设ξi（t）是高斯型的，故任一时刻每项ξi（t-τk）h（τk）Δτk都是一个高斯随机变量。因此，输出过程在任一时刻得到的任一随机变量都是无限多个高斯随机变量之和。由概率理论可知，这个“和”的随机变量也是高斯随机变量。

这样，我们就证明了高斯过程经过线性系统后，其输出过程仍为高斯过程。更一般地说，高斯过程经线性变换后的过程仍为高斯过程。但由于传输过程中介入线性系统，与输入高斯过程相比，输出过程的数字特征已经改变了。