При x2 ! +1 функция F (x1; x2) становится функцией распределения X1, которая является функцией равномерного распределения на [a; b]. Аналогично, случайная величина X2 имеет равномерное распределение на [c; d].
5.4.Числовые характеристики случайного вектора
Пусть известно распределение некоторого случайного вектора X =
= (X1; :::; Xn). Введем случайную величину g(X), где g(x) = g(x1; :::; xn)
– некоторая функция n переменных. Математическое ожидание этой величины может рассматриваться как числовая характеристика случайного вектора. Для вычисления числовых характеристик в случае дискретного или абсолютно непрерывного распределения применяются формулы, аналогичные соответствующим формулам в одномерном случае. В случае дискретного распределения
Mfg(X1; :::; Xn)g = Xg(x(1k); :::; x(nk))pk;
k
где pk = P (X1 = x(1k); :::; Xn = x(nk)).
В случае абсолютно непрерывного распределения
Z
Mfg(X1; :::; Xn)g = g(x1; :::; xn)f(x1; :::; xn)dx1:::dxn;
Rn
где f(x1; :::; xn) – плотность распределения случайного вектора.
Часто рассматриваются наборы однотипных числовых характеристик. Так, математическим ожиданием случайного вектора называется вектор, составленный из математических ожиданий его компонент. (Одна компонента тоже может рассматриваться как функция вектора g(x1; :::; xn) = xi, поэтому математическое ожидание каждой компоненты случайного вектора подходит под данное определение числовой характеристики.)
Используя понятие распределения случайного вектора, нетрудно получить еще одно свойство математического ожидания.
Теорема 5.1. Пусть X1 и X2 – любые случайные величины с конечными математическими ожиданиями. Тогда
MfX1 + X2g = MfX1g + MfX2g:
Рассмотрим случайный вектор (X1; X2). При доказательстве теоремы ограничимся случаем, когда этот вектор имеет абсолютно непрерывное распределение. Пусть f(x1; x2) – плотность распределения данного вектора.
60
Тогда |
|
MfX1 + X2g = Z2 |
|
|
|
|
|
|
|
(x1 + x2)f(x1; x2)dx1dx2 = |
|
||||
|
1 x1 |
|
R |
|
1 0x2 1 f(x1; x2)dx11dx2 = |
||
= |
0 1 f(x1; x2)dx21dx1 + |
||||||
|
Z |
Z |
A |
|
Z |
Z |
A |
|
1 |
@ 1 |
|
1 @ 1 |
|||
|
|
1 |
|
|
1 |
|
|
|
|
= Z |
x1f1(x1)dx1 + Z |
x2f2(x2)dx2; |
|
||
|
|
1 |
|
|
1 |
|
|
где, согласно формуле вычисления одномерной плотности (5.1), функции f1(x1) и f2(x2) являются плотностями распределений случайных величин X1 и X2. Отсюда, пользуясь формулой вычисления математического ожидания абсолютно непрерывной случайной величины, получим утверждение теоремы.
Определение 5.1. Ковариационным моментом компонент случайного вектора (случайных величин Xi и Xj) называется числовая характеристика
cov(Xi; Xj) = M f(Xi MfXig)(Xj MfXjg)g :
Матрица R, составленная из элементов rij = cov(Xi; Xj), где Xi и Xj – компоненты случайного вектора, называется ковариационной матрицей случайного вектора.
Если в определении ковариационного момента раскрыть скобки под знаком математического ожидания и воспользоваться свойствами математического ожидания, то получится другая формула для вычисления ковариационного момента:
cov(Xi; Xj) = MfXiXjg MfXigMfXjg: |
(5.2) |
В силу очевидного равенства rij = rji ковариационная матрица является симметричной. Заметим также, что при i = j ковариационный момент становится дисперсией случайной величины Xi. Таким образом, на главной диагонали ковариационной матрицы стоят дисперсии соответствующих компонент случайного вектора. Кроме того, по ковариационной матрице может быть вычислена дисперсия любой линейной комбинации компонент случайного вектора. Действительно, пусть случайная величина
n
X
Z = aiXi:
i=1
61
Обозначим для краткости записи Yi = Xi MfXig. Тогда
DfZg = M (Z MfZg)2 = M |
8 |
n |
aiXi n |
aiMfxig!29 |
= |
|||||||||
|
|
|
|
|
|
< |
i=1 |
|
i=1 |
|
|
= |
|
|
8 |
|
|
|
: |
X |
|
X |
|
9 |
; |
|
|||
|
|
n |
aiYi! |
2 |
n |
n |
|
|
|
|||||
= M |
i=1 |
9 = M |
8 |
|
aiajYiYj |
= |
|
|||||||
|
< |
|
|
= |
|
<i=1 j=1 |
|
|
= |
|
|
|||
|
|
X |
|
|
|
|
XX |
|
|
|
|
|
||
|
: n |
|
n |
|
|
; |
|
: n n |
|
|
; |
|
|
|
|
Xi |
X |
|
|
|
XX |
|
|
|
|
||||
= |
|
|
aiajMfYiYjg = |
|
rijaiaj: |
|
|
|
||||||
|
=1 j=1 |
|
|
|
i=1 j=1 |
|
|
|
|
|||||
Полученное равенство может быть записано также в матричной фор- |
||||||||||||||
ме: |
|
|
|
D (a; X) = (Ra; a); |
|
|
|
|
(5.3) |
|||||
|
|
|
|
|
|
|
|
|||||||
где a – постоянный вектор; (a; X) – скалярное произведение вектора a и
случайного вектора X.
Поскольку дисперсия неотрицательна, из последнего равенства следует, что (Ra; a) 0 для любого вектора a. Матрицы, удовлетворяющие этому свойству, называются неотрицательно-определенными. (Все собственные числа таких матриц неотрицательны.) Таким образом, ковариационная матрица является симметричной неотрицательно-определенной матрицей.
Ковариационные моменты характеризуют определенную связь между компонентами случайного вектора. Их размерность равна произведению размерностей соответствующих случайных величин. Безразмерной характеристикой связи двух случайных величин является коэффициент корреляции
ij = pcov(Xi; Xj) :
DfXigDfXjg
Если случайные величины линейно связаны (одна из них является линейной функцией другой), то их коэффициент корреляции по модулю равен единице. Действительно, пусть X2 = aX1 + b. Тогда
cov(X1; X2) = M f(aX1 + b aMfX1g b)(X1 MfX1g)g =
=M a(X1 MfX1g)2 = aDfX1g:
Сдругой стороны, DfaX1 + bg = a2DfX1g. Таким образом,
|
|
= |
|
aDfX1g |
= |
a |
: |
|
|
|
|
|
|||||
12 |
pa2DfX1gDfX1g |
jaj |
||||||
|
|
|
|
|||||
Итак, в случае линейно связанных величин коэффициент корреляции равен 1, если эта зависимость прямая (a > 0), и равен 1 в случае обратной
62
зависимости (a < 0). На самом деле эти значения являются крайними: справедливо неравенство j ijj 1:
Для доказательства этого неравенства рассмотрим случайный вектор, составленный из двух случайных величин (X1; X2). В силу неотрицательной определенности ковариационной матрицы этого вектора ее определи-
тель (который равен произведению собственных чисел) является неотрицательным, т. е. DfX1gDfX2g (cov(X1; X2))2 0.
p
Таким образом, jcov(X1; X2)j DfX1gDfX2g, откуда следует требуемое неравенство для коэффициента корреляции.
5.5. Независимость случайных величин
Определение 5.2. Случайные величины X1 и X2 называются независимыми, если независимыми являются любые события вида fX1 2 A1g и fX2 2 A2g, где A1 и A2 – произвольные борелевские множества на прямой.
Напомним, что независимость событий означает
P (X1 2 A1; X2 2 A2) = P (X1 2 A1) P (X2 2 A2):
В частности, для дискретных случайных величин
P (X1 = xi; X2 = yj) = P (X1 = xi) P (X2 = yj):
Взяв в качестве A1 и A2 интервалы ] 1; x1[ и [ 1; x2[, получим, что функция распределения случайного вектора (X1; X2) равна произведению функций распределения входящих в него независимых случайных величин:
F (x1; x2) = F1(x1)F2(x2).
Если распределения независимых случайных величин являются абсолютно непрерывными, то, продифференцировав последнее равенство по переменным x1 и x2, получим соответствующую связь плотности распределения случайного вектора с плотностями компонент: f(x1; x2) = f1(x1)f2(x2).
Полученные формулы разложения в произведение для функций распределения или плотностей являются не только необходимыми, но и достаточными условиями независимости: при их выполнении для всех значений переменных соответствующие случайные величины являются независимыми.
Покажем теперь, что математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий. Доказательство проведем для абсолютно непрерывных случайных
63
величин. Итак, пусть X1 и X2 – независимые случайные величины. Тогда
1 |
1 |
1 |
1 |
|
MfX1X2g = Z Z |
x1x2f(x1; x2)dx1dx2 = Z Z |
x1x2f(x1)f(x2)dx1dx2 = |
||
1 1 |
1 1 |
|
||
11
ZZ
= x1f(x1)dx1 x2f(x2)dx2 = MfX1gMfX2g:
1 1
Из этой формулы вытекает одно важное следствие: ковариационный момент независимых случайных величин равен 0. Действительно, согласно формуле (5.2), ковариационный момент
cov(X1; X2) = MfX1X2g MfX1gMfX2g =
= MfX1gMfX2g MfX1gMfX2g = 0:
Определение 5.3. Случайные величины называются некоррелированными, если их ковариационный момент (и, соответственно, коэффициент корреляции) равен нулю.
Таким образом, из независимости случайных величин следует их некоррелированность. (Обратное в общем случае неверно.)
В 5.4 (теорема 5.1 ) было показано, что математическое ожидание суммы случайных величин равно сумме их математических ожиданий. В случае некоррелированных (в частности, независимых) случайных величин аналогичная формула справедлива и для дисперсий.
Теорема 5.2. Пусть X1 и X2 – некоррелированные случайные величины. Тогда
DfX1 + X2g = DfX1g + DfX2g:
Для доказательства этой теоремы применим к дисперсии суммы двух случайных величин формулу (5.3):
DfX1 + X2g = r11 1 1 + r12 1 1 + r12 1 1 + r22 1 1 =
= DfX1g + 2r12 + DfX2g:
Отсюда вследствие некоррелированности случайных величин (r12 = 0) получаем требуемую формулу.
Если известны распределения независимых случайных величин, то по ним могут быть определены не только числовые характеристики, но и распределение их суммы. Проще всего это сделать в терминах характеристических функций. Прежде всего заметим, что из определения независимости
64