Материал: Теория вероятностей, лекции

случайных величин следует, что функции от них также являются независимыми случайными величинами. Итак, пусть '1(t) и '2(t) – характеристические функции независимых случайных величин X1 и X2. Тогда, используя формулу математического ожидания произведения независимых случайных величин, получим характеристическую функцию их суммы:

no

'(t) = M eit(X1+X2) = M eitX1 eitX2 =

=M eitX1 M eitX2 = '1(t)'2(t);

т.е. характеристическая функция суммы независимых случайных величин равна произведению их характеристических функций.

Рассмотрим для примера характеристическую функцию суммы двух независимых случайных величин, имеющих стандартное нормальное распределение. Согласно формуле (4.2)

т. е. характеристическая функция суммы двух независимых случайных ве-

личин X и X , имеющих стандартное нормальное распределение, рав-

1 2 p

на характеристической функции случайной величины 2X1. Этот факт нетрудно обобщить на случай произвольных нормально распределенных случайных величин и переформулировать в терминах распределений: сумма независимых нормально распределенных случайных величин имеет нормальное распределение. В частности, в случае нормального распределения для независимых одинаково распределенных случайных величин X1 и X2 существуют такие константы a и b, что a(X1 + X2) + b имеет то же распределение, что и X1. Это свойство называется свойством устойчивости распределения. Уникальность нормального распределения заключается в том, что оно является единственным распределением с конечной дисперсией, обладающим свойством устойчивости.

Введенное понятие независимости двух случайных величин нетрудно обобщить для любого числа случайных величин: соответствующие события, заключающиеся в попадании каждой случайной величины в некоторое множество на прямой, должны быть независимыми в совокупности. Формулы произведения функций распределения и плотностей, а также формулы для дисперсии и характеристической функции суммы независимых случайных величин естественным образом обобщаются для любого числа независимых случайных величин.

Формулы для математического ожидания и дисперсии суммы случайных величин дают возможность простым способом определить эти числовые характеристики для случайной величины, имеющей биномиальное

65

распределение (см. 4.6). Определим для каждого из независимых испытаний Бернулли случайную величину:

Это – двуточечные случайные величины, принимающие значение 1 с вероятностью p. Они, как было показано в 4.6, имеют MfYig = p и DfYig = p(1 p). Кроме того, эти случайные величины определяются по результатам независимых испытаний и поэтому независимы. Случайная величина Xn с биномиальным распределением равна числу наступлений события !1 в последовательности n испытаний Бернулли, т. е. количеству

единиц в последовательности значений случайных величин Yi. Таким об-

n

X

разом, Xn = Yi, поэтому

i=1

( n ) n

XX

( n ) n

XX

Например, если Xn – число выпадений герба при 100 бросаниях симметричной монеты (p = 0:5), то MfXng = 50 и DfXng = 25.

5.6. Многомерное нормальное распределение

Пусть X – случайный вектор с абсолютно непрерывным распределением в Rn. Говорят, что этот вектор имеет n-мерное нормальное распределение, если он имеет математическое ожидание m, невырожденную ковариационную матрицу R и плотность его распределения имеет вид

(2 )n=2 detR

Здесь R 1 – матрица, обратная к R; detR – определитель матрицы R. В показателе экспоненты записана квадратичная форма от компонент вектора x m, построенная по симметричной матрице R 1.

Прежде всего заметим, что при n = 1 ковариационная матрица и ее определитель становятся дисперсией, обратная матрица – обратным числом, и получаем обычное нормальное распределение общего вида, определенное в 4.6.

66

Рассмотрим теперь случай, когда компоненты случайного вектора некоррелированны, т. е. ковариационная матрица – диагональная. Ее диагональные элементы, которые являются дисперсиями компонент случайного вектора, обозначим через 2i . Обратная матрица в этом случае также будет диагональной, с числами, обратными дисперсиям, на диагонали. Таким образом, в случае некоррелированных компонент плотность нормального распределения

2 1 2 n

т.е. плотность распадается на произведение n функций, каждая из которых зависит от своей переменной и является плотностью одномерного нормального распределения. Таким образом, проинтегрировав данную плотность распределения случайного вектора по всем переменным, кроме одной, получим плотность распределения одной компоненты случайного вектора, которая является одним сомножителем полученного произведения,

т.е. плотность f(x) равна произведению плотностей компонент случайного вектора. Отсюда можно сделать вывод, что в случае некоррелированных компонент нормально распределенного случайного вектора эти компоненты являются также и независимыми и имеют нормальные распределения. Другими словами, в случае нормального распределения некоррелированность эквивалентна независимости.

Кроме того, можно показать, что также и в случае коррелированных компонент все компоненты случайного вектора имеют нормальное распределение. Действительно, поскольку ковариационная матрица является симметричной, существует ортогональное преобразование, приводящее ее к диагональному виду. Этому ортогональному преобразованию соответствует линейная замена переменных, а ей – линейное преобразование компонент случайного вектора. Таким образом, компоненты любого случайного вектора могут быть представлены как линейные функции от случайного вектора с некоррелированными компонентами, плотность распределения которого, в случае нормального распределения, описывается формулой (5.4). Но, как следует из рассуждений, проведенных в 5.5, любая линейная комбинация независимых нормально распределенных случайных величин также имеет нормальное распределение. Таким образом, все компоненты данного случайного вектора имеют нормальное распределение.

Рассмотрим теперь случай, когда n = 2. При некоррелированных ком-

67

понентах

(Как было показано ранее, к этому случаю всегда можно прийти ортогональной заменой переменных, т. е. поворотом координатных осей. Отметим только, что при таком преобразовании значения 21 и 22 отличаются от исходных дисперсий и представляют собой собственные числа ковариационной матрицы.)

Линии уровня этой плотности (линии, на которых плотность принимает одно и то же значение) – эллипсы с центром в точке (m1; m2) и полуосями, пропорциональными среднеквадратичным отклонениям 1 и 2. Фигуры, ограниченные этими эллипсами, называются эллипсами рассеяния. Вычислим вероятность попадания нормально распределенного двухмерного случайного вектора в эллипс рассеяния B(k) c полуосями k 1 и

k 2:

Z Z

P ((X1; X2) 2 B(k)) = f(x1; x2)dx1dx2:

B(k)

Сделав в последнем интеграле замену переменных

x1 = m1 + 1 cos '; x2 = m2 + 2 sin ';

якобиан которой равен 1 2 , получим:

Так, например, вероятность попадания в эллипс рассеяния с полуосями, равными утроенным среднеквадратичным отклонениям, равна

1 e( 9=2) = 0:989:

6.ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ ТЕОРИИ ВЕРОЯТНОСТЕЙ

6.1. Закон больших чисел

Рассмотрим поведение среднего арифметического независимых случайных величин. Пусть независимые случайные величины

X1; X2; :::; Xn

68

имеют конечные дисперсии. Найдем дисперсию их среднего арифметического. Поскольку для независимых случайных величин дисперсия суммы равна сумме дисперсий, получим:

В частности, в случае одинаковых дисперсий D(Xi) = 2 получим:

Таким образом, дисперсия среднего арифметического для независимых случайных величин приближается к нулю с увеличением числа слагаемых. Это означает, что с ростом числа слагаемых уменьшается разброс возможных значений среднего арифметического относительно его математического ожидания, т. е. среднее арифметическое независимых случайных величин в определенном смысле стремится к своему математическому ожиданию. Для того чтобы строго сформулировать соответствующий результат, необходимо ввести понятие сходимости для последовательности случайных величин.

Определение 6.1. Последовательность случайных величин X1, X2,

..., Xn, ... сходится по вероятности к числу a, если для любого t 0

lim P (jXn aj > t) = 0:

n!1

Теперь сформулируем основной результат, который называется законом больших чисел.

Теорема 6.1. Пусть X1; X2; :::; Xn; ::: – последовательность независимых случайных величин с одинаковыми математическими ожиданиями MfXig = m и равномерно ограниченными дисперсиями D[Xj] C. Тогда последовательность средних арифметических первых n величин сходится по вероятности к математическому ожиданию m.

Доказательство. Из свойств математического ожидания тривиальным образом следует, что математическое ожидание среднего арифметического равно среднему арифметическому математических ожиданий слагаемых, т. е. в данном случае числу m. Воспользовавшись неравенством Чебышева (теорема 4.1 ) и формулой (6.1) для дисперсии среднего арифметического, получим, что для любого t 0

69