Часть 1. Фундамент прикладной статистики

1.4. Теоретическая база прикладной статистики

1.4.1. Законы больших чисел

          Законы больших чисел позволяют описать поведение сумм случайных величин. Примером является следующий результат, обобщающий полученный ранее в подразделе 1.2.2. Там было доказано следующее утверждение.

          Теорема Чебышёва. Пусть случайные величины Х₁, Х₂,…, Х_k попарно независимы и существует число С такое, что D(X_i)<C при всех i = 1, 2, …, k. Тогда для любого положительного ε выполнено неравенство

   (1)

          Частным случаем теоремы Чебышева является теорема Бернулли – первый в истории вариант закона больших чисел.

          Теорема Бернулли. Пусть m – число наступлений события А в k независимых (попарно) испытаниях, и р есть вероятность наступления события А в каждом из испытаний. Тогда при любом  справедливо неравенство

   (2)

Ясно, что при росте k выражения в правых частях формул (1) и (2) стремятся к 0. Таким образом, среднее арифметическое попарно независимых случайных величин сближается со средним арифметическим их математических ожиданий.

          Напомним, что в разделе 1.2 шла речь лишь о пространствах элементарных событий из конечного числа элементов. Однако приведенные теоремы верны и в общем случае, для произвольных пространств элементарных событий. Однако в условие закона больших чисел необходимо добавить требование существования дисперсий. Легко видеть, что если существуют дисперсии, то существуют и математические ожидания. Закон больших чисел в форме Чебышёва приобретает следующий вид.

          Теорема Чебышева [2, с.147]. Если Х₁, Х₂,…, Х_k ,… - последовательность попарно независимых случайных величин, имеющих конечные дисперсии, ограниченные одной и той же постоянной,

D(X₁)<C, D(X₂)<C,… D(л_i)<C,…

то, каково бы ни было постоянное ε > 0,

  (3)

          С точки зрения прикладной статистики ограниченность дисперсий вполне естественна. Она вытекает, например, из ограниченности диапазона изменения практически всех величин, используемых при реальных расчетах.

          В 1923 г. А.Я. Хинчин показал, что если случайные величины не только независимы, но и одинаково распределены, то существование у них математического ожидания является необходимым и достаточным условием для применимости закона больших чисел [2, с.150]. 

          Теорема [2, с.150-151]. Для того чтобы для последовательности Х₁, Х₂,…, Х_k ,…(как угодно зависимых) случайных величин при любом положительном ε выполнялось соотношение (3), необходимо и достаточно, чтобы при n → ∞

          Законы больших чисел для случайных величин служат основой для аналогичных утверждений для случайных элементов в пространствах более сложной природы. В частности, в пространствах произвольной природы (см. подраздел 2.1.5 далее). Однако здесь мы ограничимся классическими формулировками, служащими основой для современной прикладной статистики.

          Смысл классических законов больших чисел состоит в том, что выборочное среднее арифметическое независимых одинаково распределенных случайных величин  приближается (сходится ) к математическому ожиданию этих величин. Другими словами, выборочные средние сходятся к теоретическому среднему.

          Это утверждение справедливо и для других видов средних. Например, выборочная медиана сходится к теоретической медиане. Это утверждение – тоже закон больших чисел, но не классический.

          Существенным продвижением в теории вероятностей во второй половине ХХ в. явилось введение средних величин в пространствах произвольной природы и получение для них законов больших чисел, т.е. утверждений, состоящих в том, что эмпирические (т.е. выборочные )средние сходятся к теоретическим средним. Эти результаты будут рассмотрены в подразделе 2.1.5 ниже.