Закон больших чисел. Критерий однородности Смирнова

Свойство (6) является ключевым при доказательстве предельных теорем для сумм независимых  случайных величин методом характеристических функций. В этой связи, функция распределения  выражается через функции распределения отдельных слагаемых уже значительно более сложным образом, а именно, где знак * означает свертку распределений.

С каждой функцией распределения в  можно связать случайную величину, имеющую эту функцию в качестве своей функции распределения. Поэтому при изложении свойств характеристических функций можно ограничиться рассмотрением характеристических функций случайных величин .

Теорема 1. Пусть ξ – случайная величина  с функцией распределения F=F(х) и  – ее характеристическая функция.

Имеют место  следующие свойства:

1. |
2. равномерно непрерывна по ;
3. ;
4. является действительнозначной функцией тогда и только тогда, когда распределение F симметрично

(

);

5. если для некоторого n ≥ 1 , то при всех существуют производные и

,

где и

6. Если существует и является конечной , то
7. Пусть для всех  n ≥ 1 и

тогда при  всех |t|<R

Следующая теорема показывает, что характеристическая функция однозначно определяет функцию  распределения.

Теорема 2 (единственности). Пусть F и G – две  функции распределения, имеющие  одну и ту же характеристическую функцию, то есть для всех

        Тогда .

        Теорема  говорит о том, что функция распределения F = F(х) однозначно восстанавливается по своей характеристической функции . Следующая теорема дает явное представление функции F через .

Теорема 3 (формула обобщения). Пусть F = F(х) –  функция распределения и  – ее характеристическая функция.

 

 

а) Для любых  двух точек a, b (a < b), где функция  F = F(х) непрерывна,

b) eсли то функция распределения F(х) имеет плотность f(x),

.

Теорема 4. Для того чтобы компоненты случайного вектора  были независимы, необходимо и достаточно, чтобы его характеристическая функция была произведением характеристических  функций компонент:

.

Теорема  Бохнера – Хинчина. Пусть  - непрерывная функция, Для того, чтобы была характеристической, необходимо и достаточно, чтобы она была неотрицательно-определенной, то есть для любых действительных t₁, … , t_n и любых комплексных чисел

.

Теорема 5. Пусть  - характеристическая функция случайной величины .

а) Если для некоторого , то случайная величина является решетчатой с шагом , то есть

где а –  некоторая константа.

 

b) Если  для двух различных точек , где - иррациональное число, то случайная величина ξ является вырожденной:

,

где а – некоторая константа.

с) Если , то случайная величина ξ вырождена.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1.1.3 Закон больших чисел.

 

Пусть x_n – последовательность случайных величин, для которых существуют Мx_n. Законом больших чисел называются теоремы, утверждающие, что разность

сходится  к нулю по вероятности.

Теорема Чебышева. Пусть x_n – последовательность независимых случайных величин, Мx_n=a, Dx_n ≤ c. Тогда

.

Доказательство. Докажем даже больше, что  в среднеквадратическом. Так как , то на основании свойств последовательностей сходящихся по вероятности [Для того, чтобы последовательность x_n сходилась в среднеквадратическом к некоторой постоянной с, необходимо и достаточно, чтобы ], для доказательства теоремы достаточно показать, что . Вследствие независимости величин x_k

.

Следствие. Пусть  – последовательность независимых случайных величин такая, что

, n=1, 2, …

Тогда для  каждого x > 0

.

Этот  частный случай теоремы Чебышева дает обоснование правилу среднего арифметического в теории обработки  результатов измерений. Предположим, что нужно измерить некоторую  физическую величину а. Повторив измерения  n раз в одинаковых условиях, наблюдатель получает результаты измерений В качестве приближенного значения а принимается среднее арифметическое результатов измерений

.

Если  наблюдения лишены систематической  ошибки, т. е. Мx_n = а, то согласно сформулированному выше следствию,

.

Теорема Хинчина. Если {x_n} — последовательность независимых одинаково распределенных случайных величин, то закон больших чисел к такой последовательности применим и без предположения о существовании дисперсий. Имеет место следующее утверждение.

Теорема Хинчина. Пусть {x_n} — последовательность независимых одинаково распределенных величин, имеющих конечное математическое ожидание Мx_n = а. Тогда для каждого ε > 0

.

Теорема Бернулли. Рассмотрим еще один частный  случай теоремы Чебышева. Пусть имеем последовательность испытаний, в каждом из которых может быть два исхода — успех У (с вероятностью р) или неудача Н (с вероятностью q=1—р) независимо от исходов других испытаний. Образуем последовательность случайных величин следующим образом. Пусть x_k = 1, если в k-м испытании произошел успех, и x_k = 0, если в k-м испытании произошла неудача. Тогда {x_k} есть последовательность независимых одинаково распределенных случайных величин, Мx_n = р, . Случайная величина

представляет  собой частоту появления успеха в первых п испытаниях. Так как для последовательности {x_k} выполнены условия теоремы Чебышева, то мы из теоремы Чебышева получаем следующее утверждение.

Теорема Бернулли. Для любого ε > 0 при .

Смысл этого  утверждения состоит в том, что  введенное нами определение вероятности  соответствует интуитивному пониманию  вероятности как предела частоты.

Многочлены  Бернштейна. Закон больших чисел  можно использовать для доказательства известной из курса математического анализа теоремы Вейерштрасса о равномерном приближении непрерывной функции многочленами.

Предположим, что производятся независимые испытания, в каждом из которых может произойти либо событие А (успех) с вероятностью х, либо противоположное событие (неудача) с вероятностью 1 — х (0 < х < 1). Пусть — число появлений А при п испытаниях, a f (х) — непрерывная функция на [0, 1]. Как известно,

.

Поэтому

                              .         (1)

Многочлен В_п(х) называется многочленом Бернштейна для функции f(x).

Выше  мы отметили, что  . Естественно ожидать, что при . Докажем следующее утверждение.

Теорема Бернштейна. Последовательность многочленов  В_n(х), определенных равенством (1), сходится к функции f(х) равномерно относительно х Î [0, 1].

Так как  f (х) равномерно непрерывна на [0,1], то для каждого ε > 0 найдется такое, что , как только . Функция f(x) ограничена на [0,1]. Поэтому существует такая постоянная С, что |f(x)|≤ C для всех х Î [0,1]. Заметим также, что

.

Поэтому

и имеем  далее

,

.

Вследствие неравенства Чебышева,

.

Пусть такое, что .   Тогда при

  при всех х Î [0,1]. Теорема доказана.

 

 

 

  1.2 Проверка статистических гипотез

 

1.2.1 Основные  задачи математической статистики  их краткая характеристика

 

Установление  закономерностей, которым подчинены  массовые случайные явления, основано на изучении статистических данных –  результатах наблюдений. Первая задача математической статистики – указать  способы сбора и группировки  статистических сведений. Вторая задача математической статистики – разработать  методы анализа статистических данных, в зависимости от целей исследования.

При решении  любой задачи математической статистики располагают двумя источниками  информации. Первый и наиболее определенный(явный) – это результат наблюдений (эксперимента) в виде выборки из некоторой генеральной  совокупности скалярной или векторной  случайной величины. При этом объем  выборки n может быть фиксирован, а  может и увеличиваться в ходе эксперимента (т. е. могут использоваться так называемые последовательные процедуры  статистического анализа).

Второй  источник – это вся априорная  информация об интересующих свойствах  изучаемого объекта, которая накоплена  к текущему моменту. Формально объем  априорной информации отражается в  той исходной статистической модели, которую выбирают при решении  задачи. Однако и о приближенном в обычном смысле определении  вероятности события по результатам  опытов говорить не приходится. Под  приближенным определением какой-либо величины обычно подразумевают, что  можно указать пределы погрешностей, из которых ошибка не выйдет. Частота  же события случайна при любом  числе опытов из-за случайности результатов  отдельных опытов. Из-за случайности результатов отдельных опытов частота может значительно отклоняться от вероятности события. Поэтому, определяя неизвестную вероятность события как частоту этого события при большом числе опытов, не можем указать пределы погрешности  и гарантировать, что ошибка не выйдет из этих пределов. Поэтому в математической статистике обычно говорят не о приближенных значениях неизвестных величин, а об их подходящих значениях, оценках.

Задача  оценивания неизвестных параметров возникает в тех случаях, когда  функция распределения генеральной  совокупности известна с точностью  до параметра  . В этом случае необходимо найти такую статистику , выборочное значение которой для рассматриваемой реализации x_n случайной выборки можно было бы считать приближенным значением параметра . Статистику , выборочное значение которой для любой реализации x_n  принимают за приближенное значение неизвестного параметра , называют его точечной оценкой или просто оценкой, а - значением точечной оценки. Точечная оценка должна удовлетворять вполне определенным требованиям для того, чтобы её выборочное значение соответствовало истинному значению параметра .

Возможным  является и иной подход к решению  рассматриваемой задачи: найти такие  статистики и ,чтобы с вероятностью γ выполнялось неравенство:

P {

} = γ.

В этом случае говорят об интервальной оценке для  . Интервал

(

)

называют  доверительным интервалом для  с коэффициентом доверия γ.

Оценив  по результатам опытов ту или иную статистическую характеристику, возникает  вопрос: насколько согласуется с  опытными данными предположение (гипотеза) о том, что неизвестная характеристика имеет именно то значение, которое получено в результате её оценивания? Так возникает второй важный класс задач математической статистики – задачи проверки гипотез.

В некотором  смысле задача проверки статистической гипотезы является обратной к задаче оценивания параметра. При оценивании параметра мы ничего не знаем о  его истинном значении. При проверке статистической гипотезы из каких-то соображений  предполагается известным его значение и необходимо по результатам эксперимента проверить данное предположение.

Во многих  задачах математической статистики  рассматриваются последовательности случайных величин  , сходящиеся в том или ином смысле к некоторому пределу (случайной величине или константе), когда .

Таким образом, основными задачами математической статистики являются разработка методов  нахождения оценок и исследования точности их приближения к оцениваемым  характеристикам и разработка методов  проверки гипотез.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1.2.2 Проверка  статистических гипотез: основные  понятия

 

Задача  разработки рациональных методов проверки статистических гипотез – одна из основных задач математической статистики. Статистической гипотезой (или просто гипотезой) называют любое утверждение  о виде или свойствах  распределения  наблюдаемых  в эксперименте случайных  величин.