1. Лемма Неймана — Пирсона. Наиболее мощные критерии

Пусть   - выборка (набор независимых, одинаково распределенных величин), и имеются две гипотезы о распределении  :

 

 

Предполагается, что распределения  ,   либо оба дискретны, либо оба абсолютно непрерывны.

Для любого   НМК уровня   существует и совпадает с критерием отношения правдоподобия:

при этом   и   определяются из уравнения  , или

 (7.1)

Доказательство леммы Неймана - Пирсона

1. Докажем, что уравнение (7.1) разрешимо относительно   и  .

Рассмотрим невозрастающую функцию  .

Поскольку интегрирование ведется по области  , то под интегралом  . Поэтому

 при  .

Рассмотрим  :

Возможны два критерия:  (а)   и  (б)  .

2. Математическое ожидание суммы случайных величин

Докажем, что для любых двух случайных величин  и

,                          (10.2.3)

т. е. математическое ожидание суммы двух случайных величин равно сумме их математических ожиданий.

Это свойство известно под названием теоремы сложения математических ожиданий.

Доказательство.

а) Пусть  - система прерывных случайных величин. Применим к сумме случайных величин общую формулу (10.1.6) для математического ожидания функции двух аргументов:

.

Ho  представляет собой не что иное, как полную вероятность того, что величина  примет значение :

;

следовательно,

.

Аналогично докажем, что

,

и теорема доказана.

б) Пусть  - система непрерывных случайных величин. По формуле (10.1.7)

.                  (10.2.4)

Преобразуем первый из интегралов (10.2.4):

аналогично

,

и теорема доказана.

Следует специально отметить, что теорема сложения математических ожиданий справедлива для любых случайных величин - как зависимых, так и независимых.

Теорема сложения математических ожиданий обобщается на произвольное число слагаемых:

,                    (10.2.5)

т. е. математическое ожидание суммы нескольких случайных величин равно сумме их математических ожиданий.

Для доказательства достаточно применить метод полной индукции.

Дисциплина: ТВ и МС Билет № 10

1. Сравнение дисперсий двух гауссовских выборок. Критерий Фишера.

Сравнение математических ожиданий проводят в тех случаях, когда требуется установить соответствие показателей качества изготовленной продукции и эталонного образца. Это — задача проверки гипотезы:

где m₀ — значение, соответствующее эталонному образцу; X — случайная величина, моделирующая результаты наблюдений. В зависимости от формулировки вероятностной модели ситуации и альтернативной гипотезы сравнение математических ожиданий проводят либо параметрическими, либо непараметрическими методами.

Сравнение дисперсий проводят тогда, когда требуется установить отличие рассеивания показателя качества от номинального. Для этого проверяют гипотезу:

Ряд иных постановок задач одномерной статистики приведён ниже. Не меньшее значение, чем задачи проверки гипотез, имеют задачи оценивания параметров. Они, как и задачи проверки гипотез, в зависимости от используемой вероятностной модели ситуации делятся на параметрические и непараметрические.

В параметрических задачах оценивания принимают вероятностную модель, согласно которой результаты наблюдений   рассматривают как реализации n независимых случайных величин с функцией распределения F(x;θ). Здесь θ — неизвестный параметр, лежащий в пространстве параметров Θ заданном используемой вероятностной моделью. Задача оценивания состоит в определении точечной оценок и доверительных границ (либо доверительной области) для параметра θ.

Параметр θ — либо число, либо вектор фиксированной конечной размерности. Так, для нормального распределения θ = (m,σ²) — двумерный вектор, для биномиального θ = p — число, для гамма-распределения θ = (a,b,c) — трёхмерный вектор, и так далее.

В современной математической статистике разработан ряд общих методов определения оценок и доверительных границ — метод моментов, метод максимального правдоподобия, метод одношаговых оценок, метод устойчивых (робастных) оценок, метод несмещённых оценок и другие. Кратко рассмотрим первые три из них. Теоретические основы различных методов оценивания и полученные с их помощью конкретные правила определения оценок и доверительных границ для тех или иных параметрических семейств распределений рассмотрены в специальной литературе, включены в нормативно-техническую и инструктивно-методическую документацию.

Метод моментов основан на использовании выражений для моментов рассматриваемых случайных величин через параметры их функций распределения. Оценки метода моментов получают, подставляя выборочные моменты вместо теоретических в функции, выражающие параметры через моменты.

В методе максимального правдоподобия, разработанном в основном Р. А. Фишером, в качестве оценки параметра θ берут значение θ ^* , для которого максимальна так называемая функция правдоподобия

…

где   — результаты наблюдений; f(x,θ) — их плотность распределения, зависящая от параметра θ, который нужно оценить.

Оценки максимального правдоподобия, как правило, эффективны (или асимптотически эффективны) и имеют меньшую дисперсию, чем оценки метода моментов. В отдельных случаях формулы для них выписываются явно (нормальное распределение, экспоненциальное распределение без сдвига). Однако чаще для их нахождения надо численно решать систему трансцендентных уравнений (распределения Вейбулла-Гнеденко, гамма). В подобных случаях целесообразно использовать не оценки максимального правдоподобия, а другие виды оценок, прежде всего одношаговые оценки. В литературе их иногда не вполне точно называют «приближённые оценки максимального правдоподобия». При достаточно больши́х объёмах выборок они имеют столь же хорошие свойства, как и оценки максимального правдоподобия. Поэтому их следует рассматривать не как «приближённые», а как оценки, полученные по другому методу, не менее обоснованному и эффективному, чем метод максимального правдоподобия. Одношаговые оценки вычисляют по явным формулам

В непараметрических задачах оценивания принимают вероятностную модель, в которой результаты наблюдений   рассматривают как реализации n независимых случайных величин с функцией распределения F(x) общего вида. От F(x) требуют лишь выполнения некоторых условий типа непрерывности, существования математического ожидания и дисперсии и тому подобного. Подобные условия не являются столь жёсткими, как условие принадлежности к определённому параметрическому семейству.

F - критерий Фишера используют для сравнения дисперсий двух вариационных рядов. Он вычисляется по формуле:

,

где   - большая дисперсия,   - меньшая дисперсия.

Если вычисленное значение критерия F больше критического для определенного уровня значимости и соответствующих чисел степеней свободы для числителя и знаменателя, то дисперсии считаются различными.

Число степеней свободы числителя определяется по формуле:

,

где   - число вариант для большей дисперсии.

Число степеней свободы знаменателя определяется по формуле:

,

где   - число вариант для меньшей дисперсии.