52. Статистический критерий. Критическая область

Статистический критерий — строгое математическое правило, по которому принимается или отвергается та или иная статистическая гипотеза с известным уровнем значимости. Построение критерия представляет собой выбор подходящей функции от результатов наблюдений (ряда эмпирически полученных значений признака), которая служит для выявления меры расхождения между эмпирическими значениями и гипотетическими.

Определение

Пусть даны выборка из неизвестного совместного распределения P^X, и семейство статистических гипотез . Тогда статистическим критерием называется функция, устанавливающая соответствие между наблюдаемыми величинами и возможными гипотезами:

Таким образом каждой реализации выборки статистический критерий сопоставляет наиболее подходящую с точки зрения этого критерия гипотезу о распределении, породившем данную реализацию.

Виды критериев

Статистические критерии подразделяются на следующие категории:

Критерии значимости. Проверка на значимость предполагает проверку гипотезы о численных значениях известного закона распределения: H_o— нулевая гипотеза. H₁или — конкурирующая гипотеза.

Критерии согласия. Проверка на согласие подразумевает проверку предположения о том, что исследуемая случайная величина подчиняется предполагаемому закону. Критерии согласия можно также воспринимать, как критерии значимости. Критериями согласия являются:

Критерий Пирсона

Критерий Колмогорова-Смирнова

Критерий Андерсона-Дарлинга (англ.)

Критерий Жака-Бера (англ.)

Критерий Шапиро-Вилка (англ.)

График нормальности (англ.) — не столько критерий, сколько графическая иллюстрация: точки специально построенного графика должны лежать почти на одной прямой.

Критерии на однородность. При проверке на однородность случайные величины исследуются на факт взаимного соответствия их законов распределения (подчиняются ли эти величины одному и тому же закону). Используются в факторном (дисперсионном) анализе для определения наличия зависимостей.

Это разделение условно, и зачастую один и тот же критерий может быть использован в разных качествах.

Непараметрические критерии

Группа статистических критериев, которые не включают в расчёт параметры вероятностного распределения и основаны на оперировании частотами или рангами.

Q-критерий Розенбаума

U-критерий Манна-Уитни

Критерий Колмогорова

Критерий Уилкоксона

Параметрические критерии

Группа статистических критериев, которые включают в расчет параметры вероятностного распределения признака (средние и дисперсии).

t-критерий Стьюдента

Критерий отношения правдоподобия

Критерий Пирсона

53. Сравнение выборочной средней с математическим ожиданием

Вы́борочное (эмпири́ческое) сре́днее — это приближение теоретического среднего распределения, основанное на выборке из него.

Определение

Пусть — выборка из распределения вероятности, определённая на некотором вероятностном пространстве . Тогда её выборочным средним называется случайная величина

Свойства выборочного среднего

Пусть F(x) — выборочная функция распределения данной выборки. Тогда для любого фиксированного функция F(w;x) является (неслучайной) функцией дискретного распределения. Тогда математическое ожидание этого распределения равно X(w). Выборочное среднее — несмещённая оценка теоретического среднего:

Выборочное среднее — сильно состоятельная оценка теоретического среднего: почти наверное при . Выборочное среднее — асимптотически нормальная оценка. Пусть дисперсия случайных величин Xi конечна и ненулевая, то есть . Тогда

по распределению при , где N(0,у2) — нормальное распределение со средним 0 и дисперсией у2.

Выборочное среднее из нормальной выборки — эффективная оценка её среднего.

Математи́ческое ожида́ние — мера среднего значения случайной величины в теории вероятностей. В англоязычной литературе и в математическом сообществе Санкт-Петербурга обозначается через E[X](например, от англ. Expected value или нем. Erwartungswert), в русской — M[X] (возможно, от англ. Mean value, а возможно от русск. Математическое ожидание). В статистике часто используют обозначение м.

Определение

Пусть задано вероятностное пространство и определённая на нём случайная величина X. То есть, по определению, — измеримая функция. Если существует интеграл Лебега от X по пространству Щ, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается M[X] или E[X].

Основные формулы для математического ожидания

Если FX(x) — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

.

Математическое ожидание дискретного распределения

Если X — дискретная случайная величина, имеющая распределение , то прямо из определения интеграла Лебега следует, что . Математическое ожидание целочисленной величины

Если X — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

то её математическое ожидание может быть выражено через производящую функцию последовательности {pi} как значение первой производной в единице: M[X] = P'(1). Если математическое ожидание X бесконечно, то и мы будем писать

Теперь возьмём производящую функцию Q(s) последовательности «хвостов» распределения {qk}

Эта производящая функция связана с определённой ранее функцией P(s) свойством: при | s | < 1. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

M[X] = P'(1) = Q(1)

Математическое ожидание абсолютно непрерывного распределения

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью fX(x), равно . Математическое ожидание случайного вектора

Пусть — случайный вектор. Тогда по определению , то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины

Пусть — борелевская функция, такая что случайная величина Y = g(X) имеет конечное математическое ожидание. Тогда для него справедлива формула:

,

если X имеет дискретное распределение;

,

если X имеет абсолютно непрерывное распределение.

Если распределение P^xслучайной величины X общего вида, то . В специальном случае, когда g(X) = Xk, Математическое ожидание называется k-тым моментом случайной величины.

Простейшие свойства математического ожидания

Математическое ожидание числа есть само число.

M[a] = a — константа;

Математическое ожидание линейно, то есть

M[aX + bY] = aM[X] + bM[Y],

где X,Y — случайные величины с конечным математическим ожиданием, а — произвольные константы;

Математическое ожидание сохраняет неравенства, то есть если почти наверное, и Y — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины X также конечно, и более того

;

Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если X = Y почти наверное, то

M[X] = M[Y].

Математическое ожидание произведения двух независимых случайных величин X,Y равно произведению их математических ожиданий

M[XY] = M[X]M[Y].