Критерий факторизации.

Теорема.

Для того чтобы статистикаявлялась достаточной статистикой для семейства, необходимо и достаточно, чтобы существовали измеримые по первой координате, неотрицательные функцииитакие, что почти наверное

,

где функция зависит, а функцияне зависит от.

Выборка и эмпирическая мера

Содержательные выводы о семействе по статистическим данным можно сделать, только если данные содержат в себе достаточно информации о. Идея последовательного накопления данных оприводит к понятиювыборки.

Пусть - измеримое пространство,- некоторое семейство вероятностных мер на.

Рассмотрим - кратное произведение измеримых пространстви семейство

вероятностных мер на нем. При фиксированном , с точки зрения теории вероятностей, данная вероятностная модель описывает последовательностьнезависимых одинаковых опытов, каждый из которых представляет собой независимое повторение исходного опыта. С точки зрения математической статистики данная модель описывает ситуацию, когда априорно известно, что исходные данные

представляют собой независимые наблюдения одного и того же случайного объекта с неизвестным распределением . Такие исходные данные называютсявыборкой (иногда, для определенности, добавляют «из генеральной совокупности с распределением »). Заметим, что в случаеполучаем исходную статистическую модель. Значение называют размером или объемом выборки. Будем в дальнейшем обозначать пространство выборок_.

Если семейство параметрическое, то будем в дальнейшем обозначать - плотность распределения одного наблюдения, - меру в исходном пространстве относительно которой считается плотность.

Если данные представляют собой выборку, то нетрудно построить разумную оценку неизвестной вероятности .

Определение.

Эмпирической мерой называется случайная величина

Эмпирическая мера обладает следующими свойствами

1. Для любого фиксированного набора данных она является вероятностной мерой по. Действительно, эта мера есть среднее арифметическое вырожденных в точках вероятностных мер.

2. Среднее значение данной меры для любого , вычисленное в предположении, что неизвестная мера равна, равноЭто следует из соотношения

3. для любой меры . Это свойство является следствием закона больших чисел в форме Хинчина.

Со статистической точки зрения свойство 2) означает, что эмпирическая мера оценивает неизвестную меру в среднем точно, а свойство 3) – что точность оценки с увеличением размера выборки возрастает.

Свойство 2) называют несмещенностью, а 3) – состоятельностью оценки

«Идея подстановки».

Если - некоторая характеристика распределения данных, например, математическое ожидание некоторой функции от данных, то кажется разумным выбрать в качестве оценки длявеличину(подставитьв). Эта идея реализована в дальнейшем в методе подстановки.

Выбор статистической модели

Выбор статистической модели для конкретных данных оказывает большое влияние на выводы. Наиболее содержательные выводы можно сделать в тех случаях, когда статистические данные представляют собой выборку. Если предположение о независимости и идентичности опытов не соответствует априорным сведениям, то, так или иначе, стараются либо представить исходные данные в виде некоторого преобразования (в этом случае уже ненаблюдаемой) выборки (см. далее линейная регрессионная модель), либо использовать другой вариант описания опыта, при котором можно реализовать идею накопления информации (см. далее марковская цепь, пуассоновский процесс).

Соответствие статистической модели данным можно проверить с помощью специальных процедур математической статистики (см., например, далее критерии согласия). Основная идея такой проверки состоит в следующем. Выбирается множество данных такое, что вероятность попасть в это множество при существенных отклонениях от предложенной модели достаточно велика. Тогда событиеинтерпретируется как согласие данных с моделью, а событие, как несогласие. Множествоназывается обычно критическим множеством. Подробнее о статистических критериях далее в разделепроверка статистических гипотез.

Проверить качество статистических процедур и определить их характеристики можно, применяя статистическое моделирование с использованием компьютера. Для этого выбирается несколько распределений , для каждого из них с помощью компьютера моделируется несколько выборок и затем вычисляются и сравниваются теоретические и практические значения интересующих исследователя характеристик распределения. Хорошее согласие теории и практики на тестовых распределениях позволяет надеяться на такой же результат при реальных исследовании статистических данных.